Эмоции для искусственного интеллекта: эволюция мысли и прогресс

Достижения робототехники и, особенно, расходы на них* сделали достаточно очевидной мысль, что не только один человек обладает интеллектом, что он есть не только у домашних животных, с поведением которых мы более-менее близко знакомы, но он даже есть у одноклеточных организмов. Эстету на заметку: *Мысль о том, что ракета стоимостью в миллион долларов бывает промахивается по цели, а сперматозоид, который не стоит вообще ничего, — нет — может шокировать представителей ВПК (с) А. Розов. Получается, интеллект человека можно рассматривать не как нечто эксклюзивное, как считалось ранее, а, скорее, как новое поколение в серии моделей интеллектов из мастерской природы. Следовательно, чтобы изучать интеллект человека, неплохо бы понять не только его самого, но и весь путь, пройденный природой. Предлагаемая оригинальная эволюционная классификация интеллекта по поколениям (или эволюционным уровням) прояснит вехи этого пути.

Картинки по запросу искусственный интеллект

Постановка задачи

Вопрос, который нужно решить при постановке задачи: зачем нам вообще знать, как интеллект человека появился, усложнялся и, наконец, стал таким, как есть?

Самый очевидный ответ: чтобы подсмотрев, как все происходило в мастерской природы, изготовить его подобие — искусственный интеллект (ИИ).

Вообще-то мы весьма положительно воспринимаем ИИ до определенного уровня интеллектуальности: как освободителя человека от рутинной работы. Пусть роботы перебирают картошку, наливают пиво в бутылки, закрывают их крышками, винтят гайки и ведут нас к светлому будущему, наполненному творческим трудом и благостным бездельем.

Когда же мы сталкиваемся с более высокими проявлениями интеллекта, появляется тревожное отношение. Даже на этапе проектирования робота-водителя возникает неоднозначное отношение, причем прямо на этапе постановки задачи: «Если возникнет аварийная, безвыходная ситуация, что выбрать? Переехать машиной группу людей, одну беременную женщину или одиноко стоящего ребенка?».

Когда это происходит с человеком — это трагедия, ему будут сниться убитые люди, он будет мучаться, даже в том случае, если на нем нет никакой вины. И эти мучения в какой-то мере в наших глазах оправдывают произошедшее. Робот-водитель же выберет вариант абсолютно безэмоционально, бездушно взвесив жизни на весах матриц и вычислив минимум ущерба методом скорейшего спуска (ну или другим мат.методом) и это нас пугает.

Давайте признаем, что эмоции для нас важны, без них мы не сможем принять высокоинтеллектуальных роботов в свое сообщество. А откуда взялись эмоции? Мы знаем, что эмоции есть и у животных: домашних — так уж точно. Мы видим, что они радуются, грустят, злятся, завидуют, ревнуют, тоскуют и негодуют — точно также, как мы.

И еще, а зачем нам вообще высокоинтеллектуальные роботы? Для работ в опасных и недоступных для человека местах (Марс — это планета роботов, sic!), для решения задач, труднодоступных человеку из-за биологических ограничений (в первую очередь усталости). Ведь и робота-водителя делают именно потому, что уставший человек, после работы едущий домой — это потенциальный источник аварии.

И, наконец: экономическое хозяйство стало настолько сложным, что управление им начинает превышать любые мыслимые возможности одного человека. А решение через управление группой людей, к сожалению, неаддитивно, то есть если даже предположить, что 2 человека сделают в 2 раза больше работы, то 1000 человек точно не сделают в 1000 больше.

Эстету на заметку: «Фигвам» Шарика и Матроскина — отличный пример, как 2 личности могут коллективно работать существенно хуже одной.

Любая группа людей, что доказано статистически достоверно, больше тратит время на отношения между собой вместо работы. Неоднократно проводимые эксперименты показывали, что увольнение значительной части служащих бюрократической структуры никак не ухудшало ее работу, а бывало даже и улучшало.

Эстету на заметку: «Рост ведет к усложненности, а усложненность — это конец пути» (с) Законы Паркинсона. С. Паркинсон

Отметим, что мы весьма одобрительно относимся к роботам, которые через интернет принимают от нас заявления в бюрократические инстанции и высылают справки, вызывают нам такси и бронируют места в отелях, полностью заменяя собой целые классы оказания услуг.

В итоге, мы являемся свидетелями процесса появления все более высокоинтеллектуальных роботов. Очевидно, что этот процесс неизбежен и будет продолжаться.

Эстету на заметку: Если процесс нельзя остановить, его стоит возглавить (с). Автор неизвестен

Однако, чтобы возглавить какой-либо процесс, весьма желательно понимать его историю и иметь какой-то прогноз на будущее. Все это делает востребованной теорию эволюции интеллекта, которая до какой-то степени логично объяснит: как интеллект развивался и каким образом он дошел до своей современной вершины в виде интеллекта человека и что будет дальше.

Классификация поколений интеллекта

Как мы можем наблюдать, интеллект человека качественно отличается от интеллекта домашнего животного. Кот не закажет пиццу, не уберет в доме, не выгуляет собаку вовсе не потому, что у него лапки. Это как раз технически преодолимо, можно легко придумать роботизированные интерфейсы под кота.

И тем не менее, кто из котовладельцев честно не признает, что кот – умнейшее животное?

Давайте предположим, что уровень интеллекта непосредственно связан с индивидуализацией. Это позволит нам ввести 4+1 уровня или поколения интеллектов.

Нулевой индивидуализацией обладает интеллект, полностью состоящий из алгоритмов. Алгоритмы (или другими словами: код программ) неизменны и индивидуальность их носителя (компьютера или животного) будет отличаться только технической исправностью.

Первый уровень индивидуализации живым существам дают рефлексы. Это уже хорошо изученное явление и рефлексы разделяют на условные и безусловные. Первый уровень индивидуализации — это, конечно, безусловные рефлексы. Эволюция живых существ происходит за счет мутаций, обеспечивающих индивидуальную вариабельность. Каждый индивидуум имеет немного различное строение нейронной сети, обеспечивающей выполнение рефлекса, а среда обитания позаботится о том, чтобы неудачные варианты не выжили и не дали потомства со сходным строением сети.

Второй уровень индивидуализации — это рефлексы условные. Принципиальная разница состоит в том, что рефлекс не зафиксирован навсегда, а может изменяться во время жизни одного индивидуума. Таким образом степень индивидуализации значительно расширяется.

Третий уровень индивидуализации — коммуникативный. Главная инновация уровня — это способность к срабатыванию рефлекса через условный информационный сигнал. Индивидуализация еще больше расширяется через объем индивидуально воспринимаемых и генерируемых последовательностей коммуникационных сигналов. Носители интеллекта могут оставить одиночный образ жизни и стать способными образовывать стаи и начать координировать свои действия. Более того, появляется и активно используется возможность межвидового информационного взаимодействия.

И, наконец, четвертый уровень — это абстрактно-логический. Это уровень человека. Коммуникация превращается в речь. Появляется культура как независящая от отдельного индивидуума сумма знаний, но в то же время потенциально доступная каждому. Индивидуализация достигает потенциально бесконечного уровня.

Итоги

Сведем характеристики поколений интеллекта в таблицу для большего удобства понимания.

Уровень Содержание Признаки
Нулевой Только алгоритмы Неизменность поведения для всего вида
I Алгоритмы +
безусловные рефлексы
Поведение немного варьируется в пределах одного вида, но неизменно в течение индивидуальной жизни особи
II Алгоритмы +
условные рефлексы
Поведение варьируется в пределах одного вида и адаптивно изменяется в течение индивидуальной жизни особи
III Алгоритмы +
условные рефлексы +
коммуникация
Способность генерировать и воспринимать условные информационные сигналы, появление межвидового информационного взаимодействия
IV Алгоритмы +
условные рефлексы +
коммуникация +
абстрактная логика
Речь и культура

Что же дает подобная классификация? И чем она лучше многих других? Ответ на эти вопросы можно будет прочесть далее, где мы, уже опираясь на введенную классификацию, будем подробно рассматривать механизм появления эмоций, их значимость и зачем они нужны роботам и нам, людям.

Эмоции и интеллект, физики и лирики. Сколько уже времени длится противопоставление этих категорий?

Казалось бы, всем известно, что эмоции мешают интеллекту и мы ценим в людях хладнокровие, восхищаемся их умением не поддаться эмоциям и поступить рационально. С другой стороны, отсутствие эмоций тоже нам не очень-то по душе. Вполне возможно, что, не всем нравятся педанты и сухари и когда они проявляют эмоции нам бывает кажется, что это и есть сама человечность.

Что же такое эмоции? Эксклюзивное ли это качество человека или ими обладают еще и животные? И, наконец, нужны ли эмоции роботам и могут ли они у них быть вообще?

Итак, нами сформулирована простая идея, что если мы предположим, что интеллект не появился единомоментно, а прошел эволюционный путь от крайне простых форм к своей современной модели последнего поколения (интеллекта человека), то традиционное определение интеллекта, заточенное под человека, явно потребует пересмотра в сторону большей универсальности. Кроме этого, в статье для удобства рассуждений введена классификация эволюционных уровней интеллекта, как неких аналогов поколений техники.

Новое определение

Попробуем более широко определить интеллект.

Интеллект — это наблюдаемая способность к решению задач, поставленных перед его носителем

В силу своей универсальности такое определение позволяет оторваться от привычного представления об интеллекте, как об эксклюзивной способности человека и посмотреть на окружающий мир с менее антропоцентричных позиций.

Кроме этого, в определении делается акцент на необходимости наблюдения за этой способностью. Мы пока не умеем измерять потенциал интеллекта. В фантастических произведениях зачастую существует некий прибор, который выдает сразу цифру интеллектуального потенциала. Однако, в реальном мире, чтобы измерить какой-то аспект интеллекта мы используем экзамены и тесты, состоящие, собственно, из отдельных задач и в ходе теста наблюдаем и измеряем баллами оценки эту самую способность к их решению.

Индивидуализация

Главной характеристикой эволюционного уровня интеллекта (как аналога поколения в технике) была выбрана индивидуализация.

А ведь все мы хорошо знакомы с индивидуализацией. Когда мы выбираем одежду, такую, не как у всех, украшаем фенечками себя или свой автомобиль, вносим уютное своеобразие в убранство своего стандартизованного жилища — все это проявление нашей индивидуальности, проявления свободы нашего внутреннего мира.

В сумме множество индивидуальностей дают богатство. Богатство мнений, идей, решений, точек зрения, самовыражений и, в итоге, интеллектуальное богатство нас, как народа и в целом биологического вида. И, наоборот, процессы унификации людей, стремление «стричь под одну гребенку», «мерить одной меркой» — современные синонимы оболванивания, малоинтеллектуальности.

Но быть ли уникальной личностью или унифицировать себя, быть собой или быть как все в наше время пока еще наш личный выбор. По крайней мере, мы не ограничены в этом конструктивно и наш интеллект, интеллект человека, в своем потенциале предлагает нам бесконечное индивидуальное разнообразие.

Технически, на другом конце шкалы индивидуализации находятся алгоритмы. Разные компьютеры с одной и той же программой будут действовать всегда одинаковым образом. И, именно в силу своего конструктива, интеллект такого класса обладает нулевым индивидуальным разнообразием или нулевым уровнем индивидуализации.

Интеллект на пути к разуму

Попробуем разобраться, какие же эволюционные вехи находятся между нулевой и бесконечной индивидуализацией?

Первый шаг — когда каждый индивид, носитель интеллекта решает задачи каким-то различным путем, но пути этих решений [технически] неизменны в течение жизни индивида. Если добавить сюда наследование и отбор, то получится вполне ясный механизм эволюции, когда неудачные и неэффективные пути решений будут отсеиваться, а удачные и эффективные — закрепляться. В природе это реализуется через безусловные рефлексы. Назовем это интеллектом I уровня индивидуализации.

Второй шаг — это когда индивидуальный носитель интеллекта имеет [техническую] способность изменять пути решения задач. Теперь уже сам индивид в ходе своей жизни может выбирать более удачные пути решений и отметать неэффективные. В природе это реализуется через условные рефлексы. Это будет интеллект II уровня индивидуализации.

Третий шаг — когда индивидуальный носитель интеллекта имеет [техническую] способность к согласованным коллективным действиям. Согласование действий требует выработки конвенциональной коммуникации. При этом канал коммуникации может быть весьма различен: это и жесты, и звуки, и запахи, и визуальные сигналы. Принципиальной характеристикой здесь является конвенциональность, то есть значения сигналов не предопределено жестко алгоритмами, а является результатом соглашения, локального для группы индивидов. Важной бонус этого уровня — потенциальная способность к межвидовой коммуникации. Это уже интеллект III уровня индивидуализации.

Четвертый шаг — это появление абстрактно-логического мышления. Как известно, мышление базируется на способности к коммуникации, так как абстрактно-логически мы думаем словами, то есть коммуникативными единицами, которые становятся смысловыми. Это интеллект IV уровня индивидуализации или интеллект человека. Этот уровень интеллекта традиционно называют разумом, а самого человека как вид — разумным.

Как мы видим, каждый шаг принципиально расширяет степень индивидуализации, постепенно изменяя потенциальную способность значения этой характеристики варьироваться от нуля до бесконечности.

Робопсихология как она есть

Благодаря предложенной выше классификации уровня интеллекта мы можем более четко представить как пути усовершенствования роботов, так и их последствия.

Если эволюция интеллекта — это путь от меньшей к большей индивидуализации, то это означает неизбежность появления роботов с индивидуальным поведением, а значит неизбежно возникнет вопрос, как это поведение контролировать и регулировать.

Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред. (с) «3 закона робототехники», А. Азимов, 1942

Как мы видим из даты рождения цитируемого произведения, вопрос контроля поведения роботов интересен человечеству уже не первое десятилетие. В данном случае признанный классик фантастики пошел по традиционному пути юриспруденции и сам же в своих произведениях показал бесперспективность этого варианта ввиду легкости изменения его трактовок.

Закон, что дышло, куда повернул, туда и вышло (с) Народная мудрость

Но если вариант ограничений с помощью юридических формулировок бесперспективен, то как же решить задачу контроля и регулирования поведения робота? Давайте посмотрим, как с этой задачей справилась природа. Ведь начиная с II уровня индивидуализации живые существа получили техническую возможность некоторой свободы своего поведения. А как быть в таком случае с интересами собственной безопасности, выживанием и процветанием своего вида?

Природа решила эту задачу весьма интересным способом. Жестко запрограммированными остались стратегические задачи индивида, а тактические были переданы на откуп изменчивому индивидуальному поведению. Посредником между тактикой и стратегией стали эмоции. Каждый живой индивид начиная со II уровня индивидуализации получил способность испытывать положительные эмоции, когда его поведение соответствовало стратегическим задачам и негативные, когда противоречило. Причем эмоции могут как появляться постфактум, после принятого решения, например, как радость и ликование от удачного спасения в минуту опасности, так и предварять и побуждать к решению, например, беспокойство в период гона.

Любовь сушит человека. Бык мычит от страсти. Петух не находит себе места. Предводитель дворянства теряет аппетит. (с) 12 Стульев. Ильф и Петров.

Можно перенести это решение в область робототехники и аналогичным образом контролировать поведение роботов через побуждение эмоциями к действию и эмоциональной наградой за правильное действие и наказанием за неправильное? Наверно да. Как именно? Об этом пойдет речь в продолжении.

Вполне возможно, что если робот будет испытывать эмоции, его поведение будет нам куда ближе и понятнее и мы сможем более легко включить роботов в сообщество людей.

Автор: 
Источник: https://habr.com/

Понравилась статья? Тогда поддержите нас, поделитесь с друзьями и заглядывайте по рекламным ссылкам!