Государственное управление и искусственный интеллект: история и перспективы

В этой обзорной статье приведена краткая, но емкая информаця об истории работ в области искусственного интеллекта (ИИ), охарактеризованы направления ИИ, даётся общий обзор современного состояния исследований и разработок систем ИИ, перечислены основные тенденции НИОКР в области ИИ, показаны возможности использования систем ИИ в области государственного управления. Искусственный интеллект, что это такое? Наиболее сложной сущностью в мире является человек. Стремление познать сложность человека было всегда и проявлялось в разных формах. Сейчас это стало ещё более актуально. Развитие компьютерных технологий привело к появлению множества работ, связанных с попытками научиться распознавать и синтезировать человеческую речь, создать системы технического зрения, способные опознавать лица людей не хуже, а уже лучше, чем глаза чело- века, научить автомашины ездить самостоятельно без водителя-человека и т. д. Системы, проявляющие поведение, свойственное человеку, называются системами искусственного интеллекта, сокращённо ИИ.

На самом деле это самостоятельное научное направление, объединяющее многие научные дисциплины. По одному из определений, искусственный интеллект – это наука и технология, включающая набор средств, позволяющих компьютеру на основании накопленных знаний давать ответы на вопросы и делать на базе этого экспертные выводы, т. е. получать знания, которые в него не закладывались разработчиками. Наука под названием «искусственный интеллект» входит в комплекс компьютерных наук, а создаваемые на её основе технологии относятся к информационным технологиям.

Есть множество других определений, менее устойчивых к критике. Соответственно, системы ИИ определяют, как компьютерные системы, использующие в своей работе технологии ИИ. При этом в большинстве случаев до получения результата не известен алгоритм решения задачи. Например, мы не знаем, как осуществляется поиск доказательства теоремы, узнавание изображения и т.п. [19].

Системы ИИ условно делятся на два класса – сильный (или общий) ИИ и слабый (или прикладной) ИИ. Определим сильный, или универсальный, искусственный интеллект как ИИ, сравнимый с человеческим — т.е. ИИ, который может учиться, как это делают люди, и не уступает по интеллекту большинству людей, а во многих смыслах даже превосходит их. Есть множество более строгих определений, но для понимания данного определения достаточно.

Все остальные системы, в том числе системы ИИ, которые окружают нас сейчас, называются слабым ИИ, поскольку они могут делать только одно дело, например, осуществлять поиск по запросам в Интернете, ставить диагноз по конкретному заболеванию и т. д. Помощь такого ИИ делает жизнь более комфортной, а работу более производительной. Такие системы в ближайшем будущем будут всё более и более совершенствоваться, уже сейчас многие конкретные виды работ системы с ИИ делают лучше людей. Следует отметить, что в процессе работы над проектами со слабым ИИ проделывается громадная подготовительная деятельность. Машины учат таким интеллектуальным занятиям, как поиск информации, распознавание речи, обработка естественного языка, распознавание лиц, учат логическому выводу и др. По отдельности это всего лишь мощные инструменты, но они быстро развиваются, год от года продвигая технологии ИИ вперёд и приближая создание сильного ИИ.

В связи со слабым ИИ следует упомянуть о так называемом эффекте ИИ (AI Effect). Он заключается в том, что как только с помощью ИИ реально достигается немыслимый ранее результат, то такую задачу критики перестают считать задачей ИИ, т.е. девальвируют её значение. Этот эффект сформу- лирован в формуле Ларри Теслера: «ИИ — это всё, что не сделано до сих пор».

Для обеспечения систем ИИ учёным пришлось заняться такими вопросами, как представление знаний – это позволило создать так называемые экспертные системы (ЭС, системы, которые на основе баз знаний помогают в принятии решений). Очень важными стали методы самообучения машин (появились интеллектуальные обучающие системы), попытки повторить работу нервной системы чело-века. Последнее вылилось в создание искусственных нейронных систем (ИНН). Таким образом, в основе всех исследований по ИИ лежит идея моделирования процессов человеческого мышления с помощью компьютера. Сам ИИ как наука относится к когнитивным наукам, т. е. наукам, связанным с приобретением (сбором, накоплением, восприятием) знаний, способностью к обучению (самообучению).

Предполагается, что ИИ, сравнимый с интеллектом человека, будет иметь неограниченную сферу применения и кардинально изменит наше существование. Следует отметить, что – как создать сильный ИИ, пока неизвестно, но по этой тематике ведутся активные исследовательские работы по самым разным направлениям.

В январе 2016 г. основатель Всемирного экономического форума в Давосе Клаус Шваб назвал искусственный интеллект одной из основных движущих сил четвёртой промышленной революции.

«Эта четвёртая промышленная революция идёт на нас, как цунами, а её основной движущей силой являются достижениями в области искусственного интеллекта, робототехники, нанотехнологий, интернета вещей и других областей науки».

Сейчас происходит качественный переход от вычислительной эры к эре когнитивной (в терминах футурологов, Second Machine Age), когда компьютеры нового типа быстро учатся работать со структурированными, неструктурированными и нечётко структурированными данными, начинают замещать труд людей при решении большого количества когнитивных задач [6].

Три волны искусственного интеллекта

ИИ имеет уже более чем полувековую историю, в которой были свои пики интереса к нему и почти полное его исчезновение. Сам термин «искусственный интеллект» был предложен в 1956 году на летней конференции в Дартмутском университете.

Первые работы по ИИ относятся к 1950-м годам. Начались они с попыток решения двух задач:

— программы для игры в шахматы (в 1954 г. — аналитики корпорации RAND А. Ньюэлл, Дж. Шоу и Г. Саймон начали писать программу игры в шахматы. Помочь им вызвались А. Тьюринг и К. Шеннон, а также группа голландских психологов. В 1957 г. шахматная программа (NSS) была написана. В основе её работы лежали эвристики, т. е. правила выбора решения в отсутствие теоретических оснований. [30]);

— создания программ машинного перевода с одного естественного языка на другой. В СССР первые экспериментальные системы перевода с английского и китайского языков разрабатывались в 1954—1957-м гг. на ЭВМ БЭСМ-2 в ИТМиВТ под руководством Л.Н. Королёва. В 1954 году в корпорации IBM под руководством профессора Леона Достерта перевели на английский язык 60 русских фраз на основе словаря, состоящего из 250 пар слов и шести правил грамматики. Результаты казались многообещающими, но проблема оказалась намного сложнее, чем они предполагали. Суть перевода заключалась в обучении компьютеров не только правилам, но и исключениям, а технические средства компьютеров того времени никак не позволяли реализовать эту задачу. Тем не менее, попытки создания таких систем дали мощный толчок развитию математической лингвистики. К этому же периоду относится и появление первых программ для игры в шахматы.

Третьей областью, которая зародилось в то время, а впоследствии получила большое развитие, стало автоматическое доказательство теорем. В 1960 г. появилась программа, которую назвали «Универсальным решателем задач» (GPS). Она позволяла автоматически доказывать теоремы из планиметрии, находить решения алгебраических задач и другое [30].

Среди множества работ по ИИ первой волны следует отметить создание в 1963 г. Джоном Маккарти первого языка для программирования задач ИИ – языка ЛИСП. Появление этого языка открыло функциональное программирование. Заметим, что первые языки высокого уровня того времени были процедурными ЯВУ.

Вторая волна ИИ, начавшаяся с конца 60-х годов, была связана с появлением логического программирования (язык Prolog, 1971 г.) и бумом вокруг так называемых экспертных систем (ЭС). Это тоже были зачатки искусственного интеллекта, но в ЭС специалист по управлению знаниями, опрашивая экспертов в предметной области вручную, наполнял базу знаний (БЗ), а машина могла делать логический вывод в рамках того «понимания», которое человек в неё заложил, т.е. полностью отсутствовал такой важный элемент, как самообучение. Кроме того, возникали проблемы с экспертами, которые не делились своими знаниями или переставали это делать, как только понимали, что внедрение ЭС понизит их профессиональный статус, поскольку любой начинающий специалист с помощью ЭС может добиться высоких результатов. Следует отметить, что создание ЭС породило большой интерес к проблеме представления знаний в компьютерных системах. В это время появились семантические сети, системы фреймов, продукционные системы (системы, основанные на правилах) и их комбинации.

Между тем работы над системами машинного перевода текстов продолжались и существенно продвинулись. Развитие таких систем стало особенно актуальной задачей во времена холодной войны, когда в руки США поступало огромное количество материалов на русском языке, но не хватало человеческих ресурсов для их быстрого перевода. «В 1990-х годах в проекте компании IBM Candide был задействован десятилетний опыт переводов стенограмм заседаний канадского парламента, опубликованных на французском и английском языках, — около трёх миллионов предложений. Поскольку это официальные документы, их переводы были выполнены с соблюдением чрезвычайно высоких требований. По меркам того времени количество данных было огромным. Эта технология, получившая известность как «статистический машинный перевод», превратила задачу перевода в одну большую математическую задачу» [21]. Однако дальнейшее повышение качества машинного перевода на этом застопорилось.

Ко второй волне относится также создание продвинутых программ для игры в шашки и шахматы. Прошли первые чемпионаты мира по игре машин в шахматы между собой. Здесь следует отметить победу на чемпионате мира в 1974 г. советской шахматной программы «Каисса» (М. Донской, А. Арлазаров, А. Битман, А. Усков). Успех «Каиссы» оказался мировой сенсацией, поскольку все предрекали победу американской программе. Как вспоминал М.В. Донской, «Каисса» играла в силу второго шахматного разряда, т.е. до программ, которые обыгрывают гроссмейстеров, было ещё далеко.

Системы первой и второй волны получили шуточное название «старый добрый ИИ», или «символьный ИИ». В целом они были основаны на формальной логике, которая хорошо применима для формализуемых задач типа логических игр, но в ней трудно представить системы реального мира.

Нынешнее возрождение интереса к ИИ – уже третье по счёту и отличается от предыдущих как амплитудой, так и охватом, поскольку сейчас для задач ИИ имеются как необходимые технические средства, повсеместно распространившиеся беспроводные сети, Интернет, так и далеко продвинувшиеся работы в этой области. Начало третьей волне положила знаменитая победа в матче из шести партий американской программы «Дип Блю» (2,5:3,5) над чемпионом мира по шахматам среди людей Гарри Каспаровым.

В программировании в начале третьей волны появилось так называемое генетическое программирование. Оно позволяет, имитируя процесс мутаций, работающий в биологических системах, решать определённые классы задач, например, при поиске оптимальных решений.

В области ИИ действует своя мода на то или иное направление. Очень много внимания одно время уделялось программным агентам. Интеллектуальный программный агент — это активная программная или программно-аппаратная система (например, робот), обладающая автономностью в вы полнении той функции (или набора функций), для которой она создана. Основные проблемы: коммуникация интеллектуальных агентов, разработка языков для этой цели, координация поведения агентов, распределение ролей в коалициях агентов, коллективное поведение агентов [30].

Для современного этапа характерно очень быстрое развитие технологий искусственных нейронных сетей (ИНС) – сетей, имитирующих работу биологических нейронов живых существ. Простейшая ИНС состоит из трёх слоёв искусственных нейронов – на первый слой поступают сигналы из внешнего мира, во внутреннем слое они обрабатываются и передаются в выходной слой, в котором формируется результат. Внутренних, или скрытых слоёв, может быть много.

Развиваются на базе новых технологий также и системы, появившиеся при первых волнах развития ИИ, – системы машинного перевода, достигшие вполне приемлемого качества, ЭС и другие. В 2006 г. появилась система Google-Переводчик, основанная на Больших данных. Корпус из триллиона слов, выпущенный Google в 2006 году, состоял из разбросанных фрагментов интернет-контента. Он стал

«обучающим набором», по которому вычислялась вероятность того, что именно последует за тем или иным английским словом. В систему можно добавлять новые слова, которые появляются в естественном языке, и удалять устаревшие. «Её переводы точнее, хотя и весьма далеки от совершенства: к середине 2012 года она охватила более 60 языков, а теперь даже способна принимать голосовой ввод на 14 языках для моментального перевода» [21].

Один из вопросов к современному ИИ состоит в том, завершится ли эта третья волна очередным разочарованием и снижением интереса к ИИ или в результате нынешних колоссальных усилий миро- вого научного сообщества будет достигнут необратимый прогресс в данной области.

Из общих трендов в развитии ИИ следует отметить постоянно возрастающую автономность интеллектуальных систем, т. е. их способность самостоятельно находить необходимые для своей работы данные и ресурсы [34]. По мнению автора, ставки на ИИ сейчас очень высоки, и это направление будет интенсивно развиваться.

Направления ИИ

Название научной дисциплины «Искусственный интеллект» – зонтичное. Внутри ИИ делится на множество направлений. Вот основные из них:

  • Представление знаний.
  • Доказательство теорем.
  • Компьютерное зрение.
  • Машинное обучение (приобретение знаний, анализ данных и порождение гипотез).
  • Автоматическое планирование и диспетчеризация заданий.
  • Робототехника.
  • Обработка естественных языков.
  • Многоагентные системы.
  • Инструментальные средства ИИ.

Каждая из перечисленных ветвей ИИ в свою очередь делится на десятки других направлений, особенно робототехника (несколько десятков направлений).

Как видим, из-за обширности ИИ учёному невозможно охватить все его ветви, требуется специализация.

Что достигнуто в ИИ к настоящему времени?

  1. Громадное количество научных работ по ИИ посвящено компьютерному зрению. Это направление ИИ связано с развитием глубинного обучения (о нём ниже). Впервые компьютеры стали способны выполнять некоторые визуальные задачи классификации лучше, чем люди. Например, заявленная точность назначения оптимального лечения раковых заболеваний лёгких у компьютера IBM Watson со-ставляет 90%, т.е. превышает на 40% качество диагностики врачей-онкологов
  2. Важным понятием в ИИ является «машинное обучение» (его называют также статистическим обучением). Основу для данной технологии в 1959 году заложил Артур Самюэль, когда предложил работать над обучением компьютеров, не используя определённо запрограммированные алгоритмы. В простейшем смысле программа обучается, когда в ней происходит изменение, позволяющее во второй раз выполнить определённое задание лучше.

Машинное обучение – это технология, когда создаётся база обучающих примеров, по которой компьютер или нейросеть настраивается (обучается) и таким образом может правильно распознавать и классифицировать поступающие новые данные, т. е. это совокупность алгоритмов и методов, позволяющих научить компьютеры делать выводы на основании имеющихся данных. Добавление обучающих примеров позволяет улучшить результаты распознавания. Таким образом: происходит как бы са мообучение программы. По этой технологии по большой базе фотографий компьютер научили распознавать лица, причём он делает это точнее, чем человек. Настоящий прорыв в обучении машин произошёл в начале 2016 г., когда программа Google AlphaGo сумела обыграть в игру го её абсолютного чемпиона Ли Седоля. Эта игра является наиболее интеллектуально сложной игрой в мире, намного сложнее шахмат (в го доска 19×19 клеток, а число возможных позиций равно 10100 – много больше, чем в шахматах), и потому для победы необходимо не просто перебирать всевозможные ходы.

Добиться победы в го над её чемпионом позволила технология «глубинного машинного обучения» (deep learning, DL), которая сейчас является самым трендовым направлением развития искусственного интеллекта. Этот термин применяется к методам обучения искусственных нейронных сетей (ИНС), использующих больше одного скрытого слоя, поэтому формально «глубинный» указывает ещё и на более многослойную архитектуру нейронной сети. Уникальным для глубинного обучения является то, что машина сама находит признаки (ключевые черты чего-либо, по которым легче всего отделить один класс объектов от другого) и признаки эти структурирует иерархично: из более простых складываются более сложные. У термина «глубинное обучение» нет формального определения, поскольку он обь единяет целую группу различных технологий [16]. Таким образом, компьютер учится на примерах и своём собственном опыте. Можно сказать, что глубинное обучение – это анализ прошлых и текущих данных для прогнозирования будущего. Программа AlphaGo сначала проанализировала 29,4 млн хо- в 160 тыс. партий профессиональных игроков, а затем две копии программы начали играть сами с собой, добавляя новые партии в обучающую выборку. Сыграв миллионы партий, программа научилась оценивать наиболее выгодное положение камней на доске для достижения победы [4]. Ряд экспертов считает, что переломный момент в развитии ИИ заключается именно в том, что две системы с ИИ играли друг против друга и компьютер учился у компьютера.

Различают контролируемое и неконтролируемое глубинное обучение. Контролируемое обучение (обучение с учителем) предусматривает принудительное обучение с помощью примеров или обучаемых выборок. При неконтролируемом обучении система с ИИ самостоятельно осуществляет поиск в данных – шаблонов, установку связей, выявление контекста. Пока этот вид обучения даёт результаты, сильно уступающие по качеству работы в сравнении с контролируемым обучением, но перспективы данного метода гораздо большие, поскольку основные усилия разработчиков при контролируемом обу- нии тратятся на подготовку данных, что не требуется при неконтролируемом обучении, благодаря чему обучение нейронных сетей не будет ограничиваться лишь существующими наборами данных.

Технология глубинного обучения сейчас является неотъемлемой частью исследований в области распознавания речи, изображений, при создании систем управления беспилотными автомобилями, диагностике заболеваний и решении других сложных задач. Развитием технологии глубинного обучения стала реализованная IBM летом 2017 г. технология распределённого глубинного обучения (DDL), поз- ляющая на порядок сократить время обучения искусственной нейронной сети.

Следует отметить, чего не может современный ИИ и что отделяет его от общего ИИ:

  • отсутствует запоминание ранее приобретённых навыков при обучении новым;
  • ИИ не может при обучении новым навыкам опираться на ранее приобретённые, т. е. отсутвует обобщение накопленных знаний и использование их в разных контекстах.

Массовое распространение смартфонов породило широкое использование речевых помощников, в которых реализуются элементы ИИ. Такие приложения помогают пользователю в его повседневной деятельности. Среди них такие известные приложения, как Siri (компании Apple), Cortana (Microsoft), Google Now (Google), Echo (Amazon), “Алиса” (Яндекс) и др., которыми уже пользуются десятки милли- ов людей. Данные приложения реализуются также на планшетах, ноутбуках и персональных компь- ерах. Со временем эти программы станут всё интеллектуальными и незаменимыми.

В области нейронных сетей постоянно появляются новые, всё более продвинутые решения. Одно из них – сети с капсульной архитектурой (CapsNet). Их концепцию в 2017 г. представил Джеффри Хин- тон из корпорации Google. Свёрточные нейронные сети (CNN), которые они должны заменить, область уязвимостями, позволяющими допускать ошибки при работе. Капсульным сетям для распознава- я образов потребуются меньшие объёмы данных, при этом они будут делать меньше ощибок [33].

Важным направлением работ по ИИ является выявление структуры мозга человека. Такие про- ты весьма дорогостоящие, и потому их проведение могут позволить себе немногие страны и гигантские корпорации.

Анализ структуры мозга – это обратное проектирование – предполагает сначала разобраться до тонкостей в человеческом мозге, а затем представить то, что мозг делает, в виде аппаратного и проаммного обеспечения. В итоге учёные надеются создать компьютер, обладающий ИИ человеческого уровня. Несколько громадных проектов (с инвестициями в миллиарды долларов) нацелено на достижение этого результата. Моделированию человеческого мозга посвящён международный проект Human Brain Project (HBP), который ведёт команда из швейцарской Федеральной политехнической школы в Лозанне под руководством профессора Генри Маркрама (Henry Markram) и в котором участвует более 100 научных групп со всего мира. Цель проекта – синтезировать все знание, полученное людьми о мозге, в единую полноценную модель мозга внутри суперкомпьютера. Завершение проекта – в 2023 году. Американский проект Brain Activity Map Project («Карта активности мозга», 2013 г.) рассчитан на то, за 10 лет американским ученым удастся зафиксировать и картографировать активность каждого нейрона в человеческом мозге.

Есть около десятка менее ёмких, но не менее важных других проектов по изучению мозга. Весьма интересен проект Blue Brain, базирующийся в Швейцарии, в котором учёные изучают работу ансамблей нейронов. Проект SyNAPSE, финансируемый DARPA и корпорацией IBM, ставит задачей создание физической копии мозга, воплощенной в виде специальных микросхем с искусственными нейронами. Это направление получило название нейроморфная электроника [3]. Аналогичные проекты развивает Китай. Тем не менее, в настоящий момент исчерпывающее моделирование мозга невозможно в силу ограниченных возможностей современных суперкомпьютеров (для этого требуется производительность в десятки эксафлопс, т. е. на 3—4 порядка больше нынешней).

Из других глобальных проектов, в которых предполагается использовать методы ИИ и системную аналитику, следует отметить продолжение проекта “Геном человека“, в котором предполагается определить ДНК-последовательности всех живых существ планеты. Например, Amazon Third Way рарабатывает проект под названием «Банк кодов Земли» [29].

Почему вокруг ИИ такой ажиотаж (ожидания)

  1. Проводившаяся более полувека компьютеризация производства и практически всех аспектов деятельности человека породила некоторый тупик, связанный с обработкой и анализом всего растущего объёма ежедневно появляющихся данных. По ходу борьбы с ними появились хранилища данных, оперативный анализ данных, облачные вычисления, Большие данные (Big Data). А с другой стороны – новые модные технологии, которые будут генерировать на порядки большие потоки данных – Интернет вещей, Индустрия 4.0, Общество 5.0 и т. п. Развитие систем ИИ – это стремление перенести высокоуровневую обработку накопленных данных с человека на компьютерные системы, транзисторные и/или нейроморфные. Мировые ИТ-лидеры ведут гонку в создании специализированных процессоров и су перкомпьютеров для обучения нейронных сетей. В идеале их обучение должно происходить в реаль- ном времени, но сейчас это занимает недели.
  2. Эра компьютеров как двигателя полупроводниковой индустрии заканчивается. Сейчас все надежды на то, что таким двигателем станет ИИ и робототехника. Здесь уже сформировались громадные по объёмам сегменты: промышленная, сервисная и военная робототехника, беспилотные транс- портные средства, медицинская робототехника и др. Однако без систем ИИ полноценное развитие этих направлений невозможно. Таким образом, робототехника сейчас сильно стимулирует исследования в области ИИ. Например, появление беспилотных транспортных средств – это потенциально бизнес в триллионы долларов, поэтому все автомобильные гиганты и другие корпорации вкладывают миллиарды долларов в разработку таких систем.
  3. Как в своё время расшифровка генома человека дала экономике США 3% прироста ВВП (каждый вложенный в неё доллар принёс 140 долларов прибыли), ожидается, что успехи в создании ИИ дадут громадный прирост бизнесу стран, развивающих исследования в этой области. Поэтому ряд стран, в частности, Китай, Южная Корея, Евросоюз поставили работы по ИИ в ряд важнейших госдарственных задач.
  4. Более конкретно, ожидается, что ИИ приведёт к улучшению процессов управления, развитию отношений производителей с потребителями, оптимизации всех бизнес-процессов, совершенствованию планирования и кадровой работы, превращению продуктов в сервисы и смене бизнес-модели многих бизнесов. Пример – компания

Рынок ИИ

Крайне трудно в наш век неопределённости делать прогнозы. Все перечисленные ниже прогнозы называют сильно завышенные объёмы рынка ИИ на ближайшие годы. Рост его, по нашему мнению, будет весьма значительным, но не столь ошеломляющим, как предсказывают аналитические агентства. В таблице приведены основные области применения систем искусственного интеллекта.

Таблица 1.

Системы исследований и рекомендаций в сфере управления качеством 10,3%
Диагностические и лечебные системы 10,0%
Автоматизированные службы поддержки клиентов 9,8%
Автоматизированные системы предотвращения угроз 9,8%
Системы анализа и расследования мошенничества 9,0%
Другое 51,1%

Источник: IDC, 2017 [18].

Искусственный интеллект стал ключевым технологическим трендом 2016 года, и объем глобальных инвестиций в него превышает $ 500 млн.

В 2017 году инвесторы вложили более $15,2 млрд в связанные с ИИ стартапы, увеличив финансирование на 141% по сравнению с 2016 г. [33]. Как видим, результат намного превзошёл прогноз агентства IDC, в котором продажи когнитивных систем и систем искусственного интеллекта в 2017 году в мире должны были вырасти на 59,3% и достигнуть 12,5 млрд долл [18].

По прогнозам международной исследовательской компании Markets and Markets, к 2020 году ры нок ИИ вырастет до $5 млрд за счёт применения технологий машинного обучения и распознавания естественного языка в рекламе, розничной торговле, финансах и здравоохранении.

В агентстве Gartner считают, что к 2020 году около 40% всех взаимодействий с виртуальными голосовыми помощниками будет опираться на данные, обработанные нейронными сетями [8].

Консалтинговая компания Tractica считает, что динамика ИИ будет основываться на шести фундаментальных технологиях: машинное обучение, глубинное обучение, компьютерное зрение, обработка естественного языка, машинная аргументация и сильный ИИ. Хотя в перспективе 10 лет ИИ- технологии повлияют практически на каждый бизнес, основными драйверами рынка станут секторы потребительских продуктов, бизнес-услуг, рекламы и обороны. Tractica предсказывает рост рынка ИИ с $643,7 млн в 2016 году до $38,8 млрд к 2025 году [8].

Трудно оценить, как получены следующие оценки. Мировой рынок ИИ уже по итогам 2018 года достигнет объёма в $1,2 трлн, что будет на 70% больше прошлогоднего показателя. Не менее существенный прирост ожидается и в среднесрочной перспективе — к 2022 году вложения в ИИ могут со ставить почти $4 трлн [43].

Согласно прогнозам корпорации Huawei, к 2025 году в мире будет насчитываться свыше 40 млрд личных «умных» устройств, а у 90% пользователей устройств будут «умные» цифровые помощники. Коэффициент использования данных достигнет 86%, и сервисы на базе искусственного интеллекта станут привычными и общедоступными [39].

Ключевым драйвером этого рынка является уход всех процессов как в бизнесе, так и в потребительском сегменте в облака, а также рост влияния Интернета, смартфонов, социальных медиа. Акто- рами этого рынка являются такие крупные корпорации, как NEC, Google, Honeywell, Hitachi и Qualcomm Technologies. Также присутствует множество меньших по размеру игроков, таких как LTU Technologies, Attrasoft, Blippar и SLYCE и таких вендоров, как Catchoom и Wikitude.

Мировой рынок распознавания речи оценен BCC Research в колоссальные $ 90,3 млрд в 2015 году. Ожидается, что этот рынок вырастет с $104,4 млрд в 2016 до $184,9 млрд в 2021 со средними темпами (CAGR) на уровне 12,1% за период 2016–2021гг.

Рынок обработки естественного языка (Natural Language Processing, NLP) оценивается Market And Markets в $7,63 млрд в 2016 году и вырастет до $16,07 млрд к 2021, с CAGR на уровне 16,1%. Основными драйверами компания считает возрастающий спрос на более продвинутый уровень пользова- тельского опыта, рост пользования умными девайсами, рост инвестиций в здравоохранение, растущее применение сетевых и облачных бизнес-приложений и рост M2M-технологий.

BoA предполагает, что к 2020 году рынок ИИ-решений будет эквивалентен $153 млрд, из которых

$83 млрд составят роботы и робототехника и $70 млрд — аналитические решения на основе ИИ.

В результате так называемая «революция роботов», о которой говорят экономисты и аналитики крупнейших банков, позволит мировой экономике повысить производительность на 30% при снижении производственных затрат на рабочую силу от 18% до 33%. В общей сложности на мировом рынке ра- ботает порядка 400 компаний, занимающихся производством робототехники [8].

Гонку за искусственным интеллектом китайцы начали не вчера, а как минимум пятилетку назад — Baidu, Alibaba и Tencent создали центры развития ИИ в это время. Результаты значительные — более 8000 патентов в данной области за 2010-2015 годы. Частный бизнес уже давно участвует в этой гонке [10].

Как видно из приведённых оценок, прогнозы аналитических агентств достаточно пёстрые, с большим разбросом показателей, но с хорошими перспективами роста во всех секторах ИИ.

Основные международные программы и центры разработки

Работами в области ИИ сейчас заняты практически все крупные зарубежные компании, университеты и научные агентства. Существуют списки более тысячи стартапов, работающих в этой области. Лидерами являются такие известные бренды, как Google, IBM, Microsoft, Amazon, Apple, DARPA и др.

Например, огромный скачок в распознавании речи сделала корпорация Microsoft, которая объявила, что её система распознавания речи теперь так же точна, как распознавание речи живым человеком. Довести систему распознавания речи до такого высокого уровня удалось в том числе с помощью метода, разработанного резидентом «Сколково», компанией «ЦРТ-инновации» (группа «Центр речевых технологий») и доложенного на международной конференции Interspeech сентябре 2016 года в Сан-Франциско [8].

При этом корпорации тесно сотрудничают с ведущими университетами: так, в начале сентября 2017г. IBM объявила о заключении 10-летнего соглашения о партнёрстве с университетом на сумму 250 млн долларов. В этих работах будут задействованы более 100 исследователей из обеих организаций, которые будут сотрудничать в продвижении ключевых областей в области ИИ, таких как алго- ритмы глубокого обучения, взаимосвязь между машинным обучением и квантовыми вычислениями и применения суперкомпьютера Watson в здравоохранении и кибербезопасности.

Интересный тренд, согласно которому создание решений на базе ИИ станет доступным каждому: Google уже запустил проект «ИИ для всех возрастов» (AIY), первым продуктом которого стал набор для распознавания голоса Voice Kit, а также выпустил на рынок Vision Kit, решение с поддержкой встроенного нейронного процессора. По сути, это наборы «сделай сам», позволяющие обладателям дешёвых одноплатных компьютеров Raspberry Pi самим создавать решения на основе ИИ [33]. Согласно исследованию [38], в США в области искусственного интеллекта работают 2 028 компаний.

В ФРГ «Немецкий исследовательский центр по искусственному интеллекту» (DFKI) — один из крупнейших некоммерческих исследовательских институтов в области программного обеспечения на основе ИИ. DFKI проводит исследования практически во всех областях современного ИИ, в том числе распознавания изображений, управления знаниями, интеллектуальной визуализации и моделирования, многоагентных систем, речевых и неречевых технологий, интеллектуальных пользовательских ин- терфейсов и робототехники. В настоящее время DFKI ведёт более сотни проектов [38].

По числу компаний, работающих в сфере искусственного интеллекта, Великобритания занимает третье место в мире, являясь лидером в Европе. Её опережают только Израиль, Индия и Канада [38]. Китайские программы развития ИИ базируются на широком финансировании исследовании в университетах, государственной поддержке работ отечественных компаний, создании в КНР совместных с западными странами исследовательских и разрабатывающих центров. Отметим, что 2017 году, согласно отчёту компании CB Insights, Китай впервые обошёл США по объёму инвестиций в стартапы, разрабатывающие системы искусственного интеллекта. На долю США пришлось 38% мировых инвестиций в ИИ-стартапы, а на долю Китая — 48% [31]. Всего же в Китае около 1 011 компаний, работающих в сфере разработок искусственного интеллекта (второе место в мире) [38].

Состояние работ по ИИ в РФ

Россия вступила в третью волну ИИ с существенным запозданием. Финансированием исследований в области ИИ занимаются Российский фонд фундаментальных исследований (РФФИ) и Российский научный фонд (РНФ), однако из-за отсутствия координирования работ финансирование исследований и разработок в целом недостаточное и выглядит лоскутным. Наилучшее положение в России сейчас у разработчиков военных роботов.

В РФ в настоящее время проводятся работы по распознаванию речи, распознаванию лиц и распознаванию образов, системам автономного вождения автомобилей и другим приложениям ИИ. Крупные российские компании уже используют ИИ в целях своего бизнеса. C помощью технологий машинного обучения компания МТС прогнозирует желание абонента воспользоваться тем или иным серви- сом. Ему делается предложение ещё до того, как абонент сам обратится к компании за подключением услуги. Это экономит время клиента и одновременно повышает уровень продаж [20].

Банковская отрасль одной из первых начала применять ИИ и продолжает активно развивать это направление. «Сбербанк» совместно с МФТИ разрабатывает проект по использованию технологии ИИ в колл-центре. Задача этого проекта, который называется «Нейроинтеллект iPavlov», — разработка алгоритмов глубинного машинного обучения для создания разговорного ИИ. Данная технологий должна снизить нагрузку на сотрудников и повысить качество работы с клиентами [20].

Компания «Яндекс» разрабатывает ИИ-приложения для оптимизации производства в промышленности. Кроме того, компанией представлен метод машинного обучения CatBoost — это наследник метода «Матрикcнет», который применяется почти во всех сервисах «Яндекса» [20].

Компания ABBYY использует технологии ИИ в решении ABBYY FlexiCapture, универсальной платформе для интеллектуальной обработки информации. Она определяет тип документа, извлекает из него данные и отправляет их в информационные системы: в CRM, в учётные системы, в системы управления закупками [20].

Приложения ИИ разрабатываются для роботов и БПЛА: так, например, разрабатывается ИИ для семейства беспилотников “Фрегат”, создаваемых группой “Кронштадт”. Академическая и вузовская наука проводит отдельные исследования по тематике ИИ, однако масштабные и скоординированные НИОКР по ИИ практически полностью отсутствуют.

Наибольшую озабоченность вызывает состояние обучения когнитивным наукам. По многим из них просто нет квалифицированных преподавателей. Программы обучения катастрофически отстают от потребностей рынка труда.

В целом по стране существует несколько десятков сильных коллективов, занимающихся ИИ. При этом, если годовой объем отечественного рынка ИИ и машинного обучения в 2017 году оценивался отраслевыми экспертами на уровне 700 млн рублей, то уже к 2020 году он может вырасти до 28 млрд рублей [43].

Следует отметить разработки Федерального исследовательского центра «Информатика и управление» (ФИЦ ИУ РАН) [30]:

  • EXACTUS EXPERT — система для семантического поиска и анализа качества научных публикаций;
  • EXACTUS PATENT — для семантического поиска и анализа патентной информации;
  • EXACTUS LIKE – для обнаружения близких текстов и вычисления степени семантической близо.
  • TEXT Appliance — информационно-аналитическая система анализа неструктурированной информации.

Главная проблема в том, что в России очень мало фундаментальных хороших исследований «доходят» до готового продукта. Существует разрыв между фундаментальной наукой, которая выжила в «лихие 90-е», и реализацией её наработок в конкретном продукте [12].

Основные направления работ в области ИИ

Работы в области ИИ сейчас ведутся во многих странах и развёрнуты широким фронтом. Они группируются вокруг следующих направлений:

  1. Глубинное обучение. Здесь усилия направлены на существенное сокращение времени обучения нейросети и уменьшение объёма обучающей выборки. В идеале нейросеть должна обучаться в реальном времени, но для этого требуется очень высокая производительность вычислительной системы, поэтому исследуются варианты перенесения ряда функций обработки на периферийные устройства, ближе к источникам поступающих в систему данных.
  2. Синтез роботом ответов, исходя из того корпуса знаний, который в него загрузили, в привязке к контексту и последовательности слов. Робот должен научиться соотносить поступающую информацию со своей базой знаний и обучаться [32].
  3. Разработка нейроморфных микросхем и компьютеров на их базе. Такие микросхемы уже выпустили корпорации IBM и Intel. Пока они содержат до 4096 искусственных нейронов и до 256 млн синапсов, но направление весьма перспективно.
  4. Продолжатся работы по картрированию мозга человека и моделированию его работы.
  5. Разработка систем распознавания и понимания речи. Многие сервисы используют речевой интерфейс, требующий хорошего распознавания речи. Наряду с этим важно и понимание сказанного пользователем. В этом плане очень важно понимание такими системами контекста сказанного, поскольку контекст – важнейшая часть естественного языка. В этой части исследования также смещаются в направлении разработки систем, способных взаимодействовать с людьми через диалог, а не просто реагировать на стилизованные запросы. Передача поисковым системам и ряду популярных приложений запросов голосом, особенно со смартфонов, уже стала обыденным явлением, и объём таких запросов будет только увеличиваться.
  6. Развитие интерфейсов мозг—компьютер. Бурно стартовавшие в этом направлении работы сейчас замедлились, но будут продолжены.
  7. Изучение систем группового поведения роботов и взаимодействия роботов и людей в ходе выполнения каких-либо операций. Усилия исследователей направлены на изучение эффективного разделения задач между людьми и машинами. Это направление важно как для военных роботов, так и для производственной сферы, и для сервисных роботов. Следует отметить постоянный тренд в ИИ – возрастающую автономность интеллектуальных систем.
  8. Внедрение ИИ в Интернет вещей (IoT), Индустрию 0 и другие современные направления типа Цифровой экономики, поскольку обработка громадных объёмов данных, генерируемых в таких системах без ИИ, столкнётся с большими трудностями.
  9. Навигация автономных транспортных средств в среде обитания человека. Это наиболее перспективное с рыночной точки зрения направление должно обеспечить начало широкого внедрения, начиная с 2022—2025 гг., беспилотных автомобилей и автомобилей, в которых действия водителя полностью контролируются системой автономного управления.
  10. Возможно развитие совершенно нового класса систем типа «человеческий интеллект по требованию», услуги роботов по требованию (RaaS) и т. п.
  11. Гиперперсонализация услуг. Так как сейчас пользователь постоянно подключён к сети, то на основе его прошлых данных и модели поведения приложения с ИИ должны будут уметь делать предположения о том, какие сервисы ему следует предложить в данных обстоятельствах, какие решения для него будут оптимальны.
  12. Борьба с эффектом «катастрофического забывания». Когда система с ИИ сталкивается с тем, чему она никогда не была обучена, то без переобучения она постоянно будет повторять одни и те же ошибки. Попытка переобучить сегодняшние системы как раз и приводит к феномену, называемому «катастрофическим забыванием», т.е. к ситуации, когда изучение нового предмета нарушает знание ранее изученных вещей [27].
  13. Разработка нормативно-правовой базы использования роботов. “Роботы как субъекты права ещё законодательно не оформлены ни в одной стране мира, поскольку для этого нужно официально признать, что робот – это не просто вещь, а создание, наделённое, пусть и искусственным, но интеллектом и собственной волей. Поэтому в мире ещё нет законов, которые что-то предписывают либо запрещают роботам напрямую. Перед законодателями стоит отнюдь не простая задача – обеспечить баланс между интересами технического прогресса, безопасности общества и государства, потребностями отдельно взятого человека. В Южной Корее в 2008 году приняли «Закон о содействии развитию и распространению умных роботов». В феврале 2017 года Европарламентом принята резолюция Civil Law Rules on Robotics – Нормы гражданского права о робототехнике [25].
  14. Развитие систем распознавания лиц, в частности, по изображениям в тепловизорах, полученным в ночное время [35].
  15. Ожидания, что в ближайшие годы искусственный интеллект станет реальностью для медицины, в целом не оправдались, хотя есть удачные примеры отдельных решений. Это перспективная область длительных НИОКР.
  16. Дальнейшее развитие функциональности речевых помощников. Они станут ещё умнее [42]. 17.Развитие таких направлений, как понимание текста, рассуждения, основанные на прецедентах

и др.

С общей точки зрения в исследованиях в области искусственного интеллекта сложилось два главных направления: прагматическое и бионическое [46]. Прагматическое основано на предположении о том, что мыслительная деятельность человека представляет собой «черный ящик». Поэтому если результат функционирования системы ИИ сопоставим с результатом, полученным экспертом, то такую систему можно признать интеллектуальной независимо от способов получения этого результата. При таком подходе не требуется создавать в компьютере структуры, аналогичные нейросетям мозга человека. Противоположное направление исследований, бионическое, основано на предположении о том, что если в системе ИИ воспроизвести структуры и процессы человеческого мозга, то и результаты ре- шения задач такой системой будут подобны результатам, получаемым человеком [46]. В этом направлении исследований выделяются:

  • нейробионический подход. В его основе лежат системы элементов, способные, подобно нейронам головного мозга, воспроизводить некоторые интеллектуальные функции. Прикладные системы, разработанные на основе этого подхода, называются нейронными сетями;
  • структурно-эвристический подход. В его основе лежат знания о наблюдаемом поведении объекта или группы объектов и соображения о тех структурах, которые могли бы обеспечить реализацию наблюдаемых форм поведения. Примером подобных систем служат мультиагентные системы;
  • гомеостатический подход. В этом случае решаемая задача формулируется в терминах эволюционирующей популяции организмов – совокупности противоборствующих и сотрудничающих подси-стем, в результате функционирования которых обеспечивается нужное равновесие (устойчивость) всей системы в условиях постоянно изменяющихся воздействий среды. Такого рода подход реализован в прикладных системах на основе генетических алгоритмов [46].

По мнению ряда экспертов, текущим разработкам в области ИИ не хватает программно-аппарат- ных средств физического контакта с окружающим миром для того, чтобы складывалось понимание различия или сходства между виртуальным и реальным мирами. Это направление развивается в робототехнике, например, работы по тактильной поверхности рук роботов.

Тенденции использования систем ИИ в области государственного управления

  1. Наиболее востребован ИИ в силовых структурах, поскольку позволяет полиции анализировать в городах видео с множества камер и разыскивать преступников. Компьютерные программы способны сами формировать документы для прокуратуры и обвинительные заключения.
  2. ИИ может оказать серьёзное влияние на контроль и управление дорожным движением в городах. В ряде стран такие работы уже проводятся.
  3. ИИ для МЧС. Например, управлять работой пожарных, предсказывать развитие пожара.
  4. Применение в ИИ в судебной системе. Ассистенты судей. Подготовка стенограмм заседаний судов. Генпрокуратура России в 2018 г. объявила тендер на разработку системы на базе ИИ. Она планирует к 2025 году внедрить инструменты прикладного ИИ, а также обработки больших массивов дан- ных. Цифровизация органов прокуратуры – это часть программы «Цифровая экономика», которую правительство России утвердило летом 2017 года. Отметим, что инструменты обработки больших данных и искусственный интеллект уже использует прокуратура Китая — эти технологии помогают прокурорам находить прецеденты в базе из более чем 20 млн юридических документов и готовить дела к суду [37].
  5. Анализ социальных сетей, чтобы предотвращать возможные антигосударственные акции радикальных группировок.
  6. Применение ИИ в образовании – отслеживание успехов каждого учащегося, целевая помощь в планировании образования и трудовой карьеры.
  7. ИИ в системах поддержки принятия государственных решений в экономике и банковской сфере.
  8. Другое.

Ключевые вызовы и угрозы развития систем ИИ

Скепсис по поводу безопасного развития искусственного интеллекта (ИИ) подогревается СМИ и отдельными группами исследователей и бизнесменов, в частности, Биллом Гейтсом, Элоном Маском и Стивеном Хокингом.

Популярно утверждение со ссылкой на недавний опрос, проведённый Институтом будущего человека (FHI) из Оксфордского университета в Великобритании, который показал, что «Скайнет» как настоящий искусственный интеллект человеческого уровня может возникнуть около 2028 года. Можно упорно спорить, будет ли это 2028 или 2035-й год или событие перенесётся на более поздний период, однако сама такая возможность вызвала ряд опасений, публичных дискуссий и появление исследований, впрочем, весьма гипотетических. Верно следующее утверждение: «расхождение во взглядах ИИ в основном идёт по временной шкале: различаются оценки скорости движения, а не его направления. Мало кто сомневается, что машины будут все больше и больше превосходить нас в плане способно- стей, характерных именно для людей, или же смогут усиливать их посредством кибернетических тех- нологий» [22].

Опасение первое: полная зависимость от компьютеров

С каждым днём мир все сильнее и сильнее зависит от компьютеров. Во многих автоматизированных системах решение принимают уже не люди, а компьютеры – люди просто не успевают это сделать. Миллиарды компьютеров и микроконтроллеров (их уже на порядки больше, чем обычных компьютеров) – например, управляющие производственными процессами, системами связи, вооружениями, системами жизнеобеспечения и т.д. – работают автономно, без участия человека. Развитие систем с ИИ приведёт к появлению таких систем в качестве руководителей (менеджеров), которые будут руководить работой сотрудников-людей. Плюсы таких решений очевидны – это рост производительности труда и качества продукции, обеспечение безопасности, повышение комфортности жизни и многое другое. Опасение у экспертов вызывает то, что этот процесс цифровизации продолжается и сейчас речь идёт об Интернете вещей, Индустрии 4.0 (цифровой экономике). Таким образом, незаметная передача ма- шинам возможности принимать решение продолжается, но последствия данного процесса из-за мас- штаба системы совершенно не просчитаны.

Опасение второе: непредсказуемость

Совершенно очевидно, что технический прогресс приводит к неконтролируемому созданию новых и совершенствованию существующих опасных технологий. Судьба и жизнь множества людей (а может быть, и всего человечества) может зависеть от действий небольших групп учёных и разработчиков. Возник специальный термин для обозначения возможного этапа развития технологий. Технологическая сингулярность — гипотетический момент, по прошествии которого, по мнению сторонников данной концепции, технический прогресс станет настолько быстрым и сложным, что окажется недоступным человеческому пониманию. Основным представителем этой идеи является Рэй Курцвейл, футуролог и изобретатель, автор книги «Сингулярность близко», а ныне технический директор области машинного обучения и обработки естественного языка Google. При этом Курцвейла весьма идеализированно утверждает, что «интеллект по своей природе не поддаётся контролю». Данную концепцию поддерживают далеко не все учёные, утверждая, что развитие технологий происходит по S-кривой и в конце прошлого века началось замедление процесса ускорения.

Переход к принятию решений компьютерами был бы безопасным, но основное опасение заключается в непредсказуемости систем, обладающих самосознанием, а также влиянию на них разного рода случайностей. Это осложняется грядущим неминуемым «интеллектуальным взрывом». Всё дело в потенциальной скорости самоусовершенствования ИИ. Множество разговоров, касающихся ИИ, основано на том, что, обладая способностью к самообучению, ИИ с некоторого момента превращается в искусственный сверхразум, опыта переговоров с которым у человечества нет и, кроме кнопки выключения электропитания, средств воздействия на него также пока не создано.

Опасение третье: Использование боевых роботов

Ссылки на четыре известных закона робототехники писателя-фантаста Айзека Азимова, которым должны подчиняться системы ИИ, вопреки распространённому мнению, не решают проблему. Первоначально этих законов было три, потом добавился четвёртый «Робот не может нанеси вред человечеству». Уже сейчас понятно, что эти законы не будут реализовываться в каждой ИИ-системе, например, в боевых роботах и кибероружии (около 60 стран мира имеет или разрабатывает боевых роботов). Конкретные аргументы против автономных боевых роботов заключаются, например, в том, что он могут игнорировать «белый флаг», означающий намерение сдаться в плен, не смогут достоверно отличить мирных граждан от военнослужащих, что может привести к дополнительным человеческим жертвам при использовании таких роботов во время боевых действий и др.

Призыв – прежде чем развивать технологии, которые рано или поздно приведут к созданию сверх- разума, необходимо поставить вопрос об его отношении к человеку и человечеству, – остаётся гласом вопиющего в пустыне – слишком большое преимущество получают государства, внедряющие ИИ в робототехнику, системы оружия, медицину, производство и управление. В последнее время в боевых роботах отрабатываются алгоритмы поведения, использующие ложь и обман. Такие методы помогут им обмануть потенциальных врагов людей и других роботов. Однако при этом возникают этические проблемы, а попадание подобных систем в руки террористов может привести к катастрофическим последствиям.

После того, как Китай провозгласил лидерство в ИИ своим национальным приоритетом, между ведущими мировыми державами началась гонка по развитию ИИ.

Опасение четвёртое: социальные риски

Искусственный интеллект несёт определённые социальные риски — в первую очередь прогнозируемое исчезновение целого ряда профессий (например, водителей, младшего медперсонала и даже журналистов), разобщение людей, а возможно, даже потерю естественных навыков человека. Развитие техники постоянно идет по пути исключения человека из выполняемых им производственных действий. Процессы эти сложные, потому как с исчезновением старых профессий появляются новые, связанные с новой цифровой экономикой, внедрением и поддержанием новой инфраструктуры. Однако в целом потребности в рабочей силе должны сильно уменьшиться, поскольку машины могут заменить человека в большинстве видов активной (не творческой) деятельности. Интеллектуализация, цифро- визация и роботизация могут привести как к появлению в обществе социальной напряжённости, так и внедрению мер замедления указанных процессов.

Внедрение компьютерных технологий уже привело к изменению ментальности людей – появлению так называемой клипповости сознания, компьютерной зависимости, уходу в виртуальную реальность и другие негативные явления. В настоящее время трудно оценить глобальные последствия подобных факторов, но не учитывать их нельзя.

Опасение пятое: ошибки в системах ИИ

В различных системах, управляемых ИИ, рано или поздно могут проявляться ошибки, допущенные при их создании. Это, в частности, связано с проблемами машинного обучения, поскольку большинство широко используемых методов машинного обучения далеко от совершенства и очень требовательно к данным. Небольшие изменения входных данных могут привести к крупным и странным изменениям в обнаруживаемых шаблонах [24]. Поскольку жизни людей всё больше доверяются интеллектуальным системам, то проявление ошибок — это только вопрос времени; ошибки будут происходить и при решении ответственных задач, связанных с безопасностью людей. При этом уже сейчас не всегда понятно, каким образом система ИИ выбрала то или иное решение. Для систем с суперинтеллектом такое понимание может оказаться принципиально невозможным, как и исправление ошибочных решений такой системы.

Опасение шестое: использование ИИ криминалом

Искусственный интеллект и алгоритмические средства также могут быть поставлены на службу вредоносным намерениям, включая манипуляцию и киберпреступность. Исследования в этой области открыты, и многие основные инструменты доступны в виде открытого исходного кода, что также затрудняет контроль над распространением ИИ и возможным использованием его злоумышленниками [40].

Сюда же относятся методы обмана ИИ, например с помощью так называемых состязательных атак.

Экзистенциальные риски

У органического мозга есть химические и метаболические пределы, ограничивающие его размер и вычислительную мощность. Поэтому, по мнению отдельных исследователей, «в долгосрочной эволюционной перспективе люди и всё, о чем они когда-либо думали, станут всего лишь примитивной переходной формой, предшествовавшей более глубокому мышлению новой машиноориентированной культуры, простирающейся в отдалённое будущее и далеко за пределы Земли» [22]. Понятно, что подобный сценарий касается достаточно отдалённого будущего при отсутствии развития человеческих рас, и крайне нежелателен.

Кроме рисков со стороны ИИ, существуют риски и для самого ИИ

«На теме искусственного интеллекта сейчас слишком много спекулируют, и в этом кроется серьёзная проблема. Сфабрикованные успехи люди принимают за чистую монету, после чего реальные технологии уже не соответствуют их гиперожиданиям. Сначала робот София ездит по всему миру, якобы самостоятельно отвечая на любые вопросы, хотя на самом деле за неё пишут ответы люди, а потом оказывается, что японский Пеппер, подключённый к суперкомпьютеру Watson, не может ответить на простейший запрос покупателя в магазине. Опять же на волне выступлений Маска об угрозах искусственного интеллекта создаётся впечатление, что умные машины могут захватить нас уже завтра» [32].

Здесь перечислены только основные риски, но список ими не ограничивается. Существует много не решённых к настоящему времени вопросов, например, достойна ли обладать теми же правами, что и человек, машина с ИИ человеческого уровня?

Заключение

Когда-то считалось, что одна из основных философских проблем в области ИИ — возможность или невозможность моделирования мышления человека, т. е. обретёт ли искусственный интеллект сознание? Вопрос уже не совсем гипотетический и очевидно имеющий большое значение для прогнозирования ближайшего будущего человечества, России и большинства жителей планеты Земля. Полувековая история развития ИИ всё больше убеждает нас в том, что принципиальных препятствий на пути достижения такой цели нет. Более того, скорее всего ИИ можно сделать и не на нейросетях. Просто нейросети в некотором плане уже освоенное природой решение.

Литература

  1. Жданов В.С. Современное состояние и перспективы развития искусственного интеллекта. http://emag.iis.ru/arc/infosoc/emag.nsf/BPA/c1274a3671576d79c325766200406380.
  2. Ольга Дерюгина. Искусственный интеллект и современное искусство. http://www.colta.ru/articles/art/14931.
  3. Баррат Джеймс. Последнее изобретение человечества: Искусственный интеллект и конец эры Homo sapiens. ООО «Альпина нонфикшн»,
  4. Андрей Иванов. Искусственный интеллект. Текущие достижения и направления развития. https://iot.ru/gadzhety/iskusstvennyy-intellekt-tekushchie-dostizheniya-i-osnovnye-napravleniya-
  5. И.А. Бессмертный. Искусственный интеллект – СПб: СПбГУ ИТМО, 2010. –132 с.
  6. Сергей Белов, Валерий Катькало. Дефицит искусственного интеллекта. https://www.ru/opinion/articles/2017/03/21/681987-defitsit-iskusstvennogo-intellekta.
  7. Дарья Васильева. Тенденции в развитии Искусственного Интеллекта. http://robotoved.ru/iskusstvennii_intellket_development/.
  8. Искусственный интеллект (ИИ) как ключевой фактор цифровизации глобальной экономики. https://www.crn.ru/news/detail.php?ID=117544.
  9. Николай Хижняк. IBM видит искусственный интеллект не как набор обычных алгоритмов. https://hi-news.ru/technology/ibm-vidit-iskusstvennyj-intellekt-ne-kak-nabor-obychnyx- algoritmov.html.
  10. Дмитрий Мунгалов. Власть над миром: чем закончится гонка за искусственным интеллектом. https://sk.ru/news/b/articles/archive/2017/08/23/vlast-nad-mirom-chem-zakonchitsya-gonka-za- iskusstvennym-intellektom.aspx.
  11. Дмитрий Демченко. Карта применения технологий искусственного интеллекта: медицина, образование, транспорт и другие сферы. https://vc.ru/p/ai-map.
  12. Валентин Климов. Мозг терминатора. http://www.atomvestnik.ru/index.php?option=com_content&view=article&id=207:mozg- terminatora&catid=2&Itemid=133
  1. Достижения в глубоком обучении за последний год. https://habrahabr.ru/company/mailru/blog/338248/
  2. Играть на уровне бога: как ИИ научился побеждать человека. https://geektimes.ru/company/mailru/blog/277064/
  3. Суперкомпьютер IBM Watson: революция в диагностике и терапии рака. http://www.diakonlab.ru/vse_novosti/industry_news/superkompyuter_ibm_watson_revolyuciya_v_di agnostike_i_terapii_raka/
  4. Что такое глубокое обучение (deep learning)? http://iwtkl.livejournal.com/17828.html
  5. Опасности искусственного интеллекта. http://senspeople.ru/opasnosti-iskusstvennogo-intellekta/
  6. IDC: в 2017 году мировой рынок систем искусственного интеллекта вырастет более чем в полтора раза. https://www.coru/news/IDC-v-2017-godu-mirovoy-rynok-sistem- iskusstvennogo-intellekta-vyrastet-bolee-chem-v-poltora-raza
  7. Геннадий Осипов. Искусственный интеллект: состояние исследований и взгляд в будущее. http://www.raai.org/about/persons/osipov/pages/ai/ai.html
  8. Christina Kretsu. Искусственный интеллект в бизнесе – опыт российских брендов. https://vc.ru/25645-ai-business.
  9. Майер-Шенбергер В. Большие данные. Революция, которая изменит то, как мы живем, рабо- таем и мыслим / Виктор Майер-Шенбергер, Кеннет Кукьер; пер. с англ. Инны Гайдюк. –М.: Манн, Иванов и Фербер, 2014. – 240 с.
  10. Брокман Д. Что мы думаем о машинах, которые думают: Ведущие мировые ученые об искусственном интеллекте / Д. Брокман – «Альпина Диджитал»,
  11. Потопахин В.В. Романтика искусственного интеллекта. –М.: ДМК Пресс, 2017. –170 с.: ил.
  12. Бринк Хенрик, Ричардс Джозеф, Феверолф Марк. Машинное обучение. –СПб.: Питер, 2017. – 336 с.: ил. –(Серия «Библиотека программиста»).
  13. Робот в законе. https://dailyhype.ru/2017/12/05/robot-v-zakone.html
  14. DARPA даёт 65 млн. долларов на продвинутый самообучаемый ИИ. https://robotics.ua/news/business/6584-darpa_daet_dengi_na_prodvinutyj_samoobuchaemyj_ai
  15. Системы ИИ в 2018: шесть прогнозов. https://habrahabr.ru/company/it-grad/blog/344590/
  16. ИИ помог создать функциональный атлас головного мозга дрозофилы. https://nplus1.ru/news/2017/07/14/fruit-fly-brain-mapping
  17. Как искусственный интеллект поможет спасти планету https://news.rambler.ru/other/39160318- kak-iskusstvennyy-intellekt-pomozhet-spasti-planetu/, 16/02/2018.
  18. Панов А.И. НИУ ВШЭ. Введение в методы ИИ – 28.09.2017. https://cs.hse.ru/data/2017/10/08/1159578493/Slides-IntroToAI-HSE-2017-01-Panov.pdf
  19. В прошлом году Китай потратил на исследования и разработки $279 млрд. https://hightech.fm/2018/02/27/279-billion-on-rd
  20. Нечеловеческая логика: удивят ли нас роботы в 2018 году. http://www.forbes.ru/tehnologii/357621-nechelovecheskaya-logika-udivyat-li-nas-roboty-v-2018- godu
  21. 2018-й: Искусственный интеллект перешел в наступление. https://if24.ru/2018-iskin- nastupaet/
  22. Людмила Лесникова. RIAF 2017. Искусственный интеллект в действии. JetInfo №1—2/2018. с. 9—15.
  23. Анна Шулина. Искусственный интеллект узнает человека в полнейшей тьме. https://www.it- world.ru/it-news/tech/138370.html
  24. Брокман, Джон. Что мы думаем о машинах, которые думают: Ведущие мировые ученые об искусственном интеллекте»: Альпина нон-фикшн; Москва; 2017, 247 с.
  25. Андрей Сошников. Генпрокуратура России закупит искусственный интеллект https://www.bbcom/russian/news-45792998
  26. Где создают искусственный интеллект: топ-10 стран мира. https://www.ru/articles/108584
  27. Huawei инвестирует почти $150 млн в искусственный интеллект https://www.rosru/business/2018/10/16/1739355.html
  28. Искусственный интеллект сверхкомпетентен, но может и ошибаться. http://rus.delfi.ee/projects/opinion/iskusstvennyj-intellekt-sverhkompetenten-no-mozhet-i- oshibatsya?id=84002282 .
  29. Курс «Введение в искусственный интеллект». https://mva.microsoft.com/ru/training-courses/– 18227?l=A0IC0FwjE_6511100275
  30. В каком направлении будет двигаться развитие искусственного интеллекта в 2018 году? https://www.nvru/object/ai-headed-2018-ru.html
  31. Сергей Орлов. Технологии искусственного интеллекта становятся мейнстримом. https://www.coru/232317/tehnologii-iskusstvennogo-intellekta-stanovyatsya-mejnstrimom/ (9 ноября 2018).
  32. Сергей Орлов. Искусственный интеллект как оружие массового поражения. https://www.coru/232167/iskusstvennyj-intellekt-kak-oruzhie-massovogo-porazheniya/ (6 ноября 2018)
  33. Васин С.Г. Искусственный интеллект в управлении государством. https://cyberleninka.ru/article/v/iskusstvennyy-intellekt-v-upravlenii-gosudarstvom
  34. Направления исследований в области искусственного интеллекта. http://www.aiportal.ru/articles/other/direction-researches.html.

Автор: Пройдаков Эдуард Михайлович, главный аналитик АНО «Модернизация»
Источник: http://digital-economy.ru/

Понравилась статья? Тогда поддержите нас, поделитесь с друзьями и заглядывайте по рекламным ссылкам!