Искусственный интеллект: Future Starts Slow?
Будущее наступило: системы искусственного интеллекта окружают нас повсюду и продолжают развиваться.
Одни эмулируют отдельные виды интеллектуальной человеческой деятельности. Это, например, шахматные компьютеры обыгрывают человека или более сложный проект — программа AlphaGO играет сама с собой в го, самообучаясь и выбирая лучшие стратегии. Другие превратились из AI (artificial intelligence) и IA (intellectual assistance) за счет того, что многие рутинные вещи программа выполняет быстрее и лучше человека. Например, всевозможные переводчики, в том числе — способность Skype переводить “на лету” речь человека. Умные колонки или помощники в смартфонах, первые проекты беспилотных автомобилей, достраивание или создание изображений из набросков, имитация фото, видео, звука, прогнозирование событий. Даже сейчас текстовый редактор подчеркивает слово “эмулируют” и “самообучаясь”, намекая на возможные ошибки. Все это сложные программные решения, включающие в себя блоки работ, которые сложны сами по себе: машинное зрение, машинное обучение, алгоритмы принятия решений и самообучение. Значит ли это, что над нами нависла тень Скайнет?
Все перечисленные выше виды ИИ объединяет одно — они находят решение для целей, поставленных перед ними человеком. В.Пелевин в своем романе iPhuck 10 описал работу такого ИИ, доведенного до абсолюта — направление “рандомного программирования”. Человек ставит задачу, а программа, работающая, фактически, по принципу “черного ящика”, конструирует код, который наилучшим образом эту задачу обслужит. Кстати, активно используемые сегодня генеративно-состязательные сети выбирают лучшие алгоритмы без участия человека. Робот фильме Ex Machina, несмотря на то, что смогла обмануть главного героя, все равно стремилась достичь цели, поставленной создателем — выйти за пределы полигона. У нее не было мотивации, а был практически приказ. Последние кадры фильма можно трактовать по-разному: имеет ли робот хоть малейшее представление о том, что делать в реальном мире? Примерно так же ведут себя машины в West World, существуя в рамках “базовых потребностей”, заложенных создателем.
Естественным представляется продолжение эволюции — способность ИИ самостоятельно ставить перед собой задачи. И здесь мы сталкиваемся с чисто человеческой проблемой — что станет для ИИ стимулом, мотивацией для постановки задач? Предположим, такая система будет подключена к глобальной сети. Что будет формировать познавательные потребности интеллекта, каким образом будет осуществлятся приоритизация этих потребностей? Человеческая личность формируется постепенно под влиянием различных факторов — как внешних, так и внутренних. Так, физиология отдельных участков мозга напрямую влияет на характер, а значит и на принятие решений — скорость, полноту, правильность и адекватность. Кроме того, человеческое сознание развивается не вдруг, а постепенно, при этом важнейшую роль играет его готовность анализировать входящую информацию, будь то текст, звуки, изображения, ощущения или переживания. Проигнорировав эти элементы в ИИ, мы создадим интеллект нового типа с непознаваемой для человека мотивацией и логикой действий. Отсюда возникает новый вопрос — на основании каких характеристик человек сделает вывод, что ИИ функционирует корректно? На выходе мы получим только результат работы, но не будем знать исходных посылок и последовательность рассуждений. Хорошо, если результатом станет музыка или изображение, в вещественном мире можно найти логику. А что если ответом будет ноль или одно слово “да” или просто некий символ?
Второй глобальный вопрос — какая мотивация (кроме чисто спортивного интереса) у человека создавать мыслящую машину. Есть ли у нас потребность в вопросах, которые мы сами не можем вообразить? Ведь для решения сформулированных вопросов нужен, скорее, тот самый IA, искусственный помощник.
Пожалуй, единственной адекватной целью создания такой системы может стать практическое бессмертие сознания. Но насколько это возможно? Ведь проблема сохранения личности видится не столько в “побайтовом” копировании текущего состояния головного мозга. Вполне вероятно, что в обозримой перспективе мы достигнем такого уровня технологий, при котором слепок состояния нейронов головного мозга не будет проблемой. Но сознание очень тесно переплетено с физиологией, поэтому очевидным выглядит вопрос выживаемости или адаптации копии в неродном головном мозге. И, конечно, более широкий вопрос — будет ли такое трансплантированное сознание той же личностью, что и донор.
С созданием обслуживающей операционной системой сложностей еще больше. Чтобы личность продолжала функционировать “как живая”, нужно сначала определить все возможные особенности строения человеческого мозга, которые влияют на наше сознание. Далее — влияние сенсорных систем, а точнее преобразование сигналов сенсорных систем в ощущения. После того, как будут определены физические факторы, необходимо разобраться в том, как формируются когнитивные искажения, влияющие на формирование наших представлений о мире, как функционирует кратковременная и долговременная память, как устроена система анализа и синтеза информации. Сюда же нужно добавить программную реализацию гормональной системы, в том числе отвечающей за формирование поведения и эмоциональную составляющую. Добавим к проблема и колоссальный разрыв в скорости обработки данных человеком и компьютером. Слишком быстрый электронный мозг может стать причиной того, что электронная личность за мгновение проживет бесчисленное количество жизней и придет в состояние, которое мы, живущие один раз, также не сможем интерпретировать.
Из этого следует, что перспективы применения ИИ для копирования и сохранения личности весьма туманны. Это направление исследований может привести к появлению нового, в лучшем случае человекоподобного, типа сознания с неясными для человечества практическими целями.
Развитие технологий привело к тому, что под определение искусственного интеллекта подходит слишком много разнородных понятий, требующих отдельных категорий. Необходимо осознать, что мы создаем (определение ИИ) и для чего мы это создаем (критерии оценки успеха):
- Помощь человеку в решении задач, требующих больших вычислений или особых способностей, которые, впрочем, можно алгоритмизировать. На выходе получается интеллектуальный помощник или тренер: шахматный компьютер, системы моделирования физических явлений, обработчик больших данных, преобразователь данных (например, рисунок из скетча или видеоэффекты “на лету”)
- Саморазвивающаяся система, выбирающая наилучшие решения для поставленных целей. Прежде всего, это комплексы, построенные на машинном обучении с использованием соревновательных технологий.
- Высокоуровневая саморазвивающаяся система, способная самостоятельно ставить себе задачи и решать их наилучшим образом. Момент создания такой системы станет горизонтом событий в области ИИ в силу принципиальной нечеловечности искусственного сознания.
- Создание аналога человеческого мозга / копирование сознания/личности. Объем факторов, которые необходимо учесть на сегодня отодвигают перспективу создания на неопределенный срок.
Первые два типа ИИ активно развиваются и совершенствуются, но говорить о том, что терминатор искусственного интеллекта уже близко, пожалуй, еще рано. Или нет?