ГЛАВА 16. Искусственный интеллект

С точки зрения морали машина, способная вести себя так по-разному, чтобы во всех случаях жизни действовать так, как нас заставляет поступать наш разум, невозможна.

Тогда Хэл ответил своим обычным тоном:

— Слушай, Дейв, я знаю, что ты пытаешься помочь. Но дело тут либо в антенной системе, либо в твоей процедуре проверки. С обработкой информации у меня полный порядок. Если ты проверишь мои записи, то убедишься, что там совершенно нет ошибок.

— Я знаю все о твоих служебных записях, Хэл, но это не доказывает, что и на этот раз ты прав. Все могут ошибаться.

— Я не хочу на этом настаивать, Дейв, но я не способен ошибаться.

— Ладно, Хэл,— сказал Дейв довольно резко. — Я понимаю твою точку зрения. Мы остановимся на этом.

Он собирался было добавить: «И, пожалуйста, забудь обо всем этом». Но этого Хэл, конечно же, никогда не смог бы сделать.

Артур Кларк

 

Что такое искусственный интеллект и как он может влиять на психологию и вашу жизнь?

 

Чарльз Бэббидж (1792-1871).

Британский математик и изобретатель, разработавший концепцию программируемого механического вычислительного устройства. Он назвал его «аналитическим устройством»



538 Глава 16, Искусственный интеллект

Дж. Преспер Эккерт (на переднем плане) и Джон Моучли работают на ламповом компьютере ENIAC совместно с военнослужащими армии США и обслуживающим персоналом; 1946 год



Компьютеры

Происхождение современной компьютерной науки можно отнести к 1940-м годам, когда для ускорения долгих и утомительных математических вычислений, обычно применяемых военными для расчета траекторий полета артиллерийских снарядов, были изобретены ламповые компьютеры UNIVAC и ENIAC. ENIAC (Electronic Numerical Integrator and Computer — «Электронный числовой интегратор и компьютер») — тщательно засекреченный проект, спонсируемый военным ведомством США и проводимый в Пенсильванском университете — имел 17 468 радиоламп, изготовитель которых гарантировал их работу в течение 25 тыс. ч; это означало, что в среднем каждые 8 минут сгорала одна лампа! Эта чудовищных размеров вычислительная машина весила 30 т, а потребляемая ею мощность равнялась 174 кВт. Руководителями проекта были Джон Моучли и Дж. Преспер Эккерт. Эти первые бесхитростные и не слишком эффективные гиганты открыли дорогу для более компактных, более мощных и более сложных систем, которые, в свою очередь, постепенно сменились микроэлектронными компьютерами, прочно вошедшими в нашу повседневную жизнь.

В когнитивной психологии найдется немного более важных дат, чем 1956 год¹. Летом этого года группа из десяти ученых собралась на территории колледжа Дортмут с целью обсудить возможность создания компьютерных программ, способных к разумному поведению. Среди участников этой конференции были: Джон Мак-Карти, основавший впоследствии лаборатории ИИ в Массачусетском технологи-

¹ В этом году Брунер, Гуднау и Остин опубликовали книгу «Изучение мышления», Хомский — «Три модели описания языка», Миллер — «Магическое число семь плюс-минус два», Ньюэлл и Саймон — «Логическая теория машин».

Искусственный интеллект: начало 539

Джон Мак-Карти. Первым начал исследования в области искусственного интеллекта и разработал язык Лисп, широко используемый в исследованиях искусственного интеллекта



Джон фон Нейманн (1903-1957). Разработал общепринятую компьютерную архитектуру



540 Глава 16. Искусственный интеллект

сложных задач последовательным способом (таких, как решения с использованием математических функций или трансформация данных или файлов) компьютеру может потребоваться нескольких минут, часов или еще больше времени. Все пользователи компьютеров знают, как невыносимо «много» времени требуется персональным компьютерам, чтобы «обдумать», или «переварить», проблему. Основная причина, по которой компьютеры неймановского типа работают так медленно, состоит в том, что одно действие должно быть закончено прежде, чем начато другое. Последовательные процессоры решают проблемы пошаговым способом.

В самом начале разработки технологии компьютеров специалисты в области искусственного интеллекта (и авторы научной фантастики) лелеяли грандиозные мечты о мыслящих машинах и роботах. В начале 1940-х годов чикагский психиатр В. С. Мак-Калох и его студент В. Питтс написали оригинальную статью. В ней они ввели понятие, которому суждено было оказать существенное влияние на ученых-компьютерщиков, включая фон Неймана, а позже и сторонников модели PDP. Основываясь на идее о том, что разум определяется как работа мозга, а более точно — основных единиц мозга, нейронов, они утверждали, что нейроны можно рассматривать как «логические устройства» и что «нервные явления и отношения между ними можно объяснить с помощью пропозициональной логики». Когда нейроны взаимодействуют друг с другом, они делают это электрохимически. Небольшой силы электрический ток проходит по аксону клетки к синапсу, где химический медиатор передает импульс другим нейронам. Процессом нейротрансмиссии управляют определенные правила: нейроны генерируют разряд, только когда достигается порог возбуждения, у всех нейронов есть пороги; нейроны генерируют разряд, только когда ток положительный, отрицательный ток тормозит активность нейрона и т. д. Очень важно, что каждый нейрон, по-видимому, суммирует все возбуждающие и тормозящие сигналы от тысяч его связей. В зависимости от своего порога нейрон будет или не будет генерировать разряд, то есть он будет «включен» или «выключен»¹. (Нейроны такого типа называются нейронами Мак-Калоха-Питтса.) Мак-Калох и Питтс отметили, что этот нейрон в состоянии «включено» или «выключено» можно рассматривать как логическое устройство. Как известно, компьютер работает с помощью схем «включено-выключено». Когда тысячи таких схем соединяются вместе в экспоненциальной последовательности, возможности обработки неизмеримо возрастают. Точно так же основная единица нервной обработки — нейрон и его связи — обладает впечатляющими возможностями.

Вскоре после публикации статьи Мак-Калоха и Питтса фон Нейманн обнаружил связь между логичным поведением нейронов при их взаимодействии между собой и способом работы цифровых компьютеров. «Легко заметить, что эти упрощенные функции нейрона можно имитировать с помощью телеграфного реле или радиоламп». (Транзисторы еще не были изобретены, иначе он, вероятно, назвал бы и их.) Фон Нейманн, который к этому моменту уже разработал наиболее практичную компьютерную архитектуру, предположил, что можно спроектировать компьютер, который бы копировал человеческий мозг — не только по функции, но и по

Если посмотреть на таблицу сравнения компьютеров неймановского типа с мозгом, можно понять, почему исследователи искусственного интеллекта были разочарованы, если не сказать поставлены в тупик. Они работают с неправильными машинами! Кажется, что мы находимся на пороге концептуального прорыва — возможно, сдвига парадигмы — в области искусственного интеллекта, и уже сделаны первые шаги в направлении увеличения сходства компьютеров и мозга с точки зрения их структуры и процессов. Системы нейронных сетей, модели PDP и коннекционизм пытаются найти вычислительные принципы, управляющие сетя-

В то время как американские ученые прошлого поколения безуспешно пытались построить компьютер, подобный мозгу, японский ученый Айзава создал такой компьютер, используя реальные нервные клетки, смешанные с электронными устройствами, в попытке изготовить грубую, наполовину искусственную нейронную сеть. На данный момент он успешно объединил клетки с полупроводниковой смесью индия и окиси олова и обнаружил, что при очень слабой электрической стимуляции органические клетки реагируют управляемым ростом (см. приведенный здесь рисунок). Слишком рано думать об искусственном мозге, но подобные устройства могли бы выступить в роли интерфейса между нервной системой и такими протезами, как искусственный глаз.

Вопрос неразличимости функций в другой сфере деятельности рассматривается иначе. Например, предположим, что в больнице работают два хирурга. Один хирург - дипломированный специалист известной медицинской школы, считающийся одним из лучших хирургов в мире. Другой окончил малоприметную медицинскую школу и оценивается как плохой хирург. Однажды потребовалась срочная операция, а первый врач заболел, поэтому второй врач делает операцию без ведома пациента, который находится без сознания. Пациенту не сказали, какой врач его оперировал, и он доволен тем, что операция прошла успешно. Кроме того, другие врачи убеждены, что операция была сделана первым хирургом. Из этого примера мы можем заключить, что тест на неразличимость пройден успешно. Однако, если бы вы были пациентом и узнали, что операцию в действительности делал робот, какой бы вывод вы сделали о профессиональных качествах робота в сравнении с профессиональными качествами хирурга? Вы бы согласились, что они одинаковы? Почему да или почему нет? Трудно дать ответы на эти вопросы, но только не для людей, имеющих твердые убеждения по этому вопросу, таких как Сирл, «вывернувший наизнанку» тест Тюринга.

На каждой стадии программа распознает специфические признаки буквы, такие как диагональные линии, углубления и т. д.

форме, то есть в форме образа на сетчатке. Канонические признаки соответствуют стандартному способу репрезентации информации, например тому, какой мы ожидаем увидеть букву A в этом тексте. В одной системе Хинтон (Hinton, 1981) описал метод отображения паттернов ретиноцентрических признаков на канонические паттерны. В подробностях эта идея слишком обширна, чтобы быть представленной здесь; отметим лишь, что эта важная проблема активно исследуется сторонниками модели PDP. Всех интересующихся ею я адресую к первоисточникам.

Более старые, и намного более простые, алфавитно-цифровые системы распознавания в рамках ИИ основывались на понятии эталона. Паттерн букв и цифр хранился в памяти компьютера. Когда компьютер «видит» цифру или букву, он «читает» ее, сравнивая с паттерном, например букву A с эталоном А. Если установлено соответствие, буква идентифицируется правильно. Даже описанные ранее методы последовательного и параллельного поиска были явно упрощенными. Более новые, основанные на принципах нервных процессов компьютерные модели фактически способны к «изучению» паттернов. Некоторые из этих компьютеров могут изучать, хранить и распознавать паттерны. Одна такая программа, названная DYSTAL (DYnamically STable Associative Learning — «Динамически устойчивое ассоциативное научение»), успешно усваивает буквы алфавита и последовательности букв и, что, возможно, более важно, распознает их даже при предъявлении только части паттерна (рис. 16.4).

По мнению Алкона, DYSTAL делает это так же, как мы узнаем знакомое лицо по нескольким линиям эскиза. Система «изучает» паттерн в том смысле, что предварительно в нее не было заложенной никакой связи между информацией на входе и на выходе. Тем не менее связь была установлена через больший вес, приписываемый определенным элементам (участкам), которые участвуют в процессе распознавания.

Другая новаторская особенность этой системы состоит в том, что она может вместить большое количество элементов, не задействуя значительных ресурсов компьютера. Во многих других сетевых системах каждая единица связана с каждой дру-

554 Глава 16, Искусственный интеллект

Рис. 16.4. Распознавание паттерна искусственной сетью Алкона происходит согласно многим из правил, демонстрируемых биологическими системами.

Когда сеть обучена распознавать паттерн, такой как строчная буква а, изображенная в верхней части рисунка, воспринимающим участкам, участвующим в распознавании, придается больший «вес», чем тем, которые не участвуют в распознавании, то есть их возбудимость повышается. Здесь синаптический вес представлен возвышением элементов в слоях. Повышение возбудимости облегчает образование связей между нейронами, участвующими в воспоминании, когда предъявлена только часть паттерна. (Этот рисунок помог сделать Томас П. Воджи из Экологического научно-исследовательского института Мичигана.) Источник: Alkon, 1989

скими правонарушениями, но она может поставить довольно точный диагноз тринадцатилетней девочке с высокой температурой, болью в животе и повышением уровня лейкоцитов в крови. Одна такая программа, неудачно названная Puff, является экспертной системой, разработанной для диагностики болезней легких, например рака легких; ученые заявляют, что точность ее работы приблизительно равна 89 %, — близко к точности диагноза, поставленного опытными врачами. Эти системы особенно популярны в промышленности, армии и в исследованиях космоса. Они довольно хорошо справляются со своей работой. Кроме того, они не бастуют и не требуют больше денег, не возражают, чтобы их разбили вдребезги, не требуют средств для поддержания жизни и их очень любят тупицы.

Психологи считают язык основным проявлением когнитивных процессов. Он больше, чем все другие виды человеческого поведения, отражает мышление, восприятие, память, решение задач, интеллект и научение. И ввиду его важности для основных психологических принципов язык представляет большой интерес для специалистов по ИИ.

Артур Кларк в наиболее полном виде — как обмен мнениями между Дейвом (человеком) и фантастическим компьютером Хэлом — предвосхитил связь способности к языку и сферы решения задач с искусственным интеллектом:

— Я хочу сделать это сам, Хэл, — сказал он, — пожалуйста, передай мне управление.

— Слушай, Дейв, у тебя еще куча работы. Я предлагаю, чтобы ты оставил это мне.

— Хэл, переключи анабиоз на ручное управление.

— Насколько я могу судить по обертонам твоего голоса, Дейв, ты серьезно расстроен. Почему бы тебе не принять таблетку от стресса и не отдохнуть немного?

Первая машина для автоматического сочинительства

Ниже приведена иллюстрация «думающей машины» Джонатана Свифта из «Путешествий Гулливера». Свифт язвительно предположил, что книги и другую литературу можно писать, поворачивая соответствующие ручки. Некоторые «современные программы для сочинительства» генерируют научную фантастику, которая воспринимается как настоящая литература. См. журнал Omni для примеров.

Каждая единица-буква посылает сигналы через имеющий определенный вес связи ко всем «скрытым» единицам; если общий сигнал, достигающий скрытой единицы, превышает некоторый порог, единица генерирует разряд, посылая сигналы к единицам-фонемам. Информация на выходе - фонема, которая получает самый сильный общий сигнал. Когда «преподаватель» говорит программе NETtalk, что она допустила ошибку - здесь она только что прочитала m вместо n, - она исправляет ошибку, регулируя все веса связей согласно определенному алгоритму научения. Источник: Heppenheimer, 1988

Как признают Седжновски и другие исследователи, в разговоре между машиной и человеком большое значение имеет контекст. Теперь мы рассмотрим другую важную проблему — проблему значения и искусственного интеллекта.

Несмотря на то что некоторые из фраз этого компьютера достаточно хороши, чтобы обманывать кого-то некоторое время, он не способен обманывать всех и постоянно. Компьютеры терпят неудачу не из-за недостатка памяти на слова — она почти неограниченна, и не из-за недостаточной способности генерировать значимые предложения — она весьма обширна, и не из-за плохого произношения букв — оно вполне приемлемо, а из-за того, что они недостаточно понимают используемый язык.

На ранних этапах развития ИИ многие думали, что компьютеры смогут оказать значительную помощь при переводе с языка на язык. Просто загрузить в компьютер словарные эквиваленты (например, necklace = «ожерелье», cloth = «сукно», pocketbook = «записная книжка», pink = «розовый» и т. д.), ввести один язык и получить на выходе другой. Однако, даже если делать перевод один к одному в контексте синтаксической информации, результаты получаются довольно странные. Например, когда пассаж из Библии (возможно, апокрифический) The spirit is willing, but the flesh is weak («Стремится дух, да плоть слаба») перевели на русский

564 Глава 16, Искусственный интеллект

Рис. 16.10. Вы можете решить эту задачу? Эти объекты были рассортированы на два класса, на что указывают серые или черные рамки.

По какому признаку они различаются? Компьютеры, запрограммированные обучаться на примерах, часто сталкиваются с подобными загадками. Использование машиной подсказок делает обучение более быстрым и легким. Подсказку, которая поможет решить эту задачу, см. на рис. 16.11

Нарисованная ось дает понять, что у верхних шести объектов отсутствует зеркальная симметрия, имеющаяся у нижних трех объектов. Этот признак отличает объекты в черных и серых рамках

Насколько хорошо компьютер может играть в шахматы? Как мы видели, лучший компьютер и программа Deep Blue выиграли у Гарри Каспарова, которого многие считают лучшим игроком всех времен. Теперь существует сколько угодно компьютеров, которые могут выиграть у кого угодно, кроме лучших игроков, один из таких компьютеров - мой собственный Pentium, и можно смело предположить, что и у вас есть такой же. Чем полезно наблюдение за машиной, обучающейся играть в шахматы? Прежде всего мы можем узнать, что на основе анализа паттернов машина способна делать только грубые суждения о том, какие признаки важны. Компьютеру не хватает именно проницательности, однако он компенсирует это способностью к быстрой и объемной математической деятельности типа «поиск и сравнение». Человеческая способность извлекать значимые признаки из чрезвычайно сложного мира сенсорной информации, чтобы формировать абстракции этих признаков, преобразовывать эти абстракции в ассоциативные структуры более высокого уровня и строить сложные когнитивные планы, в то же время согласуя эти внутренние действия с внешней реальностью, может быть лишь приблизительно реализована в компьютере. Но даже эта обширная способность к поиску недостаточна, чтобы предусмотреть все возможные случайности, поэтому развитие стратегий игры - важная часть современных программ.

За три года до конца XX столетия случилось «невозможное». Deep Blue, самый быстрый в мире играющий в шахматы компьютер, созданный Чанг-Джен Таном в IBM, выиграл у обладателя титула чемпиона мира по шахматам Гарри Каспарова. Deep Blue смог победить, потому что был способен искать до 200 млн шахматных позиций в секунду. Но он выиграл также и потому, что мог лучше «продумать» стратегию. Машины следующего поколения, вероятно, будут способны учиться на собственном опыте и улучшать свои результаты за короткий период, как это делают люди, только быстрее и лучше.