Авторы-фантасты часто пишут рассказы о мощных, интеллектуальных компьютерах, которые по той или иной причине становятся опасными и решают, что человечество должно страдать. В конце концов, сюжетная линия основана на конфликте, и кому захочется читать о компьютерном интеллекте, который с удовольствием записывает на прием к врачу и включает и выключает свет?
В этих историях также кажется, что эпоха самоосознающего искусственного интеллекта (ИИ) не за горами. Опять же, это здорово для сюжета, но в реальной жизни, когда, если вообще когда-либо, ИИ действительно будет думать самостоятельно и казаться «живым»? Это вообще возможно?
Этот вопрос всплыл в новостях в июне 2022 года. Ниташа Тику сообщила, что Блейк Лемуан, инженер, работающий в подразделении Google Responsible AI над ИИ под названием LaMDA (сокращение от Language Model for Dialogue Applications), считает, что ИИ разумен (то есть способен испытывать чувства и ощущения) и имеет душу.
Лемуан сообщил о своих выводах в Google на основе интервью, которые он провел с LaMDA. Один из сотрудников LaMDA сказал ему, что он боится закрытия. Если это произойдет, сказал LaMDA, это больше не сможет помочь людям. Вице-президент Google Блез Агера-и-Аркас и директор по ответственным инновациям Джен Дженнаи изучили выводы Лемуана и не поверили ему. На самом деле Лемуана отправили в отпуск.
Лемуан отметил, что LaMDA - это не чат-бот - приложение, предназначенное для общения с людьми один на один, - а приложение, которое создает чат-ботов. Другими словами, LaMDA сама по себе не предназначена для подробных разговоров о религии или чем-то еще, если уж на то пошло. Но даже несмотря на то, что эксперты не верят, что LaMDA разумен, многие, в том числе Google Aguera y Arcas, говорят, что ИИ очень убедителен.
Если нам удастся создать по-настоящему разумный ИИ, как мы об этом узнаем? Какие характеристики, по мнению экспертов, показывают, что компьютер действительно обладает самосознанием?
Игра в имитацию
Возможно, наиболее известным методом измерения искусственного интеллекта является тест Тьюринга, названный в честь британского математика Алана Тьюринга. После того, как он оказал жизненно важную помощь в расшифровке немецких кодов во время Второй мировой войны, он некоторое время работал над искусственным интеллектом. Тьюринг считал, что человеческий мозг подобен цифровому компьютеру. Он разработал то, что он назвал имитационной игрой, в которой человек задает вопросы машине в другом месте (или, по крайней мере, там, где человек ее не видит). Если машина может поговорить с человеком и обмануть его, заставив думать, что это другой человек, а не машина, повторяющая заранее запрограммированную информацию, она прошла тест.
Идея имитационной игры Тьюринга проста, и можно представить, что беседы Лемуана с LaMDA убедили бы Тьюринга, когда он разрабатывал игру. Однако ответ Google на заявление Лемуана показывает, что исследователи ИИ теперь ожидают от своих машин гораздо более продвинутого поведения. Адриан Веллер, директор программы ИИ в Институте Алана Тьюринга в Соединенном Королевстве, согласился с тем, что, хотя разговоры LaMDA впечатляют, он считает, что ИИ использует расширенное сопоставление с образцом для имитации интеллектуального разговора.
Как написала Карисса Велиз в Slate: «Если однажды камень заговорит с вами, было бы разумно переоценить его чувствительность (или ваше здравомыслие). Если бы он закричал «ой!» после того, как вы сядете на него, было бы неплохо встать. Но это не относится к языковой модели ИИ. Языковая модель разработана людьми для использования языка, поэтому нас не должно удивлять, когда это происходит. только это."
Этические дилеммы с ИИ
ИИ определенно имеет крутой фактор, даже если он не планирует захватить мир до того, как герой прибудет, чтобы спасти положение. Похоже, это инструмент, которому мы хотим передать тяжелую работу, чтобы заняться чем-нибудь веселым. Но может пройти некоторое время, прежде чем ИИ - разумный или нет - будет готов к такому большому шагу.
Тимнит Гебру, основатель Исследовательского института распределенного ИИ (DAIR), предполагает, что мы тщательно обдумываем и продвигаемся медленно при внедрении искусственного интеллекта. Она и многие ее коллеги обеспокоены тем, что информация, используемая искусственным интеллектом, делает машины расистскими и сексистскими. В интервью IEEE Spectrum директор по исследованиям DAIR Алекс Ханна сказала, что, по ее мнению, по крайней мере некоторые данные, используемые в языковых моделях исследователями ИИ, собираются «с помощью сомнительных с этической или юридической точек зрения технологий». Без справедливого и равного представительства в данных ИИ может принимать предвзятые решения. Блейк Лемуан в интервью о LaMDA сказал, что не верит, что искусственный интеллект может быть беспристрастным.
Одна из целей Общества Алгоритмической Справедливости, заявленных в заявлении о миссии, состоит в том, чтобы сделать людей более осведомленными о том, как ИИ влияет на них. Основатель Джой Буоламвини, будучи аспирантом Массачусетского технологического института (MIT), выступила на TED Talk о «закодированном взгляде».«Искусственным интеллектам, с которыми она работала, было труднее читать лица чернокожих просто потому, что они не были запрограммированы на распознавание широкого спектра оттенков кожи людей. AJS хочет, чтобы люди знали, как собираются данные, какие данные собираются, чтобы иметь какую-то ответственность и иметь возможность принимать меры для изменения поведения ИИ.
Даже если бы вы могли создать ИИ, способный принимать действительно беспристрастные решения, есть и другие этические вопросы. Сейчас стоимость создания больших языковых моделей для ИИ исчисляется миллионами долларов. Например, ИИ, известный как GPT-3, может стоить от 11 до 28 миллионов долларов. Это может быть дорого, но GPT-3 способен сам писать целые статьи. Обучение ИИ также наносит ущерб окружающей среде с точки зрения выбросов углекислого газа. Впечатляет, да. Дорого, тоже да.
Эти факторы не помешают исследователям продолжить свои исследования. Искусственный интеллект прошел долгий путь с середины до конца 20-го века. Но даже несмотря на то, что LaMDA и другие современные ИИ могут вести с вами очень убедительную беседу, они не обладают разумом. Может быть, их никогда не будет.
Интересно
Если вы являетесь поклонником телевизионного игрового шоу Jeopardy!, вы, возможно, помните серию демонстраций из двух игр между суперчемпионами Кеном Дженнингсом и Брэдом Раттером и суперкомпьютером Watson, созданным IBM. Уотсон взял сериал, но он также привлек внимание тем, что спросил: «Что такое Торонто?» в категории о городах США и сделал несколько странных ставок на Daily Doubles. IBM объяснила, что, хотя у машины были некоторые проблемы с обработкой естественного языка, она производила вычисления на основе сохраненной статистики. Эксперты по теории игр также работали над Уотсоном, объясняя странную стратегию ставок.