В последние месяцы общение с искусственным интеллектом стало доступным всем пользователям Интернета. Нейросети генерируют ответы на сложные вопросы, пишут стихи и рисуют картины. Кто-то на этот счет переживает, что путь человечества в изучении этой Вселенной завершен и дальше нас заменят умные машины. Но для того, чтобы понять, так ли это, стоит вспомнить, с чего началась история этого вопроса.
Величайшие научные тайны
«Две вещи наполняют меня священным трепетом: звездное небо над головой и нравственный закон внутри меня», — когда-то провозгласил выдающийся немецкий философ Иммануил Кант. Это выражение как никакое другое характеризует две области науки, которые являются наибольшим испытанием для современности и обещают нам невероятные чудеса.
Первой из них является исследование и освоение космоса. Второй — изучение человеческого интеллекта и создание его искусственных аналогов. И если наш путь к звездам обещает быть долгим, с искусственным интеллектом мы можем пообщаться уже сейчас.
Люди, работающие с Chat GPT и Midjorney, поражены теми текстами и картинками, которые продуцирует ИИ. Многие рисуют апокалиптические сценарии того, что уже завтра искусственный интеллект станет заменять нас на всех ролях, на которых мы привыкли видеть исключительно себя как венец эволюции.
Уже сейчас можно сказать, что искусственный интеллект улетит к звездам, и вопрос только в том, будут ли в этом путешествии сопровождать его люди. Хотя, возможно, что мы все же переоцениваем возможности наших машин.
Тест Тьюринга
Когда мы говорим, что поражены тем, что результат работы искусственного интеллекта невозможно отличить от деятельности человека, мы фактически свидетельствуем, что он прошел тест Тьюринга. Именно на этом понятии большей частью базируется наше понимание, что такое искусственный интеллект.
В оригинале тест, придуманный в 1950 году выдающимся британским математиком Аланом Тьюрингом, выглядел следующим образом. Человек-экспериментатор обменивается письменными сообщениями с двумя собеседниками (человек и машина). Ответы поступают за равные промежутки времени. Если в процессе общения экспериментатор так и не сможет понять, какие из сообщений пишет машина, то тест следует считать пройденным.
Тьюринг знал, что делает. Он был величайшим теоретиком и практиком вычислительной техники своего времени. До сих пор на уровне концепции все наши компьютеры работают так, как это видел он. Более того, именно этот ученый добился того, что машина смогла решать интеллектуальную задачу, с которой не справился человеческий разум — дешифрование чрезвычайно сложного вражеского шифра.
Но Тьюринг схитрил. В его времена вопрос о том, что глобально происходит в мозге человека, оставался тем же темным лесом, что и во времена Канта за столетие до того. Поэтому математик подошел к вопросу с практической точки зрения: если одна сознательно разумная система признает разумной другую, то такова последняя и есть на самом деле.
Лингвистические модели и китайская комната
Вспоминая тест Алана Тьюринга, часто забывают тот важный факт, что ни с одним компьютером описанным образом он никогда не общался. И ни одного чата вживую не видел. Можно только догадываться, как бы развивались вычислительные машины, если бы не преждевременная его смерть.
Как бы там ни было, а впервые вступить в диалог с машиной людям удалось спустя 10 лет после его смерти в середине 1960-х. Программа называлась ELIZA. Она успешно переставляла слова в самом вопросе и реагировала на некоторые ключевые слова в нем. Человек, которому очень хотелось с кем-то пообщаться, мог достаточно быстро забыть, что это машина, но хоть немного придирчивый собеседник легко понимал, что речь идет ни о чем.
ELIZA не понимала значения слов. Вся ее идея базировалась на том, что человеческий язык имеет определенную структуру, и определенные слова в ней выстраиваются определенным образом. Достаточно сложная, но все же чисто математическая закономерность.
Более того, анализируя статистическое распределение слов в определенном объеме текстов, можно добиться более убедительного жонглирования словами, чем это делала ELIZA. Такие системы называются лингвистическими моделями, и все современные чат-боты да и сам Chat GPT построены на этом принципе.
Последний, по сути, нагугливает наиболее статистически верное слово в ответе. Именно поэтому он выглядит столь естественно. Это именно тот набор слов, которые мог бы в ответе употребить человек, знающий что-то по теме вопроса.
Chat GPT проходит тест Тьюринга, но это мало о чем говорит. Еще в 1980 году американский философ Джон Серль опубликовал работу, в которой провел воображаемый эксперимент под названием «Китайская комната». Пусть у нас есть закрытая комната, в которой сидит человек, не знающий китайского языка. Но его инструктировали, как правильно составлять иероглифы, имея определенные их комбинации.
Человек выдаст из своей комнаты ответы, которые китайские носители смогут прочитать и воспринять за осмысленный ответ. При этом сам человек в комнате не будет иметь представления, о чем идет диалог.
И это действительно очень напоминает то, как работает Chat GPT. Поэтому многие исследователи справедливо отмечают, что как его статистические механизмы отбора правильных слов в Интернете не совершенствуй, он так и останется «китайской комнатой», которая не догадывается, что у тех символов, из которых она строит правдоподобные ответы, на самом деле есть смысл.
Нейросети как искусственный интеллект
Пока часть специалистов играла с лингвистическими моделями, другие немного разобрались с тем, как работает человеческий мозг. На уровне того, как возникают чувства, все так и осталось непонятным, но стало ясно, что в голове человека все происходит совсем не так, как в компьютере, построенном по принципам Тьюринга.
Вместо того чтобы выполнять у себя в голове программы, неважно насколько сложные и разветвленые, мы прогоняем информацию через сеть нейронов, каждый из которых имеет определенные настройки, чтобы взаимодействовать с ней, а все вместе они работают как машина распознавания образов и ситуаций на основе предыдущего опыта.
Проще всего это представить как набор сит, через которые просеиваются шарики разного размера и цвета. Задача — чтобы на выходе они были отсортированы по разным ящикам, стоящим внизу. Представьте, что мы можем изменять положение и отверстие в ситах, отбивать их назад и делать другие фокусы для того, чтобы всегда правильно рассевать, независимо от того, какие шарики сыпятся и в какой последовательности.
Первые искусственные нейросети появились в конце 1950-х. Ученые экспериментировали с ними до конца 1960-х, пока не выяснили, что главные задачи, которые тогда стояли перед вычислительной техникой, они либо не могут выполнить вообще, либо выполняют гораздо хуже компьютеров традиционной архитектуры.
Нейросети отправили в хранилище на долгие 30 лет, пока в 1990-х не оказалось, что некоторые новые задачи, вставшие тогда перед компьютерной сетью, охватывавшей весь мир, не решить, как не добавляй компьютерам мощности.
Тогда нейросети достали из ящика, и вот уже почти три десятилетия, когда говорят о новых успехах ИИ, то подразумевают именно их. Именно они научились узнавать людей по лицам, выигрывать в шахматы и Starcraft у людей-чемпионов и т.д. Астрономы их также широко используют для того, чтобы распознавать объекты определенных классов на снимках или находить наиболее подходящие физические модели.
Chat GPT также включает в себя нейросеть. И теоретически она могла бы научиться чему угодно, но разработчики тренировали ее именно на загугливании слов и, по сути, ни на что большее машина не способна. И именно это ставит под сомнение, что когда-нибудь ИИ сможет заменить нас.
Что такое интеллект?
Все нейросети, которые люди научили за последние 20 лет, являются узкоспециализированными. Это означает, что они умеют находить во множестве информации определенные образы, но только их, и если для анализа предоставить какой-то заведомо ложный набор данных, они все равно попытаются найти в нем правильный с их точки зрения ответ.
Это немного похоже на то, как дети видят животных и людей в форме облаков, проплывающих над ними. Если нейросети, натренированной на распознавание человеческих лиц, дать на обработку изображения галактик, то она отберет те из них, которые будут похожи на глаза и носы, даже если это просто наложение разных объектов.
Узкоспециализированные искусственные нейросети обнаруживают признаки разума только в контексте тех задач, для которых их тренировали. Другие задачи они не то что не могут постичь, они даже не знают, что такие существуют.
Машины могут выполнять сложные интеллектуальные задачи лучше человека, но все равно умными мы их назвать не можем, потому что мгновенно способны придумать собственный тест, отличительный от вымышленного Аланом Тьюрингом, который машина не пройдет.
А все потому, что человеческий интеллект — это не только способность составлять слова в правильном порядке или распознавать на изображении определенный паттерн. Это все это вместе взятое и еще куча разных других навыков.
Мы многое узнали о том, как работает наш мозг, но дать естественному интеллекту определение, охватывающее все феномены, связанные с ним, которое удовлетворило бы того же Канта, мы все еще не можем.
Что нужно искусственному интеллекту, чтобы захватить мир?
Эксперименты с лингвистическими моделями и узкоспециализированными нейросетями нельзя назвать совсем нелепыми. Благодаря им мы поняли, чего ИИ не хватает для того, чтобы стать подобным нам.
Первое и основное — гораздо более широкий контекст. Естественная человеческая нейросеть эволюционировала в реальном мире, где главной задачей было ориентироваться за органами ощущений в загроможденном огромным количеством предметов пространстве и двигаться в нем для выживания. Социальные задачи, не говоря уже об оперировании сложными символьными системами, — только надстройка над всем этим.
Искусственный интеллект в первую очередь применяют именно для работы с символами, математическими моделями и изображениями. Роботы, которые время от времени выпускаются в свет, большей частью так и остались дорогими игрушками разной степени неуклюжести. И особенно неудобно им в дикой местности, где надо учитывать и помнить слишком много факторов.
Собственно, наличие памяти, хранящей огромное количество разных мелочей, — еще одна вещь, которой сейчас очень не хватает искусственному интеллекту. ИИ прекрасно может имитировать общение, но контекста, вытекающего из собственного опыта, у него нет.
Вполне возможно, что если мы выпустим в свет погулять систему, которая будет формировать собственную структуру памяти, она со временем начнет задавать вопросы, беспокоящие нас самих. И вот тогда нам следует волноваться по поводу тех ответов, которые она найдет.
Социальное взаимодействие и искусственный интеллект
Еще один аспект, который разработчики искусственного интеллекта до сих пор достаточно осторожно применяли в разработках, — социальный. Человек существует в обществе. Наш интеллект проявляется в общении с подобными. Есть подозрение, что искусственный интеллект в полной изоляции просто не сможет понять, что существуют какие-то люди, на которых можно обидеться и уничтожить их.
В апреле 2023 года была опубликована работа, в которой описан эксперимент ученых из Стэнфордского университета по взаимодействию нескольких искусственных интеллектов в созданной для них среде. Ученые создали 25 виртуальных личностей на основе Chat GPT, добавили им блоки памяти, которые они смогли заполнять событиями, систему обобщения опыта и планирования и отправили гулять по нарисованному поселку.
Среда была максимально простой, в ней не нужно было рассчитывать динамику шагов, чтобы не споткнуться через кирпич, оказавшийся на дороге. Но она была достаточно подробной, чтобы воспроизвести все процессы, происходящие в маленьких городках.
ИИ без помощи людей чрезвычайно реалистично воспроизвели диалоги, которые в таких случаях происходят. По состоянию на сегодняшний день именно этот эксперимент можно считать одной из самых успешных попыток приблизить машину к человеку.
Мечтают ли искусственные интеллекты о звездах?
На этом моменте следует еще раз обратиться к тесту Тьюринга. Британский математик предложил его, считая нашу способность увидеть по словам другую личность объективной. То есть мы всегда с одного взгляда на реплики и действия можем понять, есть ли в них смысл или нет.
Тьюринг погиб задолго до того, как возникли первые социальные сети, и не увидел, насколько общение людей в них отличается от этого идеала. А современные ученые еще со времен ELIZA знают, что эта способность людей сильно зависит от нашей готовности видеть вообще какой-то смысл. Носители естественного интеллекта слишком легко видят его там, где он отсутствует, и не видят там, где он критически важен.
Если продолжить эксперимент, проведенный в Стэнфорде, увеличить сложность среды, количество искусственных интеллектов в нем и дать им время накопить опыт, то насколько быстро наша способность сочувствовать им сравнится с эмпатией к жителям какого-нибудь реального городка на другой стороне земного шара?
Можно, конечно, поставить какой-то барьер в виде сложной идеи. Например, равным нам может считаться искусственный интеллект, способный самостоятельно сформулировать мнение Канта о звездном небе и нравственном законе. Но тогда мы должны признать, что большинство людей не являются разумными существами, потому что о звездах они не мечтают.
Конечно, можно сказать, что все равно, мечтает ИИ о звездах или нет, главное, чтобы он делал свою работу. В конце концов, действия других людей нас интересуют гораздо чаще, чем их мечты. Стоит только помнить, что если искусственный интеллект действительно окажется похожим на нас, то его действия будут определяться не тем, что мы о нем думаем, а тем, что исполняет его священным трепетом.
Только самые интересные новости и факты в нашем Telegram-канале!
Присоединяйтесь: https://t. me/ustmagazine
