Спілкування зі штучним інтелектом останніми місяцями стало доступним для всіх користувачів Інтернету. Нейромережі генерують відповіді на складні запитання, пишуть вірші та малюють картини. Хтось із цього приводу хвилюється через те, що шлях людства у вивченні цього Всесвіту завершений і далі нас замінять розумні машини. Але для того, аби зрозуміти, чи це так, варто згадати, з чого розпочалася історія цього питання.
Найбільші наукові таємниці
«Дві речі сповнюють мене священним трепетом: зоряне небо над головою та моральний закон всередині мене», — проголосив колись видатний німецький філософ Іммануїл Кант. Цей вислів як жоден інший характеризує дві галузі науки, які є найбільшим випробуванням для сучасності й обіцяють нам неймовірні дива.
Першою з них є дослідження та освоєння космосу. Другою — вивчення людського інтелекту та створення його штучних аналогів. І якщо наш шлях до зірок обіцяє бути довгим, зі штучним інтелектом ми можемо поспілкуватися вже зараз.
Люди, які працюють із Chat GPT та Midjorney, вражені тими текстами та картинками, які продукує ШІ. Багато хто малює апокаліптичні сценарії того, що вже завтра штучний інтелект почне заміняти нас на всіх ролях, на яких ми звикли бачити виключно себе як вінець еволюції.
Вже зараз можна сказати, що штучний інтелект полетить до зірок, і питання лише в тому, чи будуть у цій подорожі його супроводжувати люди. Хоча можливо, що ми все ж переоцінюємо можливості наших машин.
Тест Тюрінга
Коли ми кажемо, що вражені тим, що результат роботи штучного інтелекту неможливо відрізнити від діяльності людини, ми фактично засвідчуємо, що він пройшов тест Тюрінга. Саме на цьому понятті здебільшого базується наше розуміння, що таке штучний інтелект взагалі.
В оригіналі тест, придуманий у 1950 році видатним британським математиком Аланом Тюрінгом, був таким. Людина-експериментатор обмінюється письмовими повідомленнями з двома співбесідниками (людина та машина). Відповіді надходять за однакові проміжки часу. Якщо в процесі спілкування експериментатор так і не зможе зрозуміти, які з повідомлень пише машина, то тест треба вважати пройденим.
Тюрінг знав, що робить. Він був найвидатнішим теоретиком та практиком обчислювальної техніки свого часу. І досі на рівні концепції усі наші комп’ютери працюють так, як це бачив він. Щобільше, саме цей вчений добився того, що машина змогла розв’язувати інтелектуальну задачу, з якою не впорався людський розум — дешифрування надзвичайно складного ворожого шифру.
Але Тюрінг схитрував. В його часи питання про те, що глобально відбувається в мозку людини, залишалося тим самим темним лісом, що й у часи Канта за століття до того. Тому математик підійшов до питання з практичної точки зору: якщо одна свідомо розумна система визнає розумною іншу, то такою остання і є насправді.
Лінгвістичні моделі та китайська кімната
Згадуючи тест Алана Тюрінга, часто забувають той важливий факт, що з жодним комп’ютером описаним чином він ніколи не спілкувався. І жодного чату наживо не бачив. Можна тільки здогадуватися, як би розвивалися обчислювальні машини, якби не його передчасна смерть.
Хай там як, а вперше вступити в діалог з машиною людям вдалося через 10 років після його смерті в середині 1960-х. Програма називалася ELIZA. Вона вдало переставляла слова у самому питанні та реагувала на деякі ключові слова у ньому. Людина, якій дуже хотілося з кимось поспілкуватися, могла достатньо швидко забути, що це машина, але хоч трохи прискіпливий співбесідник легко розумів, що бесіда ні про що і мати тему просто не може.
ELIZA не розуміла значення слів. Уся її ідея базувалася на тому, що людська мова має певну структуру, і певні слова у ній вишиковуються певним чином. Достатньо складна, але все ж чисто математична закономірність.
Щобільше, аналізуючи статистичний розподіл слів у певному обсязі текстів, можна добитися значно переконливішого жонглювання словами, ніж це робила ELIZA. Такі системи називаються лінгвістичними моделями, й усі сучасні чат-боти та й сам Chat GPT побудовані на цьому принципі.
Останній, по суті, нагуглює найбільш статистично правильне слово у відповіді. Саме тому вона здається настільки природною. Це саме той набір слів, які могла б у відповіді вжити людина, яка щось знає на тему питання.
Chat GPT проходить тест Тюрінга, але це мало про що говорить. Ще 1980 року американський філософ Джон Серль опублікував роботу, у якій поставив уявний експеримент під назвою «Китайська кімната». Нехай у нас є закрита кімната, в якій сидить людина, яка китайської мови не знає. Але їй надали інструкції щодо того, як правильно складати ієрогліфи, отримавши певні їхні комбінації.
Людина видаватиме зі своєї кімнати відповіді, які носії китайської зможуть прочитати й сприйняти за осмислену відповідь. При цьому сама людина в кімнаті уявлення не матиме, про що цей діалог.
І це дійсно дуже нагадує те, як працює Chat GPT. Тому багато дослідників справедливо зазначають, що хоч як його статистичні механізми відбору правильних слів в Інтернеті не вдосконалюй, він так і залишиться «китайською кімнатою», яка не здогадується, що у тих символів, з яких вона будує правдоподібні відповіді, насправді є сенс.
Нейромережі як штучний інтелект
Поки частина фахівців гралася з лінгвістичними моделями, інші трошки розібралися з тим, як працює людський мозок. На рівні того, як виникають почуття, все так і залишилося незрозумілим, але стало ясно, що в голові людини все відбувається зовсім не так, як в комп’ютері, побудованому за принципами Тюрінга.
Замість того, аби виконувати у себе в голові програми, неважливо наскільки складні та розгалужені, ми проганяємо інформацію через мережу нейронів, кожен з яких має певні налаштування, аби взаємодіяти з нею, а всі разом вони працюють як машина розпізнавання образів та ситуацій на основі попереднього досвіду.
Простіше за все це уявити як набір сит, крізь які сиплються кульки різного розміру та кольору. Задача — щоб на виході вони були відсортовані по різних скриньках, які стоять внизу. Уявіть, що ми можемо змінювати положення та отвір у ситах, відбивати їх назад та робити інші фокуси для того, щоб завжди правильно розсіювати, незалежно від того, які кульки сиплються і в якій послідовності.
Перші штучні нейромережі з’явилися наприкінці 1950-х. Вчені експериментували з ними до кінця 1960-х, поки не з’ясували, що головні задачі, які тоді стояли перед обчислювальною технікою, вони або не можуть виконати взагалі, або виконують набагато гірше за комп’ютери традиційної архітектури.
Нейромережі відправили у сховище на довгі 30 років, аж поки у 1990-х не виявилося, що деякі нові задачі, які постали тоді перед комп’ютерною мережею, що охоплювала весь світ, не розв’язати, хоч як не додавай комп’ютерам потужності.
Тоді нейромережі дістали з шухляди, й ось уже майже три десятиліття, коли говорять про нові успіхи ШІ, мають на увазі саме їх. Саме вони навчилися упізнавати людей за обличчям, вигравати у шахи та Starcraft у людей-чемпіонів тощо. Астрономи їх також широко використовують для того, аби розпізнавати об’єкти певних класів на знімках чи знаходити найвідповідніші фізичні моделі.
Chat GPT також містить у собі нейромережу. І теоретично вона могла б навчитися чого завгодно, але розробники тренували її саме на гугленні слів і, по суті, ні на що більше машина не здатна. І саме це ставить під сумнів, що колись ШІ зможе замінити нас.
Що таке інтелект?
Усі нейромережі, які люди навчили за останні 20 років, є вузькоспеціалізованими. Це означає, що вони вміють знаходити у множині інформації певні образи, але тільки їх, і якщо для аналізу надати якийсь свідомо хибний набір даних, вони все одно спробують знайти у ньому правильну з їхньої точки зору відповідь.
Це трохи схоже на те, як діти бачать тварин та людей у формі хмар, які пропливають над ними. Якщо нейромережі, натренованій на розпізнавання людських облич, дати на обробку зображення галактик, то вона відбере ті з них, які будуть схожі на очі та носи, навіть якщо це просто накладання геть різних об’єктів.
Вузькоспеціалізовані штучні нейромережі виявляють ознаки розуму тільки у контексті тих задач, для яких їх тренували. Інші задачі вони не те що не можуть осягнути, вони не знають, що такі існують.
Машини можуть виконувати складні інтелектуальні задачі краще за людину, але все одно розумними ми їх назвати не можемо, бо миттєво здатні придумати власний тест, відмінний від вигаданого Аланом Тюрінгом, який машина не пройде.
А все тому, що людський інтелект — це не тільки здатність складати слова у правильному порядку чи розпізнавати на зображенні певний патерн, це все це разом узяте і ще купа різних інших навичок.
Ми багато дізналися про те, як працює наш мозок, але дати природному інтелекту визначення, яке б охоплювало всі феномени, пов’язані з ним, та яке вдовольнило б того ж Канта, ми все ще не можемо.
Що треба штучному інтелекту, аби захопити світ?
Експерименти з лінгвістичними моделями та вузькоспеціалізованими нейромережами не можна назвати зовсім вже безглуздими. Завдяки їм ми зрозуміли, чого ШІ не вистачає для того, аби стати зовсім вже подібним до нас.
Перше й основне — значно ширший контекст. Природна людська нейромережа еволюціонувала в реальному світі, де головною задачею було орієнтуватися за органами відчуттів у захаращеному величезною кількістю предметів просторі та рухатися у ньому для виживання. Соціальні задачі, не кажучи вже про оперування складними символьними системами, — тільки надбудова над усім цим.
А штучний інтелект насамперед застосовують саме для роботи із символами, математичними моделями та зображеннями. Роботи, яких час від часу випускають у світ, здебільшого так і залишилися дорогими іграшками різного ступеня незграбності. І особливо незручно їм у дикій місцевості, де треба враховувати й пам’ятати занадто багато факторів.
Власне, наявність пам’яті, яка зберігає величезну кількість різних дрібниць, — ще одна річ, якої зараз дуже не вистачає штучному інтелекту. ШІ чудово може імітувати спілкування, але контексту, що випливає з власного досвіду, в нього немає.
Цілком можливо, що якщо ми випустимо у світ погуляти систему, яка формуватиме власну структуру пам’яті, вона з часом почне ставити ті самі питання, які непокоять нас. І ось тоді нам варто хвилюватися щодо тих відповідей, які вона знайде.
Соціальна взаємодія та штучний інтелект
Ще один аспект, який досі розробники штучного інтелекту досить обережно застосовували у розробках — соціальний. Людина існує в суспільстві. Наш інтелект проявляється у спілкуванні із собі подібними. Тож є підозра, що штучний інтелект у повній ізоляції просто не зможе зрозуміти, що існують якісь люди, на яких можна образитися та знищити їх.
У квітні 2023 року була опублікована робота, у який описаний експеримент вчених зі Стенфордського університету щодо взаємодії кількох штучних інтелектів у створеному для них середовищі. Науковці створили 25 віртуальних особистостей на основі Chat GPT, додали їм блоки пам’яті, які вони змогли заповнювати подіями, систему узагальнення досвіду та планування і відправили гуляти намальованим селищем.
Середовище було максимально простим, у ньому не треба розраховувати динаміку кроків, аби не перечепитися через цеглину, що опинилася на дорозі. Але воно було достатньо докладним, аби відтворити всі процеси, які відбуваються у маленьких містечках.
І ШІ без допомоги людей надзвичайно реалістично відтворили діалоги, які в таких випадках відбуваються. Тож станом на сьогодні саме цей експеримент можна вважати однією з найуспішніших спроб наблизити машину до людини.
Чи мріють штучні інтелекти про зорі?
На цьому моменті варто ще раз звернутися до тесту Тюрінга. Британський математик запропонував його, вважаючи нашу здатність побачити за словами іншу особистість об’єктивною. Тобто ми завжди з одного погляду на репліки та дії можемо зрозуміти, є в них сенс чи ні.
Тюрінг загинув задовго до того, як виникли перші соціальні мережі, й не побачив, наскільки спілкування людей у них відрізняється від цього ідеалу. А сучасні вчені ще з часів ELIZA знають, що ця здатність людей сильно залежить від нашої готовності взагалі бачити якийсь сенс. Носії природного інтелекту занадто легко бачать його там, де він відсутній, і не бачать там, де він критично важливий.
Якщо продовжити експеримент, здійснений у Стенфорді, збільшити складність середовища, кількість штучних інтелектів у ньому та дати їм час накопичити досвід, то наскільки швидко наша здатність співчувати їм зрівняється з емпатією до мешканців якогось реального містечка на іншому боці земної кулі?
Можна, звичайно, поставити якийсь бар’єр у вигляді складної ідеї. Наприклад, рівним нам може вважатися штучний інтелект, здатний самотужки сформулювати думку Канта про зоряне небо та моральний закон. Але тоді ми маємо визнати, що більшість людей не є розумними істотами, бо про зорі вони не мріють.
Звичайно, можна сказати, що все одно, мріє ШІ про зорі чи ні, аби свою роботу робив. Зрештою, дії інших людей нас цікавлять значно частіше, ніж їхні мрії. Варто лише пам’ятати, що якщо штучний інтелект справді виявиться схожим на нас, то його дії визначатимуться не тим, що ми про нього думаємо, а тим, що сповнює його священним трепетом.
Тільки найцікавіші новини та факти в нашому Telegram-каналі!
Приєднуйтесь: https://t.me/ustmagazine
