Радник NASA Пол Саттер у Києві розкрив алхімію штучного інтелекту

У середині червня в Головній астрономічній обсерваторії НАН України та в Києво-Могилянській академії американський космолог Пол Саттер прочитав лекції про роль штучного інтелекту в сучасній науці та запропонував шукати принципи для роботи з ним у чотирнадцяти століттях алхімічної практики.

Наука на порозі невідомого

Сучасні великі мовні моделі на кшталт ChatGPT, Claude або Gemini, здатні скласти кваліфікаційний іспит аспіранта з фізики на 95 %. Ті самі запитання, над якими місяцями бʼються молоді науковці, алгоритм розв’язує за хвилини. І це змушує задуматися над тим, що буде далі, якщо машина вже зараз на рівні початківця-дослідника.

Серед учених немає єдиної відповіді. Одні переконані, що через десять років наука обходитиметься без людей взагалі. Уже зараз існують агентні системи, здатні сформулювати гіпотезу, проаналізувати дані, написати код для аналізу, підготувати статтю і навіть організувати її рецензування іншими агентами. Від гіпотези — до готової статті за п’ятнадцять хвилин. Правда, ці статті поки що не вражають якістю, але прихильники підходу переконані, що за п’ять-десять років усе зміниться.

Інші дослідники займають протилежну позицію і принципово відмовляються від будь-якого контакту з мовними моделями, забороняючи використовувати їх навіть у своїх дослідницьких групах.

Космолог Пол Саттер з Університету Джонса Гопкінса, який також є зовнішнім радником програми NASA з інноваційних перспективних концепцій, вже понад рік разом зі своєю групою досліджує вплив генеративного ШІ на наукову практику. Пол Саттер зізнається, що коли суперечки про те, чи врятує ШІ людство, чи знищить, стають надто гучними, йому допомагає погляд космолога. Він дивиться на ситуацію ззовні, бо здалеку будь-яка проблема здається менш загрозливою.

І саме з цієї точки зору він сформулював найпростіше можливе твердження про те, що ШІ є потужною системою, яку ми не до кінця розуміємо. Потужна, бо вона вже трансформує культуру, науку, повсякденне життя. Але ми не розуміємо, як саме моделі приходять до своїх відповідей, не можемо простежити алгоритмічний шлях від запиту до результату і не усвідомлюємо всіх наслідків того, що створили.

Чотирнадцять століть пошуків

Але це далеко не вперше, коли люди опановують щось, не усвідомлюючи всіх наслідків. Так було з вогнем і кам’яними сокирами. Так само в астрономії поява фотопластин і фотопомножувачів змінила галузь у спосіб, якого ніхто не передбачав. І є ще один прецедент, який тривав чотирнадцять століть.

Алхімія почалася близько 300 року нашої ери в Александрії, поширилася Середземномор’ям, Близьким Сходом, дісталася Індії, Китаю і проіснувала аж до приблизно 1700 року. Сучасна культура зводить її до псевдонауки з Гаррі Поттера, де диваки намагаються перетворити свинець на золото. Але історична реальність складніша.

Алхіміки мали робочу теорію природи. Вони знали сім металів і вірили, що один метал можна перетворити на інший. Без квантової механіки, без періодичної таблиці, без сучасної хімії це була цілком логічна гіпотеза. Вони працювали з речовинами на фундаментальному рівні, в лабораторіях, спостерігали явища, які не могли пояснити. Метал під дією нагрівання яскраво спалахував, і вони не розуміли, чому. Елементи випаровувалися, осідали на стінках посудин і поверталися назад. Алхіміки мали справу із системою, яка була потужною, але незрозумілою.

Саттер не стверджує, що штучний інтелект і є алхімією. Але він бачить у цьому донауковому дослідженні природи корисні уроки для тих, хто опинився сам на сам із системою, з якою можна взаємодіяти, але яку неможливо до кінця збагнути.

Три уроки алхіміків для сучасної науки

Перша проблема мовних моделей, яку виокремлює Саттер, це миттєва експертність. Якщо вам потрібен астрофізик, модель стане астрофізиком. Потрібен терапевт або юрист — буде терапевт або юрист. Ця здатність вже має практичні застосування, наприклад, розпізнавання зображень в астрономії, діагностика раку, аналіз супутникових знімків для прогнозування врожаїв.

Але за цією силою криється фундаментальна вада. Модель не відрізняє правду від вигадки. Коли вона говорить як експерт, вона не знає точно, чи є вона експертом. Саттер жартує, що іноді й сам сумнівається, чи справді він астрофізик, але мовна модель цих сумнівів не має взагалі. І це не помилка реалізації, яку можна виправити. Це закладено в саму архітектуру.

Алгоритм бере рядок слів, пропускає через тисячі шарів, будуючи зв’язки між словами. У типовій моделі кожне слово пов’язується приблизно з п’ятдесятьма тисячами інших слів, а потім проходить через близько ста тисяч перетворень. Усе це задля завдання — передбачити наступне слово. Виявляється, що передбачення наступного слова надзвичайно потужне і корисне. Але це все, що модель робить.

Щодо алхіміків, то вони знали, як поводитися з деякими речовинами. Вони називали летючими ті субстанції, які під дією тепла і тиску легко змінювали форму, випаровувалися. А найціннішими вважали ті, які вдавалося заземлити, повернути до твердого стану. Так само і з мовними моделями. Вони летючі, бо миттєво змінюють свою ідентичність.

І наша відповідь на це, за думкою Саттера, полягає в заземленні. Не сприймати модель як джерело знань, а використовувати скоріше як їхнього організатора. Найпотужніші способи застосування штучного інтелекту ті, які прив’язані до реальності, до джерела, цитати, факту.

Друга проблема, автономність. Моделі просто працюють. Натискаєш кнопку — і вони аналізують десять тисяч, сто тисяч масивів даних, шукають закономірності, знаходять відмінності. Це як мати безкоштовних аспірантів, жартує Саттер, хіба що за токени доводиться платити, але дешевше. Проблема в тому, що ми не знаємо, як модель приходить до відповіді. Ми написали код, ми розуміємо архітектуру, але нейронні мережі надто складні й нелінійні, щоб простежити шлях від входу до виходу. Навіть більше, моделі ймовірнісні й не дають однакову відповідь двічі.

Алхіміки знали цю ситуацію. Вони теж не бачили, що відбувається всередині їхніх реакцій, не знали про атоми, елементи, молекули, навіть про сили. Вони бачили лише вхід і вихід. Їхня концепція називалася «золотий ланцюг», і Саттер переносить її на роботу з ШІ і формулює принцип суворого простежування. Ми не можемо повністю розуміти алгоритми міркування моделі, але можемо відстежувати кожен крок від запиту до результату. Навіть якщо дії всередині моделі нам не зрозумілі, ми маємо змогу зіставити вхід із виходом і, за потреби, пройти весь шлях назад.

Третя проблема — нескінченний контент. Моделі генерують і генерують. Це вже використовують у розробленні ліків, де обчислення, які раніше потребували величезних ресурсів, тепер виконуються перебором мільйонів комбінацій. Але є ціна. Усі моделі дають приблизно однакові відповіді, бо побудовані на тій самій архітектурі, навчені на тих самих даних і підкріплені тими самими методами.

Можна поставити однакове запитання Claude, ChatGPT і Gemini й отримати, по суті, одну й ту саму відповідь. Саттер називає це хорошою прісністю. Та в поєднанні з миттєвою експертністю та швидкістю у людини виникає відчуття, що модель є професіоналом справи та зʼявляється спокуса віддати цій машині кермо.

Алхіміки розуміли цю небезпеку. Вони вірили в принцип «цілісної людини», що справді великі відкриття робить лише той, хто повністю залучений у процес. У лабораторії дослідник не стоїть осторонь експерименту. Він є частиною досліду і його наміри впливають на результат. За словами Саттера, навіть якщо ШІ автоматизує 90 % роботи, це не зменшує цінності того, що залишається людині. Навпаки, це підсилює її. Бо ті 10 % людського внеску і є стовідсотковою цінністю. Машини роблять те, що вміють найкраще, але кермо залишається в людських руках. Саттер називає це принципом людського суверенітету.

Кермо залишається в людських руках

Саттер не приховує, наскільки глибоко він інтегрував ці інструменти у свою роботу. Він програмує з шести років, працює в обчислювальній космології з аспірантури, але з грудня не написав жодного рядка коду вручну. Використовує Claude Code для всього свого програмування. Генерує ідеї, порівнює варіанти, отримує різні формулювання для статей, доручає моделі дослідницькі огляди. Зараз його група розробляє агентні системи, які автоматизують частину цих процесів ще більше.

Кожного разу, коли Саттер взаємодіє з мовною моделлю, він ставить собі три запитання. Чи зможу я відстояти кожне твердження, яке вона зробила, коли випущу його у світ? Чи можу я простежити кожен результат на основі вхідних та вихідних даних? І хто насправді мав авторитет у цій роботі, хто забезпечив цінність — я чи машина?

Тим, хто принципово відмовляється від мовних моделей, Саттер каже прямо: «Ваш колега за сусідніми дверима їх використовує. Він швидше пише гранти, готує статті, отримує результати. Я не просив цього у Всесвіту, не передбачав появи ChatGPT, хоча працюю з машинним навчанням і нейронними мережами майже двадцять років. Але цей світ настав, і ми маємо адаптуватись».

Філософський камінь

Алхіміки так і не знайшли філософський камінь. Його не існує, але вони цього не знали й шукали чотирнадцять століть. Проте у процесі пошуку вони створили дещо інше. Кожне покоління алхіміків вірило, що їхня робота більша за них самих і що знання треба передати наступному поколінню. Тому вони одержимо записували. Фіксували кожну процедуру, кожне спостереження, навіть те, чого не розуміли. Описували джерела матеріалів, послідовність операцій, мотивацію своїх дій.

Цей процес тривав від III століття аж до XVI–XVII століть у Європі. І серед тих, хто його продовжив, були Йоганн Кеплер, Роберт Бойль і Ісаак Ньютон. Усі троє були алхіміками й для кожного з них алхімія була основним заняттям. Те, що ми сьогодні називаємо наукою, було побічним продуктом їхньої алхімічної роботи.

Вони взяли інструменти алхіміків, такі як принципи ретельного документування, систематичного спостереження, чесного запису природних явищ такими, які вони є, і застосували їх до фізичних систем та руху небесних тіл. Так почалася наукова революція. По суті, наука бере свій початок із практик алхімії.

Тепер ми на порозі ери, коли науковці не просто використовують машини, а співпрацюють із ними. Саттер не знає, якою буде наука через десять років, але він вірить, що завдяки суворій дисципліні документування, спостереження і фіксації результатів ми отримаємо щось нове. Можливо, настільки ж потужне, як сама наука.