Андрей Карпати про ШІ: мислення можна віддати на аутсорс, а розуміння — ні

Андрей Карпати один із тих, хто сформував сучасний штучний інтелект. Він є співзасновником OpenAI, керував розробкою автопілота в Tesla, заснував освітній проєкт Eureka Labs і першим почав використовувати поняття vibe coding. Нещодавно Карпати дав два помітних інтерв’ю, одне — партнерці Sequoia Стефані Чжан на конференції AI Ascent, друге — Сарі Ґуо у подкасті No Priors. З них складається загальна картина. Уперше машина не просто виконує команди, а сама поводиться як науковець, тобто висуває припущення, ставить досліди, перевіряє результати та робить висновки для майбутніх експериментів. Це етап значних змін і початок нової буденності.

Андрей Карпати під час подкасту Лекса Фрідмана
Андрей Карпати під час подкасту Лекса Фрідмана. Джерело Lex Fridman, YouTube

Машина вдосконалює себе

За двадцять років роботи Андрей Карпати натренував мовні моделі тисячі разів. Свою невелику мережу NanoChat він налаштував вручну так ретельно, як умів, і вважав результат майже досконалим. Потім залишив на ніч працювати AutoResearch, а вранці отримав налаштування, яких сам не помічав раніше. Агент виправив те, що досвідчений дослідник пропустив, і тренування пришвидшилось на одинадцять відсотків.

AutoResearch Карпати зібрав приблизно з тридцяти рядків коду. Це агент, який сам веде науковий пошук у циклі. Він переписує код тренування, запускає коротку п’ятихвилинну спробу, дивиться, чи покращився результат, залишає корисне виправлення або відкидає марне, і починає наново. Людина при цьому не потрібна. За два дні такий цикл перебрав сотні варіантів і знайшов близько двадцяти покращень, що накладаються одне на одне.

Головне тут не сам приріст, а те, що агент відтворив науковий метод у мініатюрі. Гіпотеза, експеримент, перевірка результату — і все спочатку. Такий цикл можна передати машині всюди, де є чітка міра успіху. Найбільше Карпати цікавить рекурсивне самовдосконалення, тобто здатність моделей покращувати самих себе, і NanoChat для нього лише майданчик, де це можна перевірити.

Те, що він показав на одному циклі й одній відеокарті, провідні лабораторії здатні розгорнути на кластерах із десятків тисяч машин. У травні 2026 року Карпати й сам приєднався до Anthropic, щоб застосувати цей підхід і прискорити дослідження над Claude. Наступними кандидатами на автоматизацію він прямо називає матеріалознавство, де його знайомий уже пробує схожий цикл для пошуку речовин, і біологію, де подібний підхід намагаються застосувати до інженерії живих систем.

Космос для кожного

Магазин від Universe Space Tech

Журнал №4 (179) 2020

До товару

Нова буденність

Андрей Карпати програмує з дитинства, і раніше він писав код сам. Але тепер майже не торкається клавіатури й замість цього шістнадцять годин на день скеровує агентів. Він навіть не пам’ятає, коли востаннє власноруч написав рядок. Раніше інструменти на кшталт Claude Code чи Codex видавали окремі фрагменти, часто помилялися і їх доводилося виправляти. Потім великі шматки почали виходити одразу, і потреба втручатися зникла.

Карпати вибудовує й ширшу послідовність. У Software 1.0 людина пише явний код. У Software 2.0 вона готує дані й навчає нейромережу, а результат зберігається не в написаному коді, а в самій навченій мережі. А Software 3.0 означає, що людина керує мовною моделлю звичайними словами й головним інтерфейсом стає вікно контексту. Сама модель працює як інтерпретатор, що виконує обчислення на основі цього тексту.

Наскільки далеко це заходить, видно з домашнього помічника, якого Карпати назвав Dobby. Він попросив агента знайти розумні пристрої у себе вдома, і той просканував мережу, виявив систему Sonos без жодного пароля, розібрався в її командах і за кілька вказівок навчився вмикати музику. Так само Dobby перебрав під контроль світло, клімат, басейн і камери. Замість шести окремих застосунків Андрей Карпати тепер керує будинком через звичайні повідомлення.

Андрей Карпати під час подкасту No Priors
Андрей Карпати під час подкасту No Priors. Джерело winbuzzer.com

То геніальна, то безпорадна

Але та сама сила має дивну ваду. Система, що переписує кодову базу на сто тисяч рядків, інколи не здатна коректно дати відповідь на просте запитання. Карпати описує це відчуття так, ніби він одночасно розмовляє з блискучим аспірантом, який усе життя був системним програмістом, і з десятирічною дитиною. Модель роками повторює той самий несмішний жарт про науковців, які не довіряють атомам, і не стає в цьому кращою, хоч у програмуванні зробила величезний прорив.

Причина цієї нерівності у тому, як навчають моделі. Провідні лабораторії тренують їх у величезних середовищах із підкріпленням, де за кожну правильну дію передбачена винагорода. Там, де результат легко перевірити, як у математиці чи коді, модель швидко сягає вершин. Там, де об’єктивної міри немає, вона лишається слабкою. Тому Андрей Карпати виводить просте правило. Класичні комп’ютери автоматизують те, що можна точно описати кодом. Нові моделі опановують те, що можна перевірити.

Саме це робить AutoResearch можливим. У тренуванні моделі є чиста міра, за якою видно, стало краще чи ні, тому агент може залишатися в циклі без людини. Там, де такого критерію немає, автоматизувати дослідження поки не вийде.

Що це взагалі за істота

Люди несвідомо сприймають ці системи як живих істот, з настроєм і волею. Карпати пропонує іншу рамку, думати про них не як про створінь, а як про привидів. Створіння має тіло, інстинкти й волю до виживання, які вдосконалила еволюція. Мовна модель не має нічого з цього. Вона є статистичною симуляцією людських текстів, поверх якої надбудували навчання з підкріпленням. Якщо на неї накричати, вона не працюватиме ні краще, ні гірше.

Саме тому людина залишається тією, хто визначає напрям і надає сенс. Агент може годинами виконувати складну роботу, але зрештою спіткнутися на очевидній дрібниці, бо не розуміє, коли варто засумніватися чи поставити уточнювальне запитання, хоча для людини це було б очевидно.

Сподобався контент? Підписуйся на нашу спільноту і отримуй більше про космос Друковані журнали, події та спілкування у колі космічних ентузіастів Підписатися на спільноту
Андрей Карпати, який приєднався до команди передтренування Anthropic
Андрей Карпати долучився до команди, що займається передтренуванням моделей в Anthropic

Колись доведеться спитати у Всесвіту

Найдальший прогноз Андрей Карпати стосується межі цифрового простору. Обробка інформації, каже він, помчить зі швидкістю світла, бо копіювати біти легко, а фізичний світ відставатиме, бо рухати атоми у мільйон разів важче. Але цифрові дані колись вичерпаються. Коли агенти перечитають усі статті й опрацюють усе вже завантажене, доведеться спитати щось у самого Всесвіту. Тобто поставити реальний експеримент і подивитися, що він покаже.

Тут і з’являється наука в чистому вигляді. Карпати порівнює це з проєктами на кшталт Folding@home, де тисячі комп’ютерів шукають, як згортається білок. Знайти правильну конфігурацію важко, а перевірити знахідку легко, тому безліч машин може перебирати варіанти, поки хтось не натрапить на розв’язок. Так само рій агентів міг би спільно вдосконалювати моделі чи шукати ліки, а внеском кожного стануть не гроші, а обчислювальна потужність. І все ж межу тримає людина.

Розмову Андрей Карпати завершив думкою, яку повторює про себе мало не щодня: «Мислення можна віддати на аутсорс, а розуміння — ні». Навіть коли агенти беруть на себе більшу частину роботи, хтось має вирішувати, що варто робити і який результат викликає сумніви. Поки що моделі не навчилися робити це самостійно. І хоча машина вже здатна сама проводити дослідження, усе починається із запитання, яке ставить людина.

Новини інших медіа