Керівники провідних компаній, що розробляють штучний інтелект, за зачиненими дверима прораховують, що робити після першої великої катастрофи через цю технологію. Найімовірнішою вони вважають кібератаку, яка може паралізувати банки, інтернет або навіть електро- і водопостачання. Після такої події галузь очікує хвилі суспільного обурення і політичного тиску. Тому компанії вже зараз намагаються вплинути на майбутні правила.
Інцидент упродовж року
Чимало людей в індустрії штучного інтелекту (ШІ) розповіли виданню Axios, що чекають серйозного інциденту в проміжку від шести місяців до року. Моделювання найгірших сценаріїв давно стало звичною практикою для багатьох компаній, а Пентагон проводить воєнні ігри десятиліттями. Різниця в іншому. Багато провідних дослідників і керівників галузі вважають таку катастрофу неминучою.
На думку видання, перший випадок реальної шкоди від небезпечного ШІ ще більше налаштував би проти технології і так насторожене суспільство. Під удар потрапили б керівники галузі, зокрема генеральний директор Anthropic Даріо Амодеї і очільник OpenAI Сем Альтман. Дісталося б і президентові США Дональдові Трампу, який не поспішає регулювати ШІ.
Речник компанії OpenAI пояснив, що команди відпрацьовують різні ситуації в межах вправ на готовність, але не вважають жодну з них неминучою. Компанія Anthropic від коментарів відмовилась.
Атака на корейські банки
Пошук винних почнеться за будь-якого сценарію. Інцидент може статися через рій автономних ШІ-агентів, що вийде за межі тестового середовища, або через зловмисника, який знайде несподіване застосування доступним моделям. Ці сценарії і ситуацію в індустрії ШІ загалом детальніше розберемо у відео на YouTube-каналі Universe Space Tech, над яким уже працюємо.
Наскільки великої шкоди здатна завдати одна людина, видно з нещодавньої кампанії проти фінансових установ Південної Кореї, яку описала компанія з кібербезпеки CrowdStrike. Імовірно, хакер з Китаю використав китайські моделі ШІ, зокрема DeepSeek, і викрав дані десятків тисяч клієнтів банків. Повідомлялося про злам двох банків, а по допомогу з пошуком місць для продажу викраденого хакер звертався до Claude Code від Anthropic.
Обмежити таке використання непросто. Чимало моделей ШІ поширюються з відкритими вагами, тобто будь-хто може завантажити їх і використати на шкоду. Більшість фахівців з кібербезпеки вважає, що протидіяти цьому можна лише за допомогою іншого ШІ.
Ставка на Конгрес
У компаніях виходять з того, що після проміжних виборів демократи контролюватимуть обидві палати Конгресу і спробують швидко згорнути розвиток ШІ. Але, як вважають у компаніях, демократи зіткнуться з серйозними перешкодами. Конгрес, де переважають літні політики, погано розуміє нову технологію, тому йому буде складно ухвалити закони, які справді працюватимуть. А світова економіка вже тісно пов’язана з будівництвом ШІ-інфраструктури, тож гальмування може сильно по ній ударити.
Серед найжорсткіших демократичних ініціатив є заборона суперінтелекту і пауза в розробці передових систем ШІ. Інші пропозиції мають підтримку обох партій і навіть частини індустрії, як-от обов’язковий аварійний вимикач для потужних моделей. Експерти, однак, сумніваються, що вимкнути всі системи ШІ взагалі можливо.
У компаніях розуміють, що зараз жоден закон про регулювання ШІ не пройде. Тому там зосередилися на роз’яснювальній роботі з конгресменами, щоб вплинути на правила, до яких Вашингтон звернеться після першої катастрофи. У разі справжньої кризи політики здатні відкласти партійні розбіжності. Один із помічників демократів нагадав про співпрацю під час пандемії COVID і фінансової кризи 2008 року.
