Що означає "саморегуляція AI" за Трампа? Huang "здобув велику перемогу", закулісно задаючи питання Anthropic Amodei

30 вересня, Трамп разом із понад двадцятьма керівниками AI провів обід у Східному залі Білого дому, після чого вийшов з Білого дому та оголосив журналістам про добровільну “AI угоду”.

Підписантами стали шість компаній: Anthropic, OpenAI, Google, Meta, xAI і Nvidia.

Трамп назвав її “майже як конституція”, це “форма захисту” від ризиків AI. Однак, за даними британської “Financial Times”, цей двосторінковий документ був поспіхом складений у Східному залі, і навіть містить орфографічну помилку.

Варто відзначити, що на перший погляд це — двосторінковий документ про безпеку AI, який не має юридичної сили; але, судячи з конкретних вимог угоди, відхилених альтернативних варіантів і нещодавніх технологічних кроків Nvidia, він передає більш важливий сигнал: Білий дім та провідні компанії індустрії не обрали шлях “уповільнення AI”, а намагаються інтегрувати вимоги безпеки у постійно розширювані AI-інфраструктурні інвестиції.

Вимоги “безпеки та відповідності”, такі як AI-тестування, аудит і моніторинг, вимагатимуть більше обчислювальних потужностей і стимулюють нові потреби в інференції й оптичному взаємозв’язку, в чому Nvidia може стати найбільшим переможцем. Хуан Женьсюнь разом із Цукербергом відхилили жорстке регулювання й особисто запитували голову Anthropic Amodei, чому він надмірно підкреслює ризики AI у публічних виступах.

Що містить угода?

Згідно з текстом угоди, шість підписантів мають виконати три ключові зобов'язання:

Перше — впровадити механізм “багаторівневого контролю та аудиту”. Конкретна вимога — розгорнути надійні внутрішні системи контролю, постійно моніторити кібер- і біобезпеку, яку можуть створювати передові моделі, і гарантувати, що моделі не проникнуть в інші системи “непередбачуваним чином”.

Друге — співпрацювати з незалежними зовнішніми аудиторами. Підписанти повинні добровільно проходити оцінку третьої сторони й дозволити зовнішнім організаціям перевіряти ефективність внутрішніх контрольних заходів.

Третє — створити незалежний комітет на рівні ради директорів, який спеціально відповідатиме за нагляд за вищезгаданими двома механізмами.

Ці три зобов’язання ведуть до спільного результату: кожен випуск моделі повинен проходити повний цикл тестування, моніторингу та зовнішньої перевірки.

Наскільки тут є справді щось нове?

Власне, небагато.

За повідомленнями, Anthropic, OpenAI і Google DeepMind вже проводили оцінку можливостей передових моделей перед випуском, і, за виключенням Nvidia, решта компаній підписали аналогічні обіцянки після AI-саміту в Сеулі у 2024 році. ЗМІ відзначають: “Угода може змусити тих підписантів, що ще не відкрили доступ для незалежної оцінки — зокрема Nvidia — впровадити зовнішній аудит. Тобто, ця угода має обмежений сенс для провідних лабораторій, але для інших компаній це нові вимоги.”

Завідувачка LawAI з питань права і політики MacKenzie Arnold прокоментувала прямо: “Це має найбільше значення у плані ‘відчуття’. Вона не наділяє жоден орган реальними повноваженнями… приймати обов’язкові стандарти.”

Угода також юридично не зобов’язує. Трамп сам назвав це “моральним обов’язком” — що є певним визнанням.

Критики більш різкі. Sacha Haworth з Tech Oversight Project заявила, що ця угода дозволяє CEO “самим ставити собі оцінки, обходячи реальні бар'єри безпеки AI”.

Втім, консервативний юрист Joel Thayer вказав на ще один аспект: “Не можна робити публічні заяви про намір щось зробити й реально цього не виконувати. Це по суті вводить споживача в оману.” Він також помітив, що голова Федеральної торгової комісії (FTC) Andrew Ferguson був присутній на тому обіді. “Ці обіцянки для публіки... фактично мають відтінок дій FTC.”

США FTC вже наступного дня після оголошення угоди розширила розслідування щодо AI-компаній, включивши Anthropic, OpenAI тощо у перевірку.

“Безпека” ≠ “уповільнення”: ось що виграв Хуан Женьсюнь

Ринок інстинктивно сприймає “регулювання безпеки” як фактор уповільнення — логіка така: тестування затримує випуск продуктів, випуск продуктів знижує потребу в обчислювальних потужностях.

Аналітик InvestorPlace Luke Lango вважає, що ця логіка хибна. Угода Білого дому не вимагає від компаній уповільнення розробки моделей, а робить акцент на внутрішній оцінці, зовнішньому аудиті й контролі ризиків.

Це породило в ланцюгу постачань інше трактування “AI-безпеки”: механізми безпеки можуть означати більше тестувань, моніторингу й запуску моделей, а не обов’язково менше витрат на обчислення. Якщо кожен випуск моделі повинен запускати цикл тестування, моніторингу й рецензування, то “відповідність безпеці” сама по собі означає постійні витрати на обчислювальні ресурси, а не їх обмеження.

28 вересня Nvidia разом із понад 100 партнерами презентувала Open Agent Safety Platform, що поєднує open source контроль доступу з моніторинговим шаром на окремому чіпі — він може контролювати AI-систему ззовні, не інтегруючись у її внутрішню структуру. Хуан Женьсюнь коротко підсумував: потенціал AI можна реалізувати лише за одночасного вирішення питань безпеки й можливостей.

Nvidia вже пообіцяла інвестувати $2 млрд у фотонні під'єднання Lumentum для розширення потужностей і поглиблення спільних розробок в оптичних дата-центрах — це конкретний переклад “безпекового дискурсу” у апаратні контракти.

Lango додатково підкреслює, що структура попиту змінюється: з GPU-орієнтованого переднавчання — до етапів інференції й тестування. Останні більше залежать від ефективності передачі даних і координації багатьох задач, а не від чистої обчислювальної потужності. Він прогнозує, що ця структурна зміна протягом 6-12 місяців визначатиме напрямок попиту.

Lango вважає, що саморегулювання не завершить цикл AI-капітальних витрат, а просто змінить напрямок фінансових потоків — із GPU для переднавчання на інфраструктуру інференції, тестування та під'єднання. Як сказав Amodei після зустрічі, конкретні механізми управління ризиками “ще обговорюються”.

Lango виділяє три напрями для бенефіціарів:

Marvell: спеціалізується на взаємозв’язку дата-центрів.

Arm: у березні цього року представила власний серійний чіп AGI CPU з до 136 ядрами Neoverse V3, вироблений по 3 нм процесу TSMC, Arm заявляє, що продуктивність на стійці вдвічі перевищує x86-платформу.

Lumentum: спеціалізується на фотонних під’єднаннях дата-центрів. У зв'язку з вибуховим зростанням GPU і щільності міжчіпового зв’язку, центри даних прискорюють переход з мідних кабелів на оптичні рішення.

Закулісна боротьба: Хуан Женьсюнь напряму питав Amodei

На камеру CEO різних компаній стояли поруч із Трампом, демонструючи єдність галузі.

За кадром — відкрите протистояння.

За даними “Wall Street Journal”, після обіду, у меншому форматі в Roosevelt Room, кілька топ-менеджерів, включаючи CEO Nvidia Хуана Женьсюня, напряму запитали CEO Anthropic Dario Amodei: чому він у публічній площині так радикально попереджає про ризики й можливості AI?

Amodei відповів: чесно розповідати про можливості моделей й не применшувати ризики для громадськості — це важливо.

Ця бесіда відбулася під час погодження принципів угоди між топ-менеджерами та радниками Білого дому.

Amodei раніше неодноразово критикував Білий дім і конкурентів за недооцінку безпекових питань, а також попереджав про можливі кібер-атаки AI та масштабні втрати робочих місць, через що став “мішенню номер один” у Вашингтоні та Силіконовій долині.

Під час обіду Amodei знову висловив занепокоєння щодо безпеки. Відповідь Цукерберга: розв'язати ці проблеми найкраще — якщо галузь реально впроваджує ці принципи.

Цукерберг і Хуан Женьсюнь: справжні рушії цієї гри

Цей обід у Білому домі — не випадковість.

За даними “Wall Street Journal”, все почалося з минулотижневого державного бенкету — Цукерберг і спікер Палати представників Mike Johnson сиділи поруч і обговорювали AI-політику. Після цього Цукерберг і Хуан Женьсюнь почали координувати дії CEO, а Трамп з Johnson організували цей обід.

Цукерберг — ключова фігура у фіналізації угоди. Він часто спілкувався з Трампом і міністром Howard Lutnick, який курує в уряді ключовий відділ тестування AI.

Він разом із Хуаном Женьсюнем головували у чомусь важливішому: відхиленні жорсткого сценарію регулювання.

Цього літа Anthropic, OpenAI й Google спільно просували модель AI-саморегуляції на кшталт FINRA (Національна асоціація з регулювання фінансової індустрії). Але, за попередніми повідомленнями, Цукерберг, Хуан Женьсюнь і Маск повідомили Трампу, що бояться надмірної концентрації контролю в руках провідних AI-компаній, тому цей варіант був відкинутий.

У підсумку з’явилася більш легка, “м'яка” добровільна угода.

Варто відзначити, що відхилена FINRA-подібна модель мала схожі елементи — більш жорсткі механізми внутрішньої перевірки й зовнішнього тестування. В технічних вимогах обидві моделі значною мірою перетинаються, справжня різниця — хто контролює ці механізми. Вибір Хуана Женьсюня і Цукерберга: галузь сама.

Anthropic: одночасно виправляє стосунки й готується до IPO

Amodei сказав журналістам: “Якщо галузь і держава працюють разом, ми можемо безпечно перемогти.” Трамп похвалив його: “він чудовий”. У неділю лише вони вперше зустрілися особисто в Білому домі.

Але ситуація Anthropic непроста.

За повідомленнями, компанія готується до IPO з оцінкою приблизно $2 трлн. Одночасно на початку року вона пережила дві гострі сутички з урядом: дві моделі були вимушено відключені через питання безпеки майже на два з половиною тижні, й через суперечки щодо використання AI для військових цілей потрапила в “чорний список” Пентагону.

Прямим фоном угоди стали серії AI-кібер атак після запуску моделей Anthropic, таких як Mythos.