Anthropic домовляється із Білим домом про нові правила для AI-моделей

Після блокування двох найпотужніших моделей Anthropic головним питанням стало не саме відключення, а те, хто і за якими критеріями вирішуватиме, коли AI-система є небезпечною для ринку та безпеки. Anthropic веде переговори з адміністрацією США про створення стандартизованих правил оцінки безпекових ризиків для передових моделей штучного інтелекту. Про це пише Business Insider із посиланням на джерела, знайомі з перебігом обговорень.

За даними видання, переговори почалися після конфлікту навколо моделей Fable 5 і Mythos 5. Раніше уряд США, посилаючись на національну безпеку, видав експортну директиву, яка вимагала зупинити доступ до цих моделей для всіх іноземних громадян – як за межами США, так і всередині країни. Anthropic заявляла, що через це змушена була вимкнути Fable 5 і Mythos 5 для всіх користувачів.

Новий етап конфлікту полягає в тому, що компанія та Білий дім тепер обговорюють не лише повернення доступу до моделей, а й сам механізм ухвалення таких рішень. Ідеться про критерії, які мають показувати, наскільки серйозною є вразливість AI-моделі, чи можна обійти її захисні обмеження та які реальні наслідки це може мати. За даними Business Insider, з боку Anthropic у переговорах беруть участь керівниця з питань політики Сара Гек і співзасновник компанії Том Браун.

З боку адміністрації США до процесу залучені міністр торгівлі Говард Латнік і національний кібердиректор Шон Кернкросс. Для технологічного ринку це важливий сигнал: передові AI-моделі поступово переходять у категорію інфраструктурних і експортних ризиків. Якщо уряди зможуть швидко обмежувати доступ до моделей через безпекові претензії, бізнесу доведеться враховувати не лише ціну й можливості AI-сервісів, а й політичний ризик їхнього раптового відключення.

Ситуація також показала, що формальні правила для найпотужніших AI-систем у США ще не встигають за рішеннями влади. Wired пише, що американське регулювання у цій сфері фактично формується в реальному часі: уряд уже втручається в запуск моделей, але ринок досі не має зрозумілої й прозорої процедури, яка визначала б, коли саме модель треба обмежувати. Якщо доступ до окремих моделей може залежати від рішень уряду США, компаніям і державним структурам доведеться планувати резервні інструменти, перевіряти юрисдикційні ризики та не будувати критичні процеси на одному постачальнику.

Поки що невідомо, коли саме Anthropic зможе повернути доступ до Fable 5 і Mythos 5 та чи стане нинішній конфлікт основою для нових загальних правил. Але сам факт переговорів означає, що ринок AI переходить від етапу швидких запусків до етапу, де кожна потужна модель може отримати власну безпекову перевірку. За матеріалами: Business Insider, Anthropic, Wired