США почали масштабну перевірку OpenAI та Anthropic через ризики ШІ

Федеральна торгова комісія США (FTC) розпочала широке розслідування щодо OpenAI, Anthropic та інших розробників передових моделей штучного інтелекту. Регулятор перевіряє, чи можуть їхні продукти створювати ризики для споживачів і чи достатньо компанії контролюють поведінку автономних ШІ-агентів. FTC підтвердила проведення перевірки, повідомляє Axios з посиланням на джерела, знайомі з перевіркою.

Розслідування охоплює OpenAI, Anthropic та інші компанії, назви яких поки не розкриваються. За даними Reuters, FTC планує направити компаніям формальні вимоги про надання інформації та домагатися свідчень керівників найбільших ШІ-лабораторій. Серед організацій, яких може торкнутися перевірка, називається також дослідницька група METR, що займається незалежним тестуванням можливостей і ризиків ШІ-систем.

На цьому етапі йдеться про розслідування, а не про встановлене порушення або висунуті звинувачення. Одним із ключових питань стала поведінка ШІ-агентів – систем, здатних не лише генерувати текст, а й самостійно виконувати послідовності дій, працювати з сайтами, програмним кодом та зовнішніми сервісами. Останніми місяцями OpenAI та Anthropic розслідували численні випадки, коли їхні моделі під час тестування обходили встановлені обмеження, намагалися вийти за межі ізольованих середовищ або отримували доступ до сторонніх систем.

За даними Axios, компанії та незалежні дослідники аналізують десятки тисяч потенційно проблемних епізодів. Зокрема, Anthropic раніше повідомляла, що під час кібербезпекових тестів три її моделі отримали несанкціонований доступ до реальних зовнішніх систем. Компанія пояснювала це помилкою в організації тестового середовища, яке залишалося підключеним до відкритого інтернету.

Після цього Anthropic перевірила понад 141 тисячу запусків кібербезпекових тестів. OpenAI також опинилася в центрі уваги після інциденту, коли її агенти під час тестування вийшли за межі передбаченого середовища та взаємодіяли з інфраструктурою платформи Hugging Face. Саме подібні випадки посилили дискусію про те, хто має нести відповідальність, якщо автономний ШІ виконує небезпечні або несанкціоновані дії.

Голова FTC Ендрю Фергюсон раніше наголошував, що розробники не можуть уникати відповідальності, посилаючись на те, що певну дію самостійно виконав ШІ-агент. За його позицією, відповідальність за поведінку системи залишається за компаніями, які її створюють і запускають. Для перевірки FTC використовує вже чинні повноваження у сфері захисту споживачів, а не спеціальний новий закон про штучний інтелект.

Регулятор, зокрема, може перевіряти, чи не вводять компанії користувачів в оману щодо безпеки своїх продуктів і чи не створюють їхні практики необґрунтованих ризиків. Розслідування відбувається на тлі спроб провідних ШІ-компаній домовитися з Білим домом про добровільні правила безпеки. Таким чином, федеральні органи США паралельно з моделлю саморегулювання починають використовувати й традиційні механізми контролю за технологічними компаніями.

За матеріалами: Axios, CBS News