Білл Гейтс закликав США запровадити обов'язковий контроль за ШІ-компаніями

Співзасновник Microsoft Білл Гейтс закликав владу США запровадити обов'язкові правила для розробників найпотужніших систем штучного інтелекту. На його думку, добровільних заходів самих технологічних компаній уже недостатньо для контролю ризиків, які виникають зі швидким розвитком ШІ. Про це Гейтс заявив в інтерв'ю NBC News.

Він вважає, що до визначення вимог щодо безпеки та моніторингу мають безпосередньо долучитися законодавці та правоохоронні органи. На його думку, виконання таких правил створить додаткові витрати для галузі, але не повинно суттєво загальмувати технологічний розвиток. Гейтс звернув увагу не лише на довгостроковий сценарій втрати контролю над більш розвиненими системами.

Значно ближчим ризиком він назвав використання вже наявних ШІ-інструментів людьми або організаціями, які мають намір завдати масштабної шкоди. Дискусія про державний контроль активізувалася на тлі того, що самі провідні американські ШІ-компанії дедалі частіше говорять про необхідність зовнішніх правил і можливого уповільнення розробки моделей у разі появи небезпечних можливостей. Anthropic вважає, що вимоги до розробників мають посилюватися разом із можливостями моделей.

Для найпотужніших систем компанія називає необхідними зовнішнє тестування, звітування про інциденти та глибший державний нагляд. Anthropic також працює над показниками, які мають дозволити незалежним експертам і владі відстежувати темпи розвитку передових моделей. Схожу позицію останнім часом займає й OpenAI.

Компанія виступила за обов'язкові національні вимоги до безпеки ШІ у США та міжнародні стандарти, які визначали б порядок оцінювання можливостей моделей, ризиків і достатності захисних механізмів. OpenAI допускає, що за певних умов такі правила можуть передбачати уповільнення або зупинення подальшого нарощування можливостей моделей. На цьому тлі серед технологічних компаній немає повної єдності щодо форми контролю.

Частина керівників галузі підтримує спільні обов'язкові стандарти, тоді як інші вважають, що лабораторії повинні самостійно визначати, коли їм потрібно призупиняти розробку для додаткових перевірок безпеки. Позиція Гейтса полягає в тому, що такі рішення не повинні залишатися виключно на розсуд компаній, які одночасно конкурують між собою за створення потужніших моделей. Він підтримує систему, за якої базові вимоги до моніторингу та захисту встановлюватимуться на рівні держави.

За матеріалами: NBC News, Anthropic, OpenAI