OpenAI закликала США запровадити обов’язкові правила безпеки для передових моделей ШІ

OpenAI закликала Конгрес США запровадити обов'язкове національне регулювання безпеки найпотужніших систем штучного інтелекту. Компанія вважає, що добровільних зобов'язань розробників уже недостатньо на тлі швидкого зростання можливостей ШІ. Про це OpenAI заявила 9 вересня у новій позиції щодо державної політики у сфері штучного інтелекту.

Компанія пропонує будувати федеральні вимоги залежно від можливостей і рівня ризику конкретної системи. Вони мають стосуватися насамперед невеликої кількості великих лабораторій, які створюють найпотужніші моделі, а не стартапів, невеликих розробників або дослідників, що не працюють на передньому краї технології. Серед ключових елементів майбутньої системи OpenAI називає єдині правила тестування моделей, незалежне оцінювання їхньої безпеки, посилені вимоги до кіберзахисту, обов'язкове повідомлення про серйозні інциденти та підготовку держави до ризиків, пов'язаних із появою дедалі автономніших систем.

Окремо компанія закликає визначити спільні критерії, за яких розробку або впровадження особливо потужних моделей необхідно буде уповільнити чи зупинити. OpenAI заявила, що якщо необхідного рівня безпеки неможливо досягти без уповільнення зростання можливостей ШІ, пріоритет має надаватися безпеці. Компанія також застерегла від передчасної гонки до повністю автономного самовдосконалення ШІ, за якого системи самостійно створюватимуть дедалі потужніші покоління моделей.

У OpenAI наголошують, що такого процесу сьогодні ще немає і його не слід запускати доти, доки не буде доведено його безпечність. Поки федеральні правила не ухвалені, OpenAI вирішила підтримати чотири законопроєкти Каліфорнії. SB 813 створює систему відбору незалежних організацій для оцінювання ризиків ШІ, а AB 1405 встановлює вимоги до реєстрації, незалежності та відповідальності аудиторів штучного інтелекту.

Ще один законопроєкт, SB 1119, передбачає перевірку віку користувачів, оцінювання ризиків, незалежні аудити, батьківський контроль і додатковий захист дітей та підлітків, які користуються ШІ-чатботами. AB 1864 має посилити захист від біологічних загроз, які можуть виникати за допомогою ШІ, зокрема через контроль постачальників обладнання та послуг для синтезу генів. OpenAI зазначила, що раніше не підтримувала частину цих ініціатив, однак переглянула свою позицію після нещодавнього різкого зростання можливостей ШІ-систем.

При цьому компанія виступає і за створення добровільних галузевих стандартів між провідними ШІ-лабораторіями. В OpenAI наголошують, що такі домовленості можуть доповнювати, але не замінювати обов'язкові федеральні вимоги та державний нагляд. За матеріалами: OpenAI