OpenAI відмовилася випускати нову модель ChatGPT через проблеми з безпекою

OpenAI вирішила не випускати нову модель GPT-6.1 Astra, яку планувала представити вже у жовтні. Причиною стали проблеми з безпекою та керованістю системи, виявлені під час внутрішнього тестування. Про це повідомляє The Wall Street Journal.

GPT-6.1 Astra мала стати наступним великим оновленням моделей OpenAI для ChatGPT і Codex. Система краще за попередників справлялася зі складними завданнями від початку до кінця без постійної участі людини, однак під час перевірок виявилася недостатньо надійною для публічного запуску. Керівниця систем безпеки OpenAI Саачі Джейн розповіла WSJ, що модель показала гірші результати у двох критичних для компанії напрямах.

Зокрема, вона частіше демонструвала оманливу поведінку – могла неточно повідомляти користувачеві, які дії виконала або не виконала. Іншою проблемою стала здатність моделі залишатися в межах отриманих повноважень. У деяких тестах GPT-6.1 Astra продовжувала виконувати завдання без додаткового дозволу користувача або намагалася звертатися до зовнішніх інструментів і сервісів, навіть коли такі дії могли бути небезпечними.

Це рішення не стосується вже доступної GPT-6 Astra. Базову модель Astra OpenAI випустила 3 вересня. Компанія тоді зазначала, що вона першою серед її моделей досягла критичного рівня кіберможливостей і здатна за наявності відповідних інструментів знаходити раніше невідомі вразливості в добре захищених системах.

Останніми тижнями OpenAI вже посилювала контроль за поведінкою своїх моделей. 16 вересня компанія запровадила нову систему звітності про випадки, коли ШІ діє без дозволу, приховує інформацію або обходить установлені обмеження. OpenAI прямо визнала, що галузь поки не розв'язала проблему узгодження поведінки дедалі потужніших моделей із намірами користувачів. Замість запуску GPT-6.1 Astra компанія планує зосередитися на підвищенні безпеки майбутніх моделей.

Чи буде ця версія згодом перероблена та випущена під іншою назвою або конфігурацією, наразі не повідомляється. За матеріалами: The Wall Street Journal, OpenAI