OpenAI звільнила трьох співробітників після інцидентів із конфіденційними даними

OpenAI звільнила трьох працівників, пов'язаних із безпекою та узгодженням поведінки штучного інтелекту (alignment), після внутрішнього розслідування щодо поводження з конфіденційною корпоративною інформацією. Про звільнення першою повідомила The Wall Street Journal. Згодом інформацію підтвердила сама OpenAI: компанія заявила, що розслідування виявило порушення встановлених процедур доступу до чутливої інформації та роботи з нею.

За даними The Information, один зі звільнених працював безпосередньо над безпекою ШІ, другий – над alignment, а третій був менеджером дослідницьких програм у цьому напрямі. У OpenAI заявили, що йшлося не про одиничний випадок, а про низку порушень правил поводження з дослідницькою інформацією. Людина, знайома з обставинами справи, повідомила медіа, що один з епізодів стосувався передачі чутливої інформації сторонній організації, яка займається незалежним оцінюванням систем штучного інтелекту.

Назву цієї організації OpenAI не розкрила. За даними WSJ, йдеться про Жасмін Ван, Томека Корбака та Мікіту Балесні. Сама OpenAI публічно не називала звільнених співробітників.

Усі троє останнім часом працювали або були пов'язані з питаннями безпеки та ризиків, пов'язаних із розвитком потужних моделей ШІ. Водночас сам факт взаємодії OpenAI із зовнішніми організаціями, які тестують безпеку моделей, не є незвичним. Компанія та інші розробники ШІ залучають незалежних фахівців для оцінювання ризиків.

Однак доступ таких команд до внутрішніх матеріалів регулюється окремими процедурами та обмеженнями. Звільнення відбулися на тлі посиленої уваги до безпеки продуктів OpenAI. Останніми місяцями компанія оприлюднювала результати розслідувань інцидентів із поведінкою автономних ШІ-агентів та посилювала внутрішні процедури контролю за потенційно небезпечними можливостями моделей.

За матеріалами: The Wall Street Journal, The Information