OpenAI запустила спеціальний режим ChatGPT для підлітків

OpenAI запустила спеціальний підлітковий режим ChatGPT з додатковими обмеженнями контенту, функціями батьківського контролю та системою визначення віку користувачів. Режим розрахований на неповнолітніх користувачів ChatGPT, передусім підлітків 13–17 років. Компанія підкреслює, що йдеться не про окремий застосунок, а про особливий режим роботи ChatGPT.

Якщо система визначить, що власнику акаунта менше 18 років, для нього можуть автоматично ввімкнути додаткові заходи захисту та деякі обмеження функцій. ChatGPT не призначений для дітей молодше 13 років. Користувачам віком від 13 до 18 років для використання сервісу необхідна згода батьків або опікунів.

ChatGPT намагатиметься визначити вік користувачаОдним із ключових елементів системи стало прогнозування віку. OpenAI може аналізувати пов'язані з акаунтом сигнали та визначати, чи ймовірно, що користувач неповнолітній. Серед таких сигналів компанія називає загальні теми розмов з ChatGPT, час доби, коли людина користується сервісом, особливості використання акаунта та тривалість його існування.

Система може застосувати підлітковий режим навіть у тому випадку, якщо користувач раніше самостійно вказав дату народження. Якщо система помилково визначить повнолітнього користувача як підлітка, людина зможе підтвердити свій вік і вимкнути додаткові обмеження. Для перевірки віку OpenAI використовує сервіс Persona.

Залежно від країни користувачу може знадобитися селфі або документ, що посвідчує особу. OpenAI заявляє, що сама не отримує завантажений документ або фотографію. Компанія отримує лише необхідну інформацію про вік.

Persona має видалити передані для перевірки матеріали протягом семи днів. Система прогнозування віку впроваджується по всьому світу. У країнах Євросоюзу її розгортання відбуватиметься окремо з урахуванням регіональних вимог.

Які відповіді ChatGPT обмежать для підлітківУ підлітковому режимі за замовчуванням активується додаткова фільтрація чутливого контенту. ChatGPT має обережніше відповідати на запити, пов'язані з натуралістичним насильством, небезпечними інтернет-челенджами та іншим потенційно шкідливим змістом. Додаткові обмеження також поширюються на сексуальні, романтичні та насильницькі рольові сценарії, а також контент, що пропагує екстремальні стандарти зовнішності, нездорове схуднення або приниження людини через її тіло.

При цьому підлітки, як і раніше, зможуть використовувати ChatGPT для навчання, пошуку інформації, творчості та інших звичайних завдань. OpenAI також заявляє, що акаунтам у підлітковому режимі не показуватиметься реклама. Батьки зможуть встановлювати «тихі години»Окремий блок змін стосується батьківського контролю.

Батько або опікун зможе пов'язати свій акаунт з акаунтом підлітка та керувати частиною його налаштувань. Зокрема, можна вмикати або вимикати голосовий режим і генерацію зображень, керувати використанням збереженої пам'яті, налаштуваннями передавання даних для покращення моделей і додатковою фільтрацією чутливого контенту. Також батьки зможуть встановлювати так звані тихі години — певний проміжок часу, протягом якого підліток не зможе користуватися ChatGPT.

Наприклад, таким чином можна обмежити використання сервісу вночі або під час навчання. Крім того, через батьківський контроль можна активувати Study Mode. У такому разі нові розмови підлітка з ChatGPT за замовчуванням починатимуться в навчальному режимі.

Батьки не зможуть читати листування підліткаOpenAI окремо підкреслює, що підключення батьківського контролю не дає батькам доступу до історії розмов підлітка та не дозволяє стежити за його листуванням у реальному часі. Винятком є окремі ситуації, коли системи безпеки та фахівці OpenAI виявляють ознаки серйозного ризику для підлітка. У таких випадках пов'язаний батько або опікун може отримати сповіщення, однак компанія обіцяє передавати лише інформацію, необхідну для забезпечення безпеки дитини.

Підліток також може самостійно відв'язати акаунт від батьківського контролю. У такому разі батько отримає відповідне сповіщення. Коли система визначає, що власнику акаунта виповнилося 18 років, підліткові обмеження вимикаються, а підключений батьківський контроль припиняє діяти.

За матеріалами: OpenAI — Age prediction in ChatGPT, OpenAI — Parental Controls