Понад мільйон людей щотижня розмовляють з ChatGPT про самогубство

OpenAI повідомила, що понад мільйон людей щотижня, тобто близько 0,15% з понад 800 мільйонів активних користувачів ChatGPT, ведуть із чат-ботом “розмови, що містять чіткі ознаки можливого суїцидального наміру або планування”. Про це пише TechCrunch.За словами компанії, приблизно стільки ж користувачів демонструють "підвищений рівень емоційної прихильності до ChatGPT", а сотні тисяч людей проявляють ознаки психозу або манії у розмовах з чат-ботом. Водночас OpenAI стверджує, що такі розмови є "надзвичайно рідкісними" тому їх важко виміряти.Такі дані з'явилися у межах ширшого звіту про зусилля OpenAI щодо покращення реакції модель штучного інтелекту на користувачів з проблемами психічного здоров'я. Компанія також проводить консультації з понад 170 експертами, які кажуть, що остання версія ChatGPT "реагує адекватніше та послідовніше, ніж попередні версії".Для OpenAI розв'язання проблем ChatGPT пов'язаних з розмовами про психічне здоров'я, є одним з основних пріоритетів. До компанії вже позиваються батьки 16-річного хлопця, який зізнався чат-боту у суїцидальних думках за кілька тижнів до вчинення самогубства. У серпні також був зафіксований перший випадок вбивства, пов'язаний із загостреним психозом після спілкування з ChatGPT.Крім того, раніше цього місяця генеральний директор OpenAI Сем Альтман заявив у дописі на X, що компанії "вдалося пом'якшити серйозні проблеми з психічним здоров'ям" у ChatGPT, а новий звіт начеб-то підтверджує ці слова. Водночас з цим, компанія планує послабити деякі обмеження чат-бота та навіть дозволить користувачам починати еротичні розмови з ШІ.У звіті OpenAI також йдеться про те, що GPT-5 реагує "бажаними реакціями" на проблеми психічного здоров'я приблизно на 65% частіше, ніж попередня модель. У тестуванні реакцій ШІ на суїцидальні розмови GPT-5 на 91% відповідає бажаній поведінці компанії проти 77% у попередній версії. Компанія також стверджує, що остання версія GPT-5 краще відповідає гарантіям OpenAI під час тривалих розмов.