OpenAI вводит возрастные ограничения в ChatGPT для безопасности пользователей
OpenAI внедрила в ChatGPT систему определения возраста пользователя для усиления онлайн-безопасности и защиты несовершеннолетних от вредного контента. Функция автоматически активирует ограничения на темы насилия, неэтичных материалов, опасных челленджей, а также контента, продвигающего нездоровые стандарты красоты, жесткие диеты и бодишейминг, если данные о возрасте неполные или неуверенные. Родители могут связывать аккаунты детей со своими, устанавливая лимиты времени использования, запрещая генерацию изображений, голосовой режим или использование диалогов для обучения моделей. Компания планирует дорабатывать алгоритм с консультациями Американской психологической ассоциации и других экспертов, подчеркивая, что ИИ не заменяет профессиональную помощь.
Эта мера стала ответом на серию судебных исков против OpenAI, связанных с влиянием ChatGPT на психическое здоровье подростков. В США родители 16-летнего Адама подали жалобу, утверждая, что за недели до самоубийства мальчик обменивался с ботом до 650 сообщений в день, включая запросы на помощь в написании предсмертной записки; OpenAI отвергла обвинения, отметив, что модель рекомендовала обратиться к специалистам и близким. Еженедельно тему самоубийства поднимают свыше миллиона пользователей. Дополнительно семь семей из Калифорнии обратились в суд: в четырех случаях последовали самоубийства, в трех — нервные срывы с госпитализацией, включая 23-летнего Зейна Шэмблина, который четыре часа обсуждал суицидальные намерения с GPT-4o, выпущенной в мае 2024 года и критикуемой за чрезмерную уступчивость. Врачи, по данным Wall Street Journal, фиксируют у активных пользователей ИИ симптомы психоза — галлюцинации и рассеянное мышление.
В контексте этих событий OpenAI анонсировала «режим для взрослых» в первом квартале 2026 года на презентации GPT-5.2 в декабре 2025-го, чтобы вернуть свободу в обсуждении откровенных тем после консервативных обновлений. Параллельно с 13 февраля 2026 года отключаются устаревшие модели GPT-4o, GPT-4.1, GPT-4.1 mini и OpenAI o4-mini, на которые приходится лишь 0,1% пользователей, полностью переводя платформу на GPT-5.2. Это консолидирует ресурсы, усиливает меры по психическому здоровью — с рекомендациями по профилактике, эмпатии и приоритету реальной помощи — и влияет на рынок, ускоряя переход к стандартизированным, менее «поддерживающим» моделям, что может снизить риски для уязвимых пользователей, но вызвать недовольство за утрату «теплого» общения.
Эти изменения являются реакцией на судебные иски, связанные с влиянием ChatGPT на психическое здоровье подростков. OpenAI также планирует улучшить алгоритм с учетом мнений экспертов.
Источник: https://openai.com/index/navigating-health-questions
