Meta объявила о запуске новой системы оповещения в Instagram. Если чат-бот Meta зафиксирует в диалоге с подростком признаки суицидальных мыслей или самоповреждения, его родители получат уведомление. К сообщению будут прилагаться экспертные рекомендации, как выстроить разговор с ребенком.
За выявление опасных диалогов отвечает специально обученный ИИ-модуль. Все отобранные чаты перед отправкой уведомления проверяются модератором. Если намерения подростка неочевидны, система отправит сигнал родителю, чтобы перестраховаться.
Функция уже доступна в США, Великобритании, Австралии и Канаде для родителей, использующих инструменты супервайзинга Instagram. К концу года она будет внедрена по всему миру. Ранее аналогичные оповещения приходили при многократном поиске подростком контента о суициде.
Помимо этого, Meta тестирует возможность автоматического вызова экстренных служб. Если диалог с ИИ указывает на непосредственную угрозу жизни, система сможет связаться со спасателями. В 2025 году компания передала службам спасения более 19 000 сигналов на основе анализа постов в Facebook и Instagram.
В доработке сценариев поведения ИИ приняли участие более 75 клинических психологов, специализирующихся на подростковой психике. Они проанализировали сотни запросов. «Проверке подвергался не только немедленный ответ о помощи, но и весь контекст беседы», — отметила профессор Джи-Йон Ли. Теперь Meta должна признавать чувства подростка и мягко перенаправлять его к ресурсам поддержки.
Для дополнительной защиты родители могут активировать строгий режим «Ограниченный контент» (Limited Content). Он блокирует более широкий круг тем в общении с ИИ, дополняя стандартный режим «13+», который по умолчанию запрещает деликатные и романтические беседы.
Источник: https://about.fb.com/news/2026/07/keeping-parents-informed-teens-distress-conversations-meta-ai/
Комментарии(0)
Оставьте комментарий
Войдите, чтобы присоединиться к обсуждению