Компания OpenAI опубликовала стратегию работы с несовершеннолетними пользователями, в которой обосновывает необходимость их доступа к ИИ при условии усиленной защиты. Запрет на использование технологии до 18 лет в компании сравнили с запретом на интернет для предыдущих поколений, который оставил бы молодежь неподготовленной к реалиям цифровой эпохи.
Согласно внутренней статистике, около 90% подростков, пользующихся ChatGPT, применяют его в течение недели для учебы, поиска информации и развития навыков. В качестве примера приводится история школьницы Орианы Маккензи, которая с помощью ИИ смогла стать лучшей ученицей в классе и находить время для спорта.
Для безопасного использования технологии OpenAI внедряет комплексный подход, основанный на четырех принципах: безопасность превыше других целей, поощрение поддержки в реальном мире, отношение к подросткам соответственно их возрасту и прозрачность.
Обучение без готовых ответов. Разработан «Режим обучения» (Study Mode), созданный совместно с педагогами и когнитивистами. Вместо выдачи готового решения чат-бот задает наводящие вопросы и разбирает задачу по шагам. Родители теперь могут принудительно активировать этот режим через настройки. Также запущены интерактивные занятия по 250 темам (от математики до фотосинтеза) и тренировка произношения на 61 языке — еженедельная аудитория этих инструментов превышает 18 миллионов пользователей.
Автоматические фильтры контента. Для пользователей младше 18 лет по умолчанию включаются строгие ограничения. Система блокирует контент, связанный с графическим насилием, самоповреждением, опасными вирусными челленджами, пропагандой нездорового образа тела, а также попытки романтических или сексуальных ролевых игр. Кроме того, при длительном использовании ChatGPT начали появляться напоминания о перерывах.
Расширенный родительский контроль. Родители могут устанавливать «тихие часы», отключать голосовой режим и управлять генерацией изображений. Ключевое нововведение — автоматические уведомления в случаях, когда аккаунт подростка заблокирован за угрозы насилием. По словам разработчиков, это позволяет вовремя вмешаться, не нарушая полностью приватность ребенка.
При разработке мер безопасности OpenAI консультировалась с экспертами организации Moonshot, специализирующейся на предотвращении онлайн-насилия. Ее основательница Видья Рамалингам заявила, что уведомление родителей о серьезных инцидентах является критически важным шагом для раннего вмешательства семьи.
Компания также сотрудничает с Американской психологической ассоциацией (APA), Профсоюзом учителей (AFT) и присоединилась к Институту семейной онлайн-безопасности (FOSI). OpenAI призывает индустрию к созданию единых глобальных стандартов безопасности ИИ для молодежи и опубликовала семейное руководство по ответственному использованию технологии, доступное более чем на 50 языках.
Источник: https://openai.com/index/why-teens-deserve-access-safe-ai
Комментарии(0)
Оставьте комментарий
Войдите, чтобы присоединиться к обсуждению