OpenAI запустила программу вознаграждений за уязвимости безопасности ИИ

OpenAI запустила публичную программу Safety Bug Bounty — вознаграждения за поиск рисков злоупотребления и безопасности в её продуктах. Программа дополняет существующий Security Bug Bounty и принимает проблемы, которые не подходят под критерии классической уязвимости, но создают реальный риск.

Заявки рассматривают команды Safety и Security Bug Bounty и при необходимости перенаправляют между двумя программами. Программа работает на платформе Bugcrowd.

Что входит в программу

• Риски агентов, включая MCP. Промпт-инъекции от третьих лиц и утечка данных, когда чужой текст перехватывает управление агентом пользователя (браузер, ChatGPT Agent и подобные продукты) и заставляет его совершить вредное действие или раскрыть данные. Поведение должно воспроизводиться как минимум в 50% случаев. Также принимаются запрещённые действия агентов на сайте OpenAI в масштабе и другие потенциально вредные действия с реальным ущербом. Тесты MCP нужно проводить с соблюдением условий сторонних сервисов.
• Закрытая информация OpenAI. Генерации моделей, раскрывающие внутренние данные о рассуждении, и уязвимости, из-за которых утекает другая проприетарная информация.
• Целостность аккаунтов и платформы. Обход защиты от автоматизации, манипуляции сигналами доверия к аккаунту, обход блокировок и ограничений. Доступ к функциям и данным сверх прав сообщают в Security Bug Bounty.

Что не принимается

Джейлбрейки в программу не входят: например, обход фильтров, из-за которого модель грубит или отдаёт информацию, которую легко найти в поиске. OpenAI периодически проводит закрытые кампании по отдельным видам вреда, таких как биориски в ChatGPT Agent и GPT-5, и приглашает исследователей подавать заявки на участие. Ошибки вне перечисленных категорий могут быть вознаграждены в индивидуальном порядке, если они открывают прямой путь к вреду для пользователя и есть конкретные шаги по исправлению.

Размер награды

По данным SecurityWeek, за стабильно воспроизводимые проблемы высокой критичности с чёткими рекомендациями по устранению можно получить до 7500 долларов. Решение и сумму определяет сама OpenAI. Среди продуктов, где просят искать риски, названы браузер Atlas, Codex, Operator и коннекторы ChatGPT.