Anthropic представила Политику ответственного масштабирования 3.0

Anthropic выпустила третью версию Responsible Scaling Policy (RSP) — добровольной системы правил для снижения катастрофических рисков от ИИ. Главные изменения: обязательства самой компании отделены от рекомендаций для отрасли, добавлена Frontier Safety Roadmap, а о рисках моделей компания будет регулярно публиковать отчёты.

Зачем пересматривали политику

RSP появилась в сентябре 2023 года. Тогда она строилась на условных обязательствах: если модель достигает определённого уровня возможностей, нужно вводить более строгие меры защиты, привязанные к уровням ASL. Anthropic признаёт, что часть задумок сработала: правила заставили компанию разработать классификаторы для защиты от биологических и химических рисков, меры ASL-3 включили в мае 2025 года, а похожие рамки позже приняли OpenAI и Google DeepMind.

Но пороги возможностей оказались менее однозначными, чем ожидалось. Иногда модель явно приближалась к порогу, но было неясно, преодолела ли его, и науки об оценке моделей для точных ответов пока не хватает. Кроме того, государственное регулирование безопасности ИИ двигалось медленно, а требования высших уровней RSP трудно выполнить в одиночку.

Три главных изменения

• Разделение планов и рекомендаций. Политика теперь описывает меры, которые Anthropic будет принимать независимо от других, и отдельную карту «возможности — меры» для всей отрасли.
• Frontier Safety Roadmap. Компания публикует конкретные цели в областях безопасности, согласования моделей, защитных механизмов и политики. Это не жёсткие обязательства, а публичные цели, по которым Anthropic обещает открыто отчитываться. Среди примеров — проекты по защите информации, новые методы проверки систем, централизованный учёт критической разработки и дорожная карта предложений для регуляторов.
• Risk Reports и внешняя проверка. Отчёты о рисках будут выходить каждые 3–6 месяцев с частичной редактурой. В отдельных случаях их должны проверять независимые эксперты без конфликта интересов. Текущие модели внешней проверки пока не требуют, но пилоты уже идут.

Anthropic называет RSP «живым документом» и обещает дальше пересматривать её по мере развития технологий.