Кибербезопасность в эпоху искусственного интеллекта: OpenAI опубликовала план действий

OpenAI опубликовала план действий по кибербезопасности, который назвала Action Plan. Компания исходит из того, что ИИ меняет кибербезопасность в обе стороны: те же возможности, которые помогают защитникам находить уязвимости, автоматизировать исправления и быстрее реагировать на инциденты, злоумышленники используют, чтобы масштабировать атаки и снижать порог входа.

Пять направлений плана

План подготовлен по итогам разговоров с экспертами по кибербезопасности и национальной безопасности из федеральных и региональных органов власти США и крупных коммерческих организаций. Он состоит из пяти частей:

• демократизация киберзащиты;
• координация между государством и индустрией;
• усиление защиты вокруг передовых киберспособностей моделей;
• сохранение видимости и контроля при развёртывании;
• помощь пользователям в самозащите.

Что предлагает OpenAI

Главная идея — расширить доступ к защитным инструментам для тех, кому общество может доверять. По словам OpenAI, компания углубит уже взятые обязательства и будет строить инфраструктуру для специалистов по защите. Устойчивость в «эпоху интеллекта», как называет её компания, потребует работы через демократические институты и процессы, а также более широкого доступа к технологиям, которые помогают защищать сообщества, критически важные системы и национальную безопасность.

В материале подчёркнуто, что США и их союзники сталкиваются с быстро меняющейся картиной киберугроз, а частные разработчики технологий несут ответственность за помощь в ответе на эти угрозы. План ориентирован на американский контекст, но показывает, в какую сторону развиваются подходы крупных ИИ-разработчиков к безопасности собственных моделей.