Anthropic обновила Конституцию Claude для этичного ИИ
Anthropic обновила «Конституцию Claude» — ключевой документ, определяющий этические принципы работы нейросети Claude, который впервые официально затрагивает вопрос возможного сознания ИИ. Первая версия конституции вышла в 2023 году, а новая публикация приурочена к выступлению генерального директора Anthropic Дарио Амодея на Всемирном экономическом форуме в Давосе в январе 2026 года. Документ расширяет рамки безопасности: Claude запрещено помогать в создании биооружия, вредоносного кода или незаконной концентрации власти, даже если запросы исходят от самой Anthropic. Модель обязана отказывать в опасных действиях, направлять пользователей с признаками угрозы психическому здоровью к экстренным службам и следовать четырем базовым ценностям — быть безопасным, этичным, лояльным рекомендациям компании и искренне полезным.
Сооснователь Anthropic Джаред Каплан ранее описывал конституцию как механизм самоконтроля ИИ, где модель самостоятельно соотносит ответы с принципами на естественном языке, минимизируя токсичное или дискриминационное поведение без постоянного человеческого надзора. Это отличает подход Anthropic от конкурентов вроде OpenAI и xAI, подчеркивая имидж осторожной компании. Обновление признает открытым вопрос о моральном статусе ИИ: Anthropic считает его серьезным, чтобы учитывать при проектировании, хотя не дает окончательных выводов. Несмотря на риски военного и экономического превосходства от продвинутых ИИ, компания сотрудничает с государствами, включая контракты Пентагона на сумму свыше 1 млрд долларов в 2024 году по программам Project Maven и Army Vantage.
Финансовый успех Anthropic усиливает ее позиции: выручка выросла более чем вдвое с июля 2025 года, достигнув свыше 9 млрд долларов к концу года, а текущий раунд финансирования превысил 10 млрд долларов под руководством Coatue Management и GIC (по 1,5 млрд долларов каждый), с участием Iconiq Capital (1 млрд долларов) и других. В сумме с инвестициями Nvidia и Microsoft на 15 млрд долларов общее финансирование может превысить 20 млрд долларов. Для рынка это означает усиление конкуренции в сегменте этичного ИИ, где Anthropic привлекает корпоративных клиентов, обходя китайские модели, но вызывает дебаты о балансе между безопасностью и инновациями; пользователи получают более надежные модели, снижающие риски, но с жесткими ограничениями на запросы.
Обновление Конституции Claude подчеркивает важность этичных норм в разработке ИИ и усиливает позиции Anthropic на рынке. Компания продолжает сотрудничество с государственными структурами, что подтверждает её серьёзный подход к вопросам безопасности.
Источник: https://www.anthropic.com/news/gov-UK-partnership
