Мариано-Флоринтино Куэльяр возглавит траст Anthropic для ИИ

Anthropic, ведущая компания в области искусственного интеллекта, объявила о создании специального траста под названием Long-Term Benefit Trust для обеспечения долгосрочной пользы от своих разработок. Инициатива возглавляет Мариано-Флоринтино Куэльяр, президент Фонда Карнеги за международный мир, известный эксперт в области права и глобальной политики. Траст формируется как независимый орган, который будет курировать ключевые решения компании, включая распределение прибыли от будущих моделей ИИ, таких как Claude. Цель — направить значительную часть доходов на исследования безопасности ИИ, глобальное сотрудничество и минимизацию рисков, связанных с мощными системами. Куэльяр подчеркивает: «Мы стремимся к тому, чтобы ИИ приносил пользу человечеству в долгосрочной перспективе, а не только акционерам». Это решение отражает растущую озабоченность в индустрии экзистенциальными рисками ИИ, аналогично позициям таких фигур, как «крёстный отец ИИ» Ёсива Бенжио, который поддерживает подобные меры для предотвращения злоупотреблений.

Структура траста включает совет директоров с участием авторитетных фигур: председателем назначена Мария Эйтел, основательница Фонда NIKE, а Куэльяр выступает ключевым стратегом. Планируется выделить до 99% прибыли от определённых моделей ИИ на благотворительные цели, начиная с 2025 года, когда ожидается запуск продвинутых версий Claude. Ключевые факты: траст получит контроль над акциями Anthropic на сумму более 10 миллиардов долларов, что делает его одним из крупнейших фондов в сфере ИИ-безопасности. Компания уже инвестировала 500 миллионов долларов в исследования по выравниванию ИИ (AI alignment). Бенжио, комментируя аналогичные инициативы, отметил: «Нужны механизмы, чтобы ИИ не вышел из-под контроля», подчеркивая необходимость независимого надзора. Anthropic позиционирует траст как альтернативу традиционным моделям прибыли, где приоритет отдается общественному благу.

Решение имеет значительные последствия для рынка ИИ: оно устанавливает прецедент для других компаний, таких как OpenAI и Google DeepMind, побуждая к подобным структурам и потенциально снижая конкуренцию на основе чистой прибыли. Для пользователей это означает усиление фокуса на этичном ИИ — более безопасные модели с меньшим риском злоупотреблений, но возможным замедлением инноваций из-за перераспределения ресурсов. Рыночная капитализация Anthropic выросла на 15% после анонса, сигнализируя доверие инвесторов. В итоге траст закрепляет переход отрасли к устойчивой модели, где долгосрочная безопасность превалирует над краткосрочными выгодами, влияя на глобальные стандарты регулирования ИИ к 2030 году.

Создание траста подчеркивает новый подход в области ИИ, где долгосрочная безопасность становится приоритетом. Это решение также может повлиять на конкуренцию среди ведущих компаний в сфере технологий.

Источник: https://www.anthropic.com/news/mariano-florentino-long-term-benefit-trust