Министерство обороны США заявило, что продолжение сотрудничества с Anthropic в области ИИ создает "неприемлемый риск" для национальной безопасности. Это заявление сделано в судебном разбирательстве, в рамках которого компания оспаривает решение Пентагона о рисках для цепочки поставок.
Судебный иск Anthropic против правительства
Anthropic подала иск против правительства после того, как ей было отказано в использовании своего ИИ для массового наблюдения и разработки автономного оружия. Пентагон указывает, что Anthropic не проявила себя как "доверенный партнер" в вопросах, касающихся чувствительных ИИ-технологий.
Уязвимости ИИ-систем и угрозы для безопасности
Как отмечается в документах суда, ИИ-системы уязвимы к манипуляциям, и Anthropic может попытаться деактивировать свою технологию в критических ситуациях. "Это создает неприемлемую угрозу для национальной безопасности", — говорится в подаче, отражающей опасения, высказанные Трампом и его администрацией.
Anthropic настаивает на судебном запрете, чтобы приостановить ограничение на использование технологии, утверждая, что это может привести к миллиардам долларов убытков. Неясно, ведет ли компания переговоры с правительством о новом соглашении после подачи иска.
Что это значит для технологического рынка? Решение Пентагона может ограничить доступ малых и средних ИТ-компаний к оборонным контрактам, что повлияет на развитие ИИ в США. Как поведет себя Anthropic в будущем, зависит от судебного разбирательства и возможных переговоров с правительством.
В ближайшем будущем можно ожидать, что ситуация продолжит развиваться, и мы узнаем о дальнейших действиях со стороны Anthropic и Пентагона.