В Пентагоне всерьез задумались о том, чтобы перестать работать с ИИ-стартапом Anthropic. Издание Axios, ссылаясь на источник в администрации Дональда Трампа, пишет, что камнем преткновения стали слишком строгие правила компании. Разработчики настаивают на серьезных ограничениях, которые мешают военным использовать нейросети так, как они считают нужным.
Если говорить конкретнее, Anthropic против того, чтобы их технологии применялись для массовой слежки за американцами или в системах полностью автономного оружия, способного убивать без команды человека. В министерстве обороны на это смотрят скептически. Чиновники жалуются, что формулировки стартапа слишком размыты и непонятно, где именно проходит грань дозволенного. По словам источника в правительстве, Пентагону просто неудобно работать на таких условиях, когда каждый шаг приходится отдельно согласовывать с юристами компании.
Градус напряжения вырос еще в конце января. Тогда The Wall Street Journal уже упоминала, что контракт может сорваться из-за споров об этике. При этом ситуация выглядит неоднозначно: те же источники WSJ сообщали, что военные уже успели опробовать модель Claude в деле. Утверждается, что нейросеть помогала в операции по задержанию президента Венесуэлы Николаса Мадуро, которая прошла 3 января.
"Пентагон рассматривает возможность разрыва отношений с Anthropic из-за настойчивого требования компании сохранить некоторые ограничения на использование ее моделей военными", — отмечается в материале Axios.
Часто задаваемые вопросы
Причиной стали этические ограничения компании, запрещающие использовать ИИ для массовой слежки и создания автономного оружия.
По данным СМИ, военные применяли модель Claude от Anthropic во время январской операции в Венесуэле.