По словам высокопоставленного представителя Пентагона, использование министерством обороны антропного искусственного интеллекта стало шокирующим открытием, которое в конечном итоге привело к драматическому расколу.
Эмиль Майкл, заместитель министра по исследованиям и разработкам департамента, а также его главный технический директор, подробно рассказал о событиях, которые привели к публичному спору, в пятничном выпуске подкаста All-In.
После военного рейда США в Венесуэле в начале января, в результате которого был захвачен диктатор Николас Мадуро, Anthropic спросила Палантир, использовался ли в операции ее ИИ. Хотя Anthropic охарактеризовала исследование как рутинное, Пентагон и Палантир интерпретировали его как потенциальную угрозу для своего доступа.
«Я такой, черт, а что, если это программное обеспечение выйдет из строя, какое-то ограждение поднимется, произойдет какой-то отказ от следующего такого боя, и мы подвергнем риску наших людей?» Майкл напомнил. «Поэтому я пошел к госсекретарю Хегсету и сказал ему, что это должно произойти, и для всего руководства Пентагона это стало большим моментом, когда мы потенциально настолько зависим от поставщика программного обеспечения, у которого нет другой альтернативы».
До недавнего времени Claude от Anthropic был единственной моделью ИИ, разрешенной для использования в секретных средах. Стартап из Сан-Франциско заявил, что он патриотичен и стремится защитить Соединенные Штаты, но не позволит использовать свой ИИ для массового внутреннего наблюдения или автономного оружия.
Пентагон настаивал на том, что будет использовать ИИ в законных целях, и отказывался соблюдать любые ограничения компании, выходящие за их рамки.
Не сумев достичь соглашения на прошлой неделе, президент Дональд Трамп приказал федеральному правительству прекратить использование Anthropic и дал Пентагону шесть месяцев на его поэтапный отказ. Министр обороны Пит Хегсет также отнес компанию к риску в цепочке поставок, а это означает, что подрядчики не могут использовать ее для военных работ.
На данный момент военные продолжают использовать Anthropic во время войны США против Ирана, поскольку ИИ помогает истребителям быстро идентифицировать потенциальные цели.
Во время своего выступления в подкасте Майкл выразил обеспокоенность тем, что мошеннический разработчик может «отравить модель», чтобы сделать ее неэффективной для военных, научить ее намеренно галлюцинировать или приказать ей не следовать инструкциям.
Затем он связался с OpenAI, которая в конечном итоге заключила сделку, аналогичную Anthropic. xAI Илона Маска также был включен в секретную группу, в то время как Пентагон пытается добиться того, чтобы ИИ Google также был разрешен в секретной группе.
«Я не предвзят», — сказал Майкл. «Я просто люблю их всех. Я хочу предоставить им одинаковые условия, потому что мне нужно сокращение штата».
Он признал, что Anthropic «глубоко укоренилась» в отделе, в то время как другие компании, занимающиеся искусственным интеллектом, не так агрессивно преследовали корпоративных клиентов, предоставляя передовых инженеров.
Спор между Пентагоном и Anthropic высветил столкновение культур между оборонным истеблишментом и Кремниевой долиной, которая уходит своими корнями в военные инновации, но с тех пор стала брезгливо относиться к использованию своих технологий в войне.
Фактически, ведущий инженер по робототехнике в OpenAI объявила о своем уходе из компании в субботу, сославшись на те же опасения, высказанные Anthropic.
«Это было непростое решение. ИИ играет важную роль в национальной безопасности. Но слежка за американцами без судебного надзора и смертоносная автономия без разрешения человека — это линии, которые заслуживают большего обсуждения, чем они получили», — написала Кейтлин Калиновски на X и LinkedIn.
