Президент Дональд Трамп обвинил Anthropic в том, что он ставит под угрозу войска и национальную безопасность, но генеральный директор Дарио Амодей заявил, что его компания патриотична.
«Я думаю, что мы должны защитить нашу страну от автократических противников, таких как Китай и Россия», — сказал он. «И именно поэтому мы действовали очень гибко. У нас есть значительная команда государственного сектора».
В то время как Anthropic предоставила правительству свой ИИ, Пентагон требовал его неограниченного использования во всех законных сценариях. Но компания утверждает, что у нее есть «красные линии», то есть ее использование в отечественной массовой слежке и автономном оружии.
На переговорах не удалось прийти к соглашению, что побудило Трампа запретить использование Anthropic в правительственных учреждениях, одновременно предоставив Пентагону шестимесячный период поэтапного отказа.
Министр обороны Пит Хегсет также назвал компанию «риском цепочки поставок», имея в виду, что другим подрядчикам, работающим на Пентагон, не будет разрешено использовать ИИ Anthropic для военных работ.
Амодей рассказал CBS, что Anthropic согласен с 98–99% случаев использования в военных целях. Но его беспокойство по поводу массовой слежки заключается в том, что новейший ИИ меняет правила игры, даже в рамках действующих правовых ограничений.
«На самом деле это не является противозаконным. Просто до эпохи искусственного интеллекта это не было полезно. Так что есть способ, с помощью которого отечественная массовая слежка опережает закон», — объяснил он. «Технологии развиваются так быстро, что не идут в ногу с законом».
Что касается автономного оружия, Амодей сказал, что ИИ недостаточно надежен, чтобы полностью исключить людей из процесса, указывая на техническую проблему «базовой непредсказуемости» в нынешних моделях.
На данный момент ему не известны какие-либо реальные примеры того, как пользователь натыкается на красные линии Anthropic, но он признал, что в долгосрочной перспективе решение этих проблем частной компанией невыполнимо.
В конечном итоге Конгресс должен установить барьеры для использования ИИ, но законодатели действуют медленно, сказал Амодей. Компания также «категорически против полностью автономного оружия», но считает, что надежность ИИ еще не достигла своего пика.
Между тем, Anthropic по-прежнему открыта для сотрудничества с правительством и предложила обеим сторонам оставаться на связи.
«Мы готовы предложить наши модели всем ветвям власти, включая военное министерство, разведывательное сообщество и более гражданские ветви власти, на условиях, которые мы предоставили в рамках наших красных линий», – сказал он.
Внесение Anthropic в черный список Трампом и Хегсетом произошло за несколько часов до того, как Соединенные Штаты и Израиль нанесли широкомасштабные авиаудары по Ирану, что превращается в затяжной конфликт, направленный на смену режима.
ИИ стал важнейшим инструментом для военных, особенно для идентификации целей и прогнозирования поведения противника посредством быстрого анализа разведывательных данных.
На вопрос CBS, что бы он сказал Трампу сейчас, Амодей ответил: «Я бы сказал, что мы — американцы-патриоты. Все, что мы сделали, было на благо этой страны, на благо поддержки национальной безопасности Соединенных Штатов. Наша тенденция использовать наши модели с военными возникла потому, что мы верим в эту страну».
Но он добавил: «Мы провели красные линии, потому что считаем, что их пересечение противоречит американским ценностям. И мы хотели защитить американские ценности».
Над Anthropic нависает угроза цепочки поставок, предложенная главой Пентагона — беспрецедентный шаг против американской компании, который может нанести ущерб ее росту.
Амодей назвал это карательным актом, но преуменьшил возможный ущерб, заявив, что это не повлияет на работу, не связанную с обороной, выполняемую клиентами Anthropic.
«У нас все будет хорошо», сказал он. «Влияние этого назначения весьма незначительно. Суть твита, который опубликовал секретарь, была направлена на создание неопределенности, он был разработан, чтобы создать ситуацию, в которой люди считали, что воздействие будет гораздо большим, он был разработан, чтобы создать страх, неуверенность и сомнения. Но мы не позволим этому добиться успеха. С нами все будет в порядке».
