Глава администрации Белого дома Сьюзи Уайлс планирует поговорить с генеральным директором Anthropic Дарио Амодеи о новой модели Mythos компании по искусственному интеллекту, которая привлекла внимание федерального правительства к тому, как она может изменить национальную безопасность и экономику.
Представитель Белого дома, пожелавший остаться неназванным для обсуждения запланированной встречи в пятницу, заявил, что администрация взаимодействует с передовыми лабораториями искусственного интеллекта по поводу их моделей и безопасности программного обеспечения. Чиновник подчеркнул, что любая новая технология, которая может быть использована федеральным правительством, потребует технического периода для оценки.
Встреча состоялась после того, как обострилась напряженность между администрацией Трампа и заботящейся о безопасности компанией Anthropic, которая стремилась создать барьеры на пути развития искусственного интеллекта, чтобы минимизировать любые потенциальные риски и максимизировать выгоды для экономики и национальной безопасности США.
Президент Дональд Трамп попытался заблокировать всем федеральным агентствам использование чат-бота Anthropic, Клода, из-за спора по контракту компании с Пентагоном, и в феврале Трамп заявил в своем посте в социальных сетях, что администрация «больше не будет иметь с ними дела!»
Министр обороны Пит Хегсет также стремился объявить Anthropic риском для цепочки поставок, что является беспрецедентным шагом против американской компании, которую Anthropic оспорила в двух федеральных судах. Компания заявила, что хочет получить гарантии того, что Пентагон не будет использовать ее технологию для создания полностью автономного оружия и наблюдения за американцами. Хегсет заявил, что компания должна разрешить любое использование, которое Пентагон сочтет законным.
В марте окружной судья США Рита Лин вынесла постановление, которое заблокировало исполнение директивы Трампа о социальных сетях, предписывающей всем федеральным агентствам прекратить использование антропных продуктов.
Anthropic отказался обсуждать встречу заранее.
Компания Anthropic, базирующаяся в Сан-Франциско, заявила, что новая модель Mythos, о которой она объявила 7 апреля, настолько «на удивление эффективна», что ограничивает ее использование для избранных клиентов из-за ее способности превосходить экспертов по кибербезопасности в поиске и использовании компьютерных уязвимостей.
И хотя некоторые отраслевые эксперты задаются вопросом, были ли заявления Anthropic о слишком мощной технологии искусственного интеллекта маркетинговым ходом, даже некоторые из самых резких критиков компании предположили, что Mythos может представлять собой дальнейшее продвижение в области искусственного интеллекта.
Влиятельный антропный критик Дэвид Сакс, который был царем искусственного интеллекта и криптовалют в Белом доме, сказал, что люди должны «относиться к этому серьезно».
«Каждый раз, когда Anthropic пугает людей, вы должны спрашивать себя: «Это уловка? Это часть их рутины Chicken Little? Или это реально?» — сказал Сакс в подкасте «All-In», который он ведет вместе с другими технологическими инвесторами. «Что касается кибербезопасности, я бы отдал им должное и сказал, что это более реально».
Сакс сказал: «Просто логично, что по мере того, как модели кодирования становятся все более и более функциональными, они становятся более способными находить ошибки. Это означает, что они более способны находить уязвимости. Это означает, что они более способны объединить несколько уязвимостей и создать эксплойт».
Потенциальные преимущества модели, а также ее риски также привлекли внимание за пределами США.
Британский институт безопасности искусственного интеллекта заявил, что оценил новую модель и считает ее «шагом вперед» по сравнению с предыдущими моделями, которые уже быстро совершенствуются.
«Mythos Preview может использовать системы со слабым уровнем безопасности, и, вероятно, будут разработаны новые модели с такими возможностями», — говорится в отчете института.
Anthropic также ведет переговоры с Европейским Союзом о своих моделях искусственного интеллекта, включая передовые модели, которые еще не были запущены в Европе, заявил в пятницу представитель Европейской комиссии Томас Ренье.
Аксиос первым сообщил о запланированной встрече Уайлса и Амодея.
Когда компания анонсировала Mythos, Anthropic заявила, что также формирует инициативу под названием Project Glasswing, которая объединит таких технологических гигантов, как Amazon, Apple, Google и Microsoft, а также другие компании, такие как JPMorgan Chase, в надежде защитить критическое программное обеспечение в мире от «серьезных» последствий, которые новая модель может создать для общественной безопасности, национальной безопасности и экономики.
«Мы внедряем его в ряд крупнейших компаний и организаций мира, чтобы они могли использовать его для поиска уязвимостей», — заявил соучредитель и главный политический директор Anthropic Джек Кларк на конференции Semafor World Economic на этой неделе.
Кларк добавил, что Mythos, хотя и находится на переднем крае, не является «специальной моделью».
«Через несколько месяцев появятся другие подобные системы от других компаний, а через год-полтора появятся открытые модели из Китая, обладающие такими возможностями», — сказал он. Поэтому миру придется подготовиться к появлению более мощных систем, которые будут существовать внутри него».
___
О’Брайен сообщил из Провиденса, Род-Айленд. Деловой репортер AP Кельвин Чен участвовал в подготовке этого репортажа из Лондона.
