Министр финансов Скотт Бессент и председатель Федеральной резервной системы Джером Пауэлл, как сообщается, созвали во вторник лидеров Уолл-стрит на экстренное совещание по поводу последней модели искусственного интеллекта Anthropic, выразив обеспокоенность по поводу возросшего риска кибербезопасности.
Бессент и Пауэлл собрали группу высокопоставленных руководителей в штаб-квартире Казначейства, чтобы гарантировать, что банки осведомлены о киберрисках, связанных с новой моделью Anthropic, Mythos, и аналогичными будущими моделями, сообщают Bloomberg и Financial Times. Источники, беседовавшие с Bloomberg, сообщили, что на мероприятии присутствовали генеральный директор Citigroup Джейн Фрейзер, генеральный директор Morgan Stanley Тед Пик, генеральный директор Bank of America Брайан Мойнихан, генеральный директор Wells Fargo Чарли Шарф и генеральный директор Goldman Sachs Дэвид Соломон. По словам источников, генеральный директор JPMorgan Джейми Даймон также был приглашен, но не смог присутствовать.
Федеральная резервная система отказалась от комментариев Fortune. Казначейство не сразу ответило на запрос Fortune о комментариях.
Встреча состоялась всего через несколько недель после того, как Fortune эксклюзивно сообщила, что Anthropic разрабатывает неизданную модель, которую компания называет «безусловно самой мощной моделью искусственного интеллекта», которую она когда-либо разрабатывала, о существовании которой Anthropic непреднамеренно обнародовала в прошлом месяце через свою систему управления контентом. Позже компания узнала эту модель как Claude Mythos.
Во вторник Anthropic опубликовала отчет под названием «Оценка возможностей кибербезопасности Claude Mythos Preview», отметив, как модель смогла найти множество уязвимостей 10- и 20-летней давности, а также уязвимость 27-летней давности в OpenBSD, операционной системе, имеющей репутацию одной из самых безопасных.
Anthropic проинформировала высокопоставленных правительственных чиновников США и представителей отрасли о возможностях Mythos Preview перед его запуском, сообщил Fortune человек, знакомый с этим вопросом. В своем блоге компания заявила, что готова работать с чиновниками на всех уровнях правительства, чтобы гарантировать, что национальная безопасность является приоритетом при внедрении новых моделей искусственного интеллекта, а Соединенные Штаты сохраняют лидерство в технологиях искусственного интеллекта.
Anthropic сообщила Fortune, что партнерство с правительством было планом компании с самого начала (в настоящее время компания ведет судебную тяжбу с Пентагоном после того, как Министерство обороны внесло ее в черный список за введение ограничений на использование ее технологий искусственного интеллекта).
Новая модель искусственного интеллекта Anthropic может «изменить кибербезопасность», поэтому компания запустила Project Glasswing.
В партнерстве с JPMorgan Chase, Amazon и Google, а также другими ключевыми технологическими компаниями, Anthropic на этой неделе запустила Project Glasswing — инициативу, направленную на защиту критически важного программного обеспечения на фоне достижений искусственного интеллекта. В рамках партнерства, как сообщила Anthropic в своем блоге, она поделится своими знаниями с отраслями технологий и финансовых услуг.
Помимо своих партнеров, компания расширила доступ к 40 дополнительным организациям, создающим или развертывающим критически важную программную инфраструктуру, и выделила до 100 миллионов долларов США в виде кредитов на использование Mythos Preview — самой базовой единицы использования ИИ. Anthropic отметила, что проект был запущен в ответ на возможности, которые компания увидела в своей новой пограничной модели Mythos, которая, по ее мнению, может «изменить кибербезопасность».
«Учитывая темпы развития ИИ, вскоре такие возможности начнут распространяться, потенциально за пределами тех, кто обязуется их безопасно развертывать», — предупреждает издание. «Последствия (для экономики, общественной и национальной безопасности) могут быть серьезными».
Во вторник компания Anthropic сообщила, что сначала она выпустит новую модель для ограниченной группы отраслевых партнеров, чтобы «позволить защитникам начать защищать критически важные системы до того, как модели с аналогичными возможностями станут широко доступны».
Другие бизнес-лидеры забили тревогу по поводу рисков кибербезопасности, связанных с мощными моделями искусственного интеллекта. Даймон в своем ежегодном письме акционерам изложил риски кибербезопасности, с которыми сталкиваются крупные отрасли и корпорации из-за ИИ, заявив, что кибербезопасность «остается одним из наших самых больших рисков». Он добавил: «ИИ почти наверняка усугубит этот риск».
В рамках проекта Glasswing JPMorgan стремится снизить киберриски, возникающие из-за быстро развивающихся возможностей искусственного интеллекта. «Поощрение кибербезопасности и устойчивости финансовой системы является основой миссии JPMorgan Chase, и мы считаем, что отрасль становится сильнее, когда ведущие учреждения работают вместе над общими проблемами», — заявил в своем заявлении Пэт Опет, директор по информационной безопасности JPMorgan.
«Проект Glasswing предлагает уникальную возможность на ранней стадии оценить инструменты искусственного интеллекта следующего поколения для защитной кибербезопасности в критической инфраструктуре как на наших собственных условиях, так и вместе с уважаемыми технологическими лидерами», — добавил он.
