Несанкционированный доступ группы Discord к мощной модели Mythos от Anthropic AI делает больше, чем просто поднимает вопросы о барьерах безопасности, окружающих мощные инструменты кибербезопасности искусственного интеллекта.
Это обнажает более серьезную проблему для индустрии кибербезопасности: ИИ теперь может находить недостатки и использовать их так быстро, что по-настоящему уязвимыми могут оказаться именно защитники.
Группа пользователей Discord, использующих искусственный интеллект, ищущих информацию, один из которых связан со сторонним поставщиком ИИ-стартапа, сумела получить доступ к тщательно охраняемой системе защиты от кибербезопасности в феврале, в тот же день, когда она дебютировала.
Благодаря сочетанию инсайдерского доступа, веб-поисковых ботов и некоторой изобретательности взлом вызвал новую волну тревоги в и без того напуганной отрасли.
По иронии судьбы, по мере того, как разворачивался инцидент с Discord, Cloud Security Alliance – в отчете быстрого реагирования, опубликованном через несколько дней после обнародования Mythos – предупредил, что ИИ ускоряет обнаружение уязвимостей быстрее, чем организации могут справиться, создавая идеальный шторм для защитников.
Обнаружив тысячи ошибок и нулевых дней в сотнях программных систем, внедрение Mythos эффективно сократило окно исправлений, на которое защитники полагались в течение многих лет, с дней до нескольких часов.
Если его выпустят и примут хакеры, перед командами безопасности неизбежно будет поставлена задача создать совершенно новый сценарий, который поможет решить, как расставить приоритеты и исправить то, что важно, и по-прежнему нет никакой гарантии, что они смогут остановить кибер-кровоизлияние.
Более 250 руководителей служб безопасности помогли подготовить брифинг, в котором утверждается, что задача состоит не только в обнаружении недостатков, но и в определении того, какие из них действительно представляют реальную угрозу, и их устранении до того, как они станут эксплуатационными уязвимостями.
Это изменение, которое, по мнению некоторых экспертов по безопасности, отрасль все еще недооценивает. Проблема больше не в открытии. Речь идет о восстановлении, ответственности и о том, смогут ли защитники идти в ногу с тем, как ИИ переходит от выявления уязвимостей к демонстрации того, как их можно использовать в реальном мире.
В конечном счете, момент Mythos может быть связан не столько с единой мощной моделью кибербезопасности, сколько с тем, что происходит в период сужения интервала между обнаружением уязвимости и ее использованием в качестве оружия.
Ответом Anthropic на данный момент является Project Glasswing, жестко контролируемая попытка использовать Mythos для защиты критически важного программного обеспечения до того, как сопоставимые модели станут более широко доступными.
Но даже это подчеркивает более серьезную проблему: индустрия знает, что произойдет, и все еще пытается вовремя создать столь необходимый план действий для защиты от более серьезных угроз, таких как атаки национальных государств или программы-вымогатели.
Если группа ИИ-ботаников смогла проникнуть в Мифос, предположительно, без злого умысла, представьте себе последствия, если следующими, кто войдет в эту дверь, станут настоящие преступники.
Мнения, выраженные в комментариях Fortune.com, являются исключительно точками зрения их авторов и не обязательно отражают мнения и убеждения Fortune.
