Компания xAI Илона Маска ограничила возможности своего чат-бота Grok AI по созданию изображений только платными подписчиками после широко распространенного осуждения его использования для создания без согласия сексуализированных изображений реальных женщин и детей.
«Создание и редактирование изображений в настоящее время доступны только платным подписчикам», — объявил Грок через X в пятницу. Ограничение означает, что подавляющее большинство пользователей больше не смогут получить доступ к этой функции. Проверенные и платящие подписчики, у которых есть данные кредитной карты, по-прежнему могут это сделать, но теоретически их легче идентифицировать, если эта функция используется не по назначению.
Однако эксперты, регулирующие органы и жертвы говорят, что новые ограничения не являются решением широко распространенной проблемы.
«Аргумент о том, что предоставление данных пользователя и способов оплаты поможет идентифицировать преступников, также неубедителен, учитывая, насколько легко предоставлять ложную информацию и использовать временные способы оплаты», — сказал Fortune Генри Эйдер, британский эксперт по дипфейкам. «Логика здесь также реактивная: предполагается, что она помогает идентифицировать нарушителей после создания контента, но она не представляет собой какого-либо существенного согласования или ограничения самой модели».
В заявлениях, опубликованных BBC, правительство Великобритании назвало эту меру «оскорбительной» для жертв. Представитель премьер-министра Великобритании заявил журналистам в пятницу, что это изменение «просто превращает функцию искусственного интеллекта, позволяющую создавать незаконные изображения, в услугу премиум-класса».
«Пришло время
Представитель X заявил, что они «расследуют» новые ограничения. xAI ответил автоматическим сообщением: «Legacy Media Lies».
За прошедшую неделю реальные женщины подверглись массовым нападениям, и пользователи манипулировали фотографиями, чтобы снять с них одежду, поместить субъектов в бикини или разместить их в сценах откровенно сексуального характера без их согласия. Некоторые жертвы сообщили, что чувствуют себя оскорбленными и обеспокоенными этой тенденцией, причем многие заявили, что их сообщения X остались без ответа, а изображения остались размещенными на платформе.
Исследователи заявили, что масштаб, в котором Грок создавал и делился изображениями, был беспрецедентным, поскольку, в отличие от других роботов с искусственным интеллектом, у Грока, по сути, есть система доставки, встроенная в платформу X.
Один исследователь, чей анализ был опубликован агентством Bloomberg, подсчитал, что за последнюю неделю X стал самым плодовитым сайтом для дипфейков. Женевьева О, исследователь социальных сетей и дипфейков, которая проводила 24-часовой анализ изображений, размещенных аккаунтом @Grok на X, обнаружила, что чат-бот создает около 6700 изображений сексуального или нудистского характера в час. Для сравнения, на пяти других ведущих сексуализированных дипфейковых сайтах за тот же период в среднем появлялось 79 новых изображений раздевания ИИ в час. Исследование Оха также показало, что контент сексуального характера доминировал в продукции Грока, составляя 85% всех изображений, созданных чат-ботом.
Эшли Сент-Клер, консервативный комментатор и мать одного из детей Маска, была среди тех, кого затронули эти изображения. Сент-Клер рассказала Fortune, что пользователи конвертировали изображения из ее профиля X в откровенные фотографии, созданные с помощью искусственного интеллекта, в том числе те, на которых, по ее словам, она была несовершеннолетней. Выступив против изображений и выразив обеспокоенность по поводу дипфейков, касающихся несовершеннолетних, Сент-Клер также заявил, что X удалил свой статус подтвержденного платящего подписчика, не уведомив его и не вернув ему 8 долларов в месяц.
«Ограничение только платных пользователей показывает, что они собираются удвоить усилия, возлагая на жертв неоправданное бремя сообщать властям, а власти использовать свои ресурсы для отслеживания этих людей», — сказала Эшли Сент-Клер о недавних ограничениях. «Это еще и вымогательство денег».
Сент-Клер рассказала Fortune, что многие из адресованных ей учетных записей уже были проверенными пользователями: «Это совершенно неэффективно», — сказала она. «Это всего лишь предварительный обзор дальнейшего полицейского расследования изображений Грока».
Регулирующее давление
Решение ограничить возможности Грока происходит на фоне растущего давления со стороны регулирующих органов по всему миру. Премьер-министр Великобритании Кейр Стармер заявил, что готов полностью запретить платформу, назвав ее контент «позорным» и «отвратительным». Регуляторы Индии, Малайзии и Франции также начали расследования.
В четверг Европейская комиссия распорядилась
Эксперты говорят, что новые ограничения могут не удовлетворить обеспокоенность регулирующих органов: «Этот подход представляет собой грубый инструмент, который не затрагивает корень проблемы с составом Грока и, вероятно, будет недостаточным для регулирующих органов», — сказал Адждер. «Ограничение функциональности платными пользователями не остановит создание этого контента; месячная подписка не является надежным решением».
В Соединенных Штатах ситуация также, вероятно, станет проверкой существующих законов, таких как раздел 230 Закона о порядочности в сфере коммуникаций, который защищает онлайн-провайдеров от ответственности за контент, созданный пользователями. Сенаторы США Рон Уайден, Эдвард Дж. Марки и Бен Рэй Лухан выступили с заявлением, в котором призвали Apple и Google «немедленно удалить Apps X и Grok из своих магазинов приложений» после предполагаемого использования Grok для создания «без согласия сексуализированных изображений женщин и детей в больших масштабах». Законодатели назвали изображения «тревожными и, вероятно, незаконными» и заявили, что приложения не должны быть доступны, пока Маск не решит проблему.
Совет по американо-исламским отношениям (CAIR) также призвал запретить Гроку создавать «откровенно сексуальные изображения детей и женщин, в том числе известных мусульманок».
Риана Пфефферкорн из Стэнфордского института человеко-ориентированного искусственного интеллекта ранее рассказала Fortune, что ответственность за изображения, генерируемые ИИ, неясна. «У нас сложилась ситуация, когда впервые сама платформа генерирует без согласия порнографию как взрослых, так и несовершеннолетних в больших масштабах», — сказал он. «С точки зрения ответственности, а также с точки зрения связей с общественностью, законы CSAM представляют здесь наибольший потенциальный риск ответственности».
Маск ранее заявлял, что «любой, кто использует Grok для создания нелегального контента, пострадает от тех же последствий, как если бы он загружал незаконный контент». Однако пока неясно, как счета будут привлекаться к ответственности.
Эта история первоначально появилась на Fortune.com.
