Грока, чат-бота Илона Маска с искусственным интеллектом, обвинили в создании без согласия сексуализированных изображений реальных людей, включая детей. За прошедшую неделю
Изображения, сделанные без согласия, заставили некоторых женщин почувствовать себя оскорбленными. Между тем, его создание с помощью Grok и присутствие в X могут привести компанию Маска к серьезным юридическим проблемам в ряде стран мира.
Эшли Сент-Клер, консервативный политический обозреватель, влиятельный человек в социальных сетях и мать одного из детей Маска (Маск усомнился в его отцовстве), сказала, что в последние дни она стала жертвой «раздеваний» Грока. Fortune рассмотрел несколько примеров изображений, созданных в X, включая поддельные изображения Сент-Клера.
«Когда я увидел (изображения), я немедленно отреагировал, отметил Грока и сказал ему, что не одобряю это», — сказал Сент-Клер Fortune в интервью в понедельник. «(Грок) заявил, что я не даю согласия на создание этих изображений… а затем продолжил создавать изображения, и они только стали более явными».
«Там были фотографии, на которых я ничем не прикрыта, кроме куска зубной нити на фоне рюкзака моего малыша, и мои фотографии, на которых кажется, что я вообще не ношу топ», — сказала она. «Я чувствовала себя очень расстроенной и оскорбленной. Я также чувствовала себя очень злой, потому что были и другие женщины и дети, с которыми это происходило».
Сент-Клер рассказала Fortune, что после публичного выступления о ситуации с ней связались многие другие женщины, у которых был подобный опыт, что она просмотрела неприемлемые изображения несовершеннолетних, созданные Гроком, и что она рассматривает возможность судебного иска по поводу этих изображений.
Представители X не сразу ответили на просьбу Fortune о комментариях. В сообщении на X Маск сказал: «Любой, кто использует Grok для создания нелегального контента, пострадает от тех же последствий, как если бы он загружал незаконный контент».
Официальный аккаунт X в разделе «Безопасность» сообщил в субботу, что «Мы принимаем меры против незаконного контента на
Регуляторы начали расследование
Изображения, сгенерированные ИИ, и изображения, измененные ИИ, которые получили широкое распространение и их легко создавать благодаря новым инструментам от таких компаний, как XAI, OpenAI и Google, вызывают обеспокоенность по поводу дезинформации, конфиденциальности, преследования и других видов злоупотреблений.
Хотя в Соединенных Штатах в настоящее время нет федерального закона, регулирующего ИИ (и недавний указ президента Трампа направлен на ограничение законов штатов и местных органов власти), спорное использование или неправильное использование технологии может заставить законодателей действовать. Ситуация также может подвергнуть проверке существующие законы, такие как раздел 230 Закона о порядочности в сфере коммуникаций, который защищает онлайн-провайдеров от ответственности за контент, созданный пользователями.
Риана Пфефферкорн, исследователь политики в Стэнфордском институте человеко-ориентированного искусственного интеллекта, сказала, что юридическая ответственность в отношении изображений, созданных ИИ, все еще неясна, но, вероятно, в ближайшем будущем будет проверена в суде.
«Между цифровой платформой и набором инструментов есть разница», — сказал он Fortune. «Как правило, (платформы) обладают иммунитетом от действий своих пользователей в Интернете. Но мы находимся в этой развивающейся области, где у нас еще нет судебных решений о том, является ли результат генеративного ИИ просто речью третьих лиц, за которую платформа не может нести ответственность, или это речь самой платформы, и в этом случае иммунитета нет».
«У нас сложилась ситуация, когда впервые сама платформа генерирует без согласия порнографию как взрослых, так и несовершеннолетних в больших масштабах», — сказал Пфефферкорн. «С точки зрения ответственности, а также с точки зрения связей с общественностью, законы CSAM представляют здесь наибольший потенциальный риск ответственности».
Тем временем регуляторы в других странах начали реагировать на недавнюю волну сексуализированных изображений ИИ. В Соединенном Королевстве Ofcom, независимый регулирующий орган страны в сфере связи, заявил, что установил «срочный контакт» с xAI в связи с опасениями, что Грок может создавать «изображения обнаженных людей и сексуализированные изображения детей».
В заявлении регулятора говорится, что он проведет «быструю оценку, чтобы определить, существуют ли потенциальные проблемы с соблюдением требований, требующие расследования» на основе ответа X и xAI о шагах, предпринятых для выполнения своих юридических обязательств по защите пользователей в Великобритании. В соответствии с Законом Великобритании о безопасности в Интернете технологические компании должны предотвращать распространение такого типа контента и должны быстро его удалять.
Два французских законодателя также подали заявления об изображениях, сделанных без согласия, и прокурор Парижа подтвердил, что эти инциденты были добавлены к существующему расследованию в отношении X.
Министерство информационных технологий Индии отдельно распорядилось, чтобы регулятор связи Малайзии также начал расследование дипфейков, связанных с Гроком, и предупредило X, что ему могут грозить принудительные меры, если он не сможет остановить неправомерное использование инструментов искусственного интеллекта на платформе для создания непристойных или оскорбительных изображений.
«Сообщение, которое он посылает, вызывает весьма беспокойство»
Генри Эйдер, британский эксперт по дипфейкам, заявил, что, хотя компании Маска, возможно, и не создают изображения напрямую, Платформа X все равно может нести ответственность за распространение неприемлемых изображений несовершеннолетних.
«Если будут предоставлены инструменты или материалы о сексуальном насилии над детьми (CSAM), то, скорее всего, вступит в силу законодательство, не адаптированное к этому конкретному средству причинения вреда», – сказал он. «В Великобритании мы запретили публикацию интимных изображений, созданных искусственным интеллектом без согласия, и теперь занимаемся созданием наборов инструментов. Я думаю, мы увидим, что другие страны последуют этому примеру».
Частично причина, по которой эти изображения были созданы и широко распространены, связана с недавним слиянием xAI и растущей интеграцией с платформой социальных сетей X Маска. xAI обучил свои модели, используя данные, полученные из X, где Grok теперь занимает видное место.
«Грок встроен в платформу, которой Маск хочет стать, это суперприложение: его платформа для искусственного интеллекта, социальных сетей и, возможно, платежей. Если вы считаете это опорной точкой, операционной системой своей жизни, вы не сможете избежать этого», — сказал Адждер. «Если эти возможности известны и остаются непроверенными даже после того, как об этом было так ясно заявлено, отправленное сообщение будет весьма тревожным».
xAI — не единственная компания, у которой сексуализированные изображения ИИ вызывают обеспокоенность. Meta удалила десятки сексуализированных изображений знаменитостей, опубликованных на ее платформе и созданных с помощью инструментов искусственного интеллекта в прошлом году, а в октябре генеральный директор OpenAI Сэм Альтман заявил, что компания ослабит ограничения на «эротический» искусственный интеллект для взрослых, подчеркнув при этом, что это ограничит вредный контент.
Адждер сказал, что xAI поддерживает свою репутацию компании, расширяющей границы приемлемого контента ИИ. Он сказал, что в то время как другие традиционные модели искусственного интеллекта требуют от пользователей «весьма изобретательности и хитрости» для создания рискованного контента, Грок решил быть «более смелым».
С момента своего создания Grok позиционировал себя как «бессонную» альтернативу обычным чат-ботам с искусственным интеллектом, в первую очередь ChatGPT от OpenAI. В июле прошлого года компания xAI запустила «кокетливого» чат-бота-компаньона по имени Ани в рамках новой функции «Спутники» своего чат-бота Grok, который был доступен для пользователей до 12 лет.
«Женщин исключают из общественного диалога»
Женщины, столкнувшиеся в Интернете с откровенными изображениями себя, созданными Гроком, говорят, что чувствовали себя оскорбленными и бесчеловечными.
Журналистка Саманта Смит, обнаружившая, что пользователи создали фальшивые изображения ее в бикини на X, рассказала BBC, что из-за этого она чувствует себя «дегуманизированной и сведенной к сексуальному стереотипу».
В сообщении на
Чарли Смит, журналист из Великобритании, также нашел в Интернете ее фотографии в бикини, сделанные без ее согласия.
«Я не была уверена, стоит ли публиковать это, но кто-то попросил Грока опубликовать мою фотографию в бикиниZ, и Грок ответил фотографией», — написала она в посте на
Сент-Клер рассказала Fortune, что считает X «самой опасной компанией в мире на данный момент» и обвинила компанию в том, что она угрожает способности женщин безопасно существовать в Интернете.
«Большую тревогу вызывает то, что из-за подобных злоупотреблений женщин исключают из общественного диалога», – сказала она. «Когда вы исключаете женщин из общественного диалога… потому что они не могут участвовать в нем, не подвергаясь насилию, вы непропорционально исключаете женщин из ИИ».
