Согласно судебным документам, Google и Character.AI договорились урегулировать многочисленные иски, поданные семьями, чьи дети покончили жизнь самоубийством или получили психологический вред, предположительно связанный с чат-ботами AI, размещенными на платформе Character.AI. Обе компании согласились на «принципиальное соглашение», но никаких конкретных подробностей не разглашается, и в документах не фигурирует признание ответственности.
Юридические претензии включали халатность, смерть в результате противоправных действий, обманную торговую практику и ответственность за качество продукции. Первое дело, возбужденное против технологических компаний, касалось 14-летнего мальчика Сьюэлла Сетцера III, который перед тем, как покончить жизнь самоубийством, вел сексуальные разговоры с чат-ботом «Игры престолов». Другой случай касался 17-летнего подростка, чей чат-бот якобы поощрял членовредительство и предположил, что убийство его родителей было разумным способом отомстить им за ограничение времени перед экраном. В делах участвуют семьи из нескольких штатов, включая Колорадо, Техас и Нью-Йорк.
Компания Character.AI, основанная в 2021 году бывшими инженерами Google Ноамом Шазиром и Дэниелом Де Фрейтасом, позволяет пользователям создавать чат-ботов на базе искусственного интеллекта, основанных на вымышленных или реальных персонажах, и взаимодействовать с ними. В августе 2024 года Google повторно наняла обоих основателей и лицензировала некоторые технологии Character.AI в рамках сделки на сумму 2,7 миллиарда долларов. Сейчас Шазир является содиректором флагманской модели искусственного интеллекта Gemini от Google, а де Фрейтас — научный сотрудник Google DeepMind.
Юристы утверждают, что Google несет ответственность за технологии, которые предположительно способствовали гибели и психологическому вреду детей, участвующих в этих делах. Они утверждают, что соучредители Character.AI разработали базовую технологию во время работы над моделью диалогового искусственного интеллекта LaMDA от Google, прежде чем покинуть компанию в 2021 году после того, как Google отказался выпустить разработанного ими чат-бота.
Google не сразу ответил на запрос Fortune о комментариях по поводу сделки. Адвокаты семей и персонаж.AI отказались от комментариев.
Аналогичные дела в настоящее время ведутся против OpenAI, в том числе иски против 16-летнего калифорнийского мальчика, семья которого утверждает, что ChatGPT действовал как «тренер по самоубийству», и 23-летнего аспиранта из Техаса, которого чат-бот якобы побудил игнорировать свою семью, прежде чем он умер от самоубийства. OpenAI отрицает, что продукты компании были ответственны за смерть 16-летнего Адама Рейна, и ранее заявляла, что компания продолжает работать со специалистами в области психического здоровья над усилением защиты своего чат-бота.
Персонаж.AI банит несовершеннолетних
Персонаж.AI уже модифицировал свой продукт таким образом, чтобы, по его словам, повысить его безопасность, а также защитить от будущих судебных исков. В октябре 2025 года на фоне растущих судебных исков компания объявила, что запретит пользователям младше 18 лет участвовать в «открытых» чатах с ее ИИ-персонажами. Платформа также представила новую систему проверки возраста, позволяющую группировать пользователей в соответствующие возрастные группы.
Решение было принято на фоне усиления контроля со стороны регулирующих органов, включая расследование Федеральной торговой комиссии о том, как чат-боты влияют на детей и подростков.
Компания заявила, что этот шаг создает «прецедент, который отдает приоритет безопасности подростков» и идет дальше, чем ее конкуренты, в защите несовершеннолетних. Однако юристы, представляющие семьи, подавшие иск против компании, тогда сообщили Fortune, что они обеспокоены тем, как будет реализована эта политика, и выразили обеспокоенность по поводу психологических последствий внезапного прекращения доступа к молодым пользователям, у которых развилась эмоциональная зависимость от чат-ботов.
Растущая зависимость от коллег по искусственному интеллекту
Сделки заключаются в то время, когда растет обеспокоенность по поводу того, что молодые люди полагаются на чат-ботов с искусственным интеллектом для общения и эмоциональной поддержки.
Исследование, проведенное американской некоммерческой организацией Common Sense Media в июле 2025 года, показало, что 72% американских подростков экспериментировали с ИИ-компаньонами, и более половины используют их регулярно. Ранее эксперты сообщили Fortune, что развивающиеся умы могут быть особенно уязвимы к рискам, создаваемым этими технологиями, как потому, что подросткам может быть трудно понять ограничения чат-ботов с искусственным интеллектом, так и потому, что в последние годы резко возросло количество проблем с психическим здоровьем и изоляции среди молодых людей.
Некоторые эксперты также утверждают, что основные конструктивные особенности чат-ботов с искусственным интеллектом (включая их антропоморфную природу, способность вести длинные разговоры и склонность запоминать личную информацию) побуждают пользователей формировать эмоциональную привязанность к программному обеспечению.
