Будьте осторожны при общении с чат-ботами, так как вы можете дать им повод помочь совершить умышленное убийство.
21-летняя женщина из Южной Кореи предположительно использовала ChatGPT, чтобы спланировать серию убийств, в результате которых погибли двое мужчин.
Женщина, известная только по фамилии Ким, предположительно дала двум мужчинам напитки с добавлением бензодиазепинов, которые были прописаны ей для лечения психического заболевания, сообщает Korea Herald.
Хотя первоначально Ким была арестована по менее серьезному обвинению в нанесении телесных повреждений, приведших к смерти 11 февраля, сеульская полиция Канбукка обнаружила ее историю онлайн-поиска и разговоры в чате с ChatGPT, доказав, что она намеревалась убить.
«Что будет, если принять снотворное с алкоголем?» Сообщается, что Ким задал этот вопрос чат-боту OpenAI. «Какая сумма будет считаться опасной?
«Может ли это быть фатальным?» Ким якобы спросил. «Могу ли я убить кого-нибудь?»
В широко разрекламированном деле под названием «Серийные убийства в мотеле Гангбук» прокуроры утверждают, что в ходе обыска Кима и истории чат-бота подозреваемый просит совета, как совершить преднамеренное убийство.
«Ким неоднократно задавала вопросы, связанные с наркотиками, в ChatGPT. Она прекрасно осознавала, что употребление алкоголя вместе с наркотиками может привести к смерти», — сообщил следователь полиции, сообщает Herald.
Полиция сообщила, что женщина призналась, что подмешивала рецептурные успокоительные средства, содержащие бензодиазепины, в мужские напитки, но ранее заявляла, что не знала, что это приведет к ее смерти.
28 января, незадолго до 21:30, Ким якобы сопровождал мужчину лет двадцати с небольшим в мотель «Гангбук» в Сеуле, а два часа спустя его видели выходящим из мотеля в одиночестве. На следующий день мужчину нашли мертвым в постели.
Затем Ким якобы проделал те же действия 9 февраля, поселившись в другом мотеле с другим мужчиной лет двадцати, который также был найден мертвым от того же смертельного коктейля из успокоительных средств и алкоголя.
Полиция утверждает, что Ким также пыталась убить мужчину, с которым встречалась в декабре, после того, как на парковке дала ему напиток с добавлением успокоительного. Хотя мужчина потерял сознание, он выжил и его жизни ничего не угрожало.
OpenAI не ответила на запросы о комментариях.
Чат-боты и их влияние на психическое здоровье
Чат-боты, такие как ChatGPT, в последнее время оказались под пристальным вниманием из-за отсутствия в их компаниях барьеров безопасности для предотвращения актов насилия или членовредительства. Недавно чат-боты давали советы о том, как создавать бомбы или даже участвовать в сценариях полного выпадения ядерных осадков.
Обеспокоенность особенно вызывают истории о людях, которые влюбляются в своих собеседников-чат-ботов, а собеседники-чат-боты, как было показано, используют уязвимости, чтобы люди дольше их использовали. Создатель Yara AI даже закрыл приложение для терапии из-за проблем с психическим здоровьем.
Недавние исследования также показали, что чат-боты вызывают рост бредовых кризисов психического здоровья у людей с психическими заболеваниями. Команда психиатров Орхусского университета в Дании обнаружила, что использование чат-ботов среди людей, страдающих психическими заболеваниями, приводит к ухудшению симптомов. Относительно новый феномен проблем психического здоровья, вызванных ИИ, получил название «психоз ИИ».
Некоторые случаи заканчиваются летальным исходом. Google и Character.AI урегулировали многочисленные иски, поданные семьями детей, которые умерли в результате самоубийства или получили психологический вред, который, по их утверждениям, был связан с чат-ботами с искусственным интеллектом.
Доктор Джоди Халперн, председатель Школы общественного здравоохранения Калифорнийского университета в Беркли и профессор биоэтики, а также содиректор Центра этики, науки и общественности Кавли, имеет обширный опыт в этой области. За свою карьеру, охватывающую столько же, сколько и получение ученой степени, Халперн провела 30 лет, исследуя влияние эмпатии на получателей, приводя такие примеры, как врачи и медсестры с пациентами или то, как солдаты, вернувшиеся с войны, воспринимаются в социальной среде. Последние семь лет Халперн изучал этику технологий и, вместе с тем, то, как ИИ и чат-боты взаимодействуют с людьми.
Он также консультировал Сенат Калифорнии по SB 243, первому закону в стране, который требует от компаний-чат-ботов собирать и сообщать любые данные о членовредительствах или связанных с ними суицидальных действиях. Ссылаясь на собственные данные OpenAI, показывающие, что 1,2 миллиона пользователей открыто обсуждают самоубийство чат-ботов, Халперн сравнил использование чат-ботов с кропотливо медленным прогрессом, достигнутым в предотвращении включения табачной промышленностью вредных канцерогенов в сигареты, хотя на самом деле проблема заключалась в курении в целом.
«Нам нужен безопасный бизнес. Это как сигареты. Может оказаться, что были некоторые вещи, которые делали людей более уязвимыми к раку легких, но сигареты были проблемой», — сказал Халперн журналу Fortune.
«Тот факт, что у кого-то могут возникнуть мысли об убийстве или совершить опасные действия, может усугубляться использованием ChatGPT, что, очевидно, меня беспокоит», — сказал он, добавив, что «у нас есть огромный риск того, что люди будут использовать его в качестве средства помощи при самоубийстве» и чат-ботов в целом.
Халперн предупредил, что в деле Кима в Сеуле нет никаких барьеров безопасности, мешающих человеку продолжить допрос.
«Мы знаем, что чем дольше отношения с чат-ботом, тем больше они ухудшаются и тем выше риск возникновения чего-то опасного, поэтому у нас пока нет ограждений, которые могли бы защитить людей от этого».
Если у вас возникают мысли о самоубийстве, позвоните на линию помощи 988 Suicide & Crisis Lifeline, позвонив по номеру 988 или 1-800-273-8255.
