Во вторник, 20 января, OpenAI выпустила тихое, но значительное улучшение безопасности в США. Это реализовано в форме системы прогнозирования возраста, предназначенной для определения того, когда пользователям ChatGPT может быть меньше 18 лет.
Система отражает растущую обеспокоенность политиков, родителей и педагогов по поводу злоупотребления генеративным искусственным интеллектом несовершеннолетними и отсутствия достаточных гарантий.
Безопасность подростков сегодня находится на переднем крае разговоров, особенно с учетом того, что генеративный искусственный интеллект используется для создания сексуализированных изображений и как средство стыда тела; Некоторые молодые люди также используют чат-ботов в качестве «друзей», из-за чего некоторые родители и опекуны утверждают, что OpenAI вреден для молодых людей.
Примечательно, что Австралия уже запретила детям до 16 лет пользоваться социальными сетями, а несколько штатов США ограничивают использование телефонов в школах.
В августе 2025 года Мэтт и Мария Рейн, родители 16-летнего мальчика, покончившего жизнь самоубийством, подали иск (предупреждение: в иске содержатся описания членовредительства) против OpenAI, утверждая, что ChatGPT помог их сыну Адаму изучить методы самоубийства и даже помог ему написать предсмертную записку.
OpenAI опровергла обвинения и обвинения в неправильном использовании возможностей ИИ, одновременно объявив об улучшении мер безопасности.
ChatGPT имеет более 700 миллионов активных пользователей в неделю.
Шаттерсток
Совсем недавно чат-бот Илона Маска Grok попал в новости после того, как сгенерировал 4,4 миллиона изображений. Из них он публично поделился примерно 1,8 миллионами сексуализированных изображений женщин, сообщает New York Times.
В серии улучшений, призванных сделать ChatGPT более безопасным для молодых пользователей, это весьма практично.
Согласно недавнему сообщению в блоге OpenAI, ChatGPT вместо того, чтобы полагаться исключительно на возраст, о котором сообщают сами пользователи, что часто является предметом разногласий для компаний, занимающихся социальными сетями, будет использовать поведенческие сигналы и сигналы на уровне учетной записи, такие как модели использования и типы взаимодействия, чтобы оценить, является ли пользователь несовершеннолетним.
Кроме того, он будет отслеживать время суток, когда пользователь активен в сети, а также сообщаемый возраст пользователя, чтобы определить возраст пользователя.
Что изменится для пользователей младше 18 лет?
Если ChatGPT обнаружит, что пользователю меньше 18 лет, он автоматически применит меры защиты для предотвращения воздействия вредного контента в соответствии со своими правилами безопасности для подростков.
Это включает в себя цензуру пользователей от доступа к следующему контенту:
Сексуальные, романтические или жестокие ролевые игры. Представления о членовредительстве. Контент, пропагандирующий крайние стандарты красоты, нездоровое питание или позор тела. Вирусный вызов, поощряющий рискованное поведение несовершеннолетних.
OpenAI выразила мнение по поводу введения протоколов безопасности для защиты несовершеннолетних. В сентябре 2025 года Сэм Альтман опубликовал «Безопасность, свободу и конфиденциальность подростков», где Альтман рассказал о системе прогнозирования возраста.
Еще акции технологических компаний:
Morgan Stanley устанавливает ошеломляющую целевую цену для Micron после события Проблема китайских чипов Nvidia – это не то, что думает большинство инвесторов Квантовые вычисления делают шаг в 110 миллионов долларов, которого никто не ожидалMorgan Stanley публикует неожиданную целевую цену для Broadcom Аналитик Apple устанавливает смелую цель по акциям на 2026 год
В рамках новых правил безопасности OpenAI также ввела родительский контроль для улучшения защиты и обеспечения тщательного наблюдения со стороны взрослых. Родители могут установить тихие часы, когда детям не разрешено использовать ChatGPT. Они также могут настроить работу обучения модели и получать оповещения, «если система обнаруживает признаки острого расстройства».
Для пользователей, которые по ошибке были отнесены к категории 18 лет и младше, есть простая возможность вернуть ее. ChatGPT использует Persona, безопасную стороннюю службу проверки личности, которая позволяет пользователям обновлять селфи и восстанавливать полный доступ.
В Европейском Союзе эта функция будет реализована в ближайшие недели в связи с нормативными требованиями.
Обновление безопасности появилось на фоне возобновившейся критики со стороны Илона Маска, который обвинил OpenAI в отказе от своей первоначальной миссии — оставаться исключительно некоммерческой организацией. Альтман открыто отверг эти аргументы как «отобранные» Маском.
OpenAI утверждает, что текущая структура и постоянные изменения в ее бизнес-модели необходимы для обеспечения баланса между доступом, безопасностью и масштабируемостью.
По теме: Послание Трампа в Давосе намекает на дорогостоящие изменения для потребителей
