Более 200 групп по защите интересов детей и экспертов требуют, чтобы YouTube полностью запретил «мусор», созданный искусственным интеллектом, на своей детской платформе, утверждая, что низкокачественные, созданные с помощью алгоритмов видеоролики перенастраивают юные мозги и зарабатывают миллионы, в то время как родители и регулирующие органы смотрят в другую сторону.
Открытое письмо, организованное детской правозащитной группой Fairplay и адресованное генеральному директору YouTube Нилу Мохану и генеральному директору Google Сундару Пичаи, подписали более 135 организаций. Среди подписантов были Американская федерация учителей и Американская ассоциация консультантов, а также видные исследователи, такие как Джонатан Хайдт, автор книги «Тревожное поколение». Авторы письма утверждают, что YouTube не только не может предотвратить доступ ИИ к детям, но и активно на этом наживается.
«Видео, созданные с помощью искусственного интеллекта, на самом деле являются лишь обострением множества проблем, с которыми YouTube уже сталкивается, когда дело доходит до взаимодействия с детьми на своих платформах», — сказала Fortune Рэйчел Франц, директор программы Fairplay Young Children Thrive Offline. «Важно бороться с этим феноменом искусственного интеллекта, но не менее важно критиковать YouTube за то, как его платформа устроена так, чтобы побудить пользователей проводить больше времени способами, которые не обязательно связаны с искусственным интеллектом».
Что такое «замедление ИИ»?
Этот термин относится к волне массового производства видеороликов, созданных искусственным интеллектом, которые заполонили такие платформы, как YouTube. Контент дешев в создании, часто причудлив или бессмысленен, и предназначен для того, чтобы привлечь и удержать внимание юных зрителей (или, по сути, любого зрителя). Дорогой читатель, видео странные: мультяшные животные выполняют повторяющиеся задачи в эстетике жуткой долины; фейковые «обучающие» видеоролики с вводящей в заблуждение информацией; или гипнотические петли без какой-либо чистой цели. Газета New York Times задокументировала это явление в ходе февральского расследования и обнаружила подобные видеоролики, встроенные в YouTube Kids, платформу, которую YouTube позиционирует как безопасное и специально созданное пространство для детей.
«Большая часть контента, созданного ИИ, на самом деле предназначена для того, чтобы отвлечь внимание детей, особенно маленьких детей, которые только начинают развивать свой контроль над импульсами и могут действительно искажать реальность, создавать путаницу и влиять на то, как дети понимают мир вокруг них», — сказал Франц, имеющий опыт работы в области развития детей раннего возраста. «Это не проблема воспитания сама по себе. Платформа постоянно рекомендует юным пользователям контент с искусственным интеллектом такими способами, которых им практически невозможно избежать».
Финансовые стимулы потрясающие. Fairplay обнаружила, что ведущие каналы искусственного интеллекта, ориентированные на детей, заработали более 4,25 миллиона долларов годового дохода, при этом некоторые авторы открыто рекламируют доходы от «увлекательного, бессюжетного контента искусственного интеллекта». В письме утверждается, что никакая политика не будет достаточной, пока платформа не устранит финансовые стимулы для создателей этих видео.
«Только около 5% видео на YouTube для детей до 8 лет действительно высокого качества. И среди этих 5% идут споры о том, действительно ли они качественные», — сказал Франц. YouTube, однако, считает, что эта цифра противоречит его политике стандартов.
«У нас высокие стандарты к контенту YouTube Kids, включая ограничение контента, созданного искусственным интеллектом, в приложении небольшим набором высококачественных каналов», — заявил Fortune представитель YouTube Бут Буллвинкль. «Мы также даем родителям возможность блокировать каналы. На YouTube мы уделяем приоритетное внимание прозрачности, когда речь идет о контенте с искусственным интеллектом, маркируем контент из наших собственных инструментов искусственного интеллекта и требуем от авторов раскрывать реалистичный контент с искусственным интеллектом. Мы постоянно совершенствуем наш подход, чтобы оставаться в курсе событий по мере развития экосистемы».
как это решить
Коалиция опирается на исследования развития детей, чтобы доказать, что это не является особой проблемой. Даже у взрослых могут возникнуть проблемы с правильной идентификацией контента, созданного ИИ, и они делают это правильно только примерно в 50% случаев. Еще более тревожно то, что повторное воздействие заставляет людей с большей вероятностью воспринимать изображения ИИ как настоящие, даже после того, как им говорят, что они поддельные. Для маленьких детей, чей мозг все еще строит фундаментальные схемы реальности, ущерб со временем усугубляется.
Запросы Fairplay носят структурный, а не косметический характер. Коалиция призывает YouTube четко маркировать весь контент, созданный искусственным интеллектом, на платформе; полностью запретить контент, созданный искусственным интеллектом, на YouTube Kids; и запретить созданный искусственным интеллектом контент «сделанный для детей» на основной платформе YouTube. Fairplay хочет, чтобы YouTube запретил своему алгоритму рекомендовать контент AI пользователям младше 18 лет; ввести родительский переключатель для отключения AI-контента, который отключен по умолчанию; и прекратить все инвестиции в контент, созданный с помощью ИИ и предназначенный для детей.
Этот последний иск направлен непосредственно против инвестиций YouTube в Animaj, детскую развлекательную студию на базе искусственного интеллекта, поддерживаемую Google AI Futures Fund. «YouTube, по сути, инвестирует в причинение вреда детям, покупая Animaj», — сказал Франц.
В заявлении Буллвинкла для журнала Fortune представитель подтвердил, что YouTube разрабатывает специальные теги искусственного интеллекта для YouTube Kids, но не уточнил сроки. Генеральный директор YouTube Нил Мохан уже отметил «управление отходами с помощью ИИ» как один из своих главных приоритетов в своем ежегодном письме. «Чтобы уменьшить распространение некачественного контента с использованием ИИ, мы активно развиваем наши существующие системы, которые очень успешно борются со спамом и кликбейтом, а также сокращают распространение некачественного и повторяющегося контента», — говорится в письме.
Буллвинкл также отметил, что 15 каналов, упомянутых в статье Times, отсутствуют на YouTube Kids и что платформа удалила видео, нарушающие ее политику безопасности детей. Но для Франца этого недостаточно.
«Отдельные исследователи не должны указывать на некоторые каналы в качестве примеров, которые делают вещи, которые потенциально могут нанести вред детям, и это должно стать основой для того, что YouTube решает запустить платформу. На примере Elsagate мы увидели, что в то время YouTube удалил 150 000 видео со своей платформы и несколько сотен различных каналов», — сказал Франц. Он имел в виду скандал 2017 года, когда в тысячах видеороликов на YouTube и YouTube Kids использовались знакомые детские персонажи, такие как Эльза из «Холодного сердца» и «Свинка Пеппа», чтобы скрыть глубоко тревожный контент, включающий изображения насилия, сексуальные темы и употребление наркотиков, и все это было замаскировано с помощью удобных для алгоритмов тегов, таких как «образование» и «развлечение», чтобы обойти фильтры и охватить маленьких детей.
«Итак, мы знаем, что у YouTube есть возможность отслеживать, отслеживать и удалять эти видео в больших масштабах, но сейчас они применяют пластырь, когда каналы, которые получают освещение в прессе, похоже, что именно с ними собираются что-то делать», — продолжил Франц. «Но это не решает общей проблемы».
