Сканирование лица в Instagram, селфи-видео в TikTok, пароль по отпечатку пальца на YouTube и загрузка удостоверения личности в Facebook. Еще не время, но сбор наших биометрических данных для публикации ИИ-мема станет нормой, поскольку крупные социальные сети переживают момент «большого табака».
Цифровой ландшафт переживает огромные потрясения на фоне судебных исков по поводу зависимости от социальных сетей и ожесточенной нормативной борьбы за проверку возраста. Поскольку платформы социальных сетей сталкиваются с исторической юридической расплатой за «ответную реакцию на дофамин» и вызывающий привыкание выбор дизайна, который вредит детям, возник фундаментальный технический и этический кризис. Такие страны, как Австралия, вводят запреты в социальных сетях для людей младше 16 лет, а Meta в настоящее время находится под судом по обвинениям в намеренном создании вызывающей привыкание среды для детей на своих платформах.
В погоне за проверкой возраста пользователя (основные инструменты, которые компании используют для борьбы с детской зависимостью) эти платформы социальных сетей выявили парадокс, широко известный как «ловушка проверки возраста». Просто пытаясь навязать своим пользователям правила проверки возраста, эти компании подрывают конфиденциальность данных тех же пользователей.
Big Social переживает момент большого табака
Такие компании, как Meta и TikTok, сталкиваются с судебными исками на федеральном уровне и уровне штатов, которые сравнивают их платформы и бизнес-модели с платформами и бизнес-моделями табачных и опиоидных рынков, утверждая, что компании напрямую и намеренно манипулируют тем, как платформы созданы для содействия развитию зависимости у пользователей. Генеральный директор Meta Марк Цукерберг недавно заявил, что научные исследования не доказали связь между социальными сетями и вредом для психического здоровья, но эксперты утверждают обратное, заявляя, что зависимость от социальных сетей обусловлена теми же инженерными алгоритмами, которые предназначены для удержания пользователя в сети.
«Эти компании не придерживаются определенных стандартов», которые не позволяют детям получать доступ к их платформам, и эти компании «выигрывают, имея детей на своей платформе. Больше людей, больше рекламы», — сказала доктор Дебра Боелдт, клинический психолог и ученый в области искусственного интеллекта в семейной компании социальных сетей Aura. Боелдт, возглавляющий клинические исследования в компании Aura, которая использует искусственный интеллект для мониторинга онлайн-привычек детей и обеспечения безопасности конфиденциальности взрослых, говорит, что дети особенно восприимчивы к нынешнему дизайну социальных сетей, поскольку их исполнительные функции и контроль над импульсами все еще развиваются.
Для детей платформы социальных сетей — это не просто приложения, но и основной источник социальных связей. Их исследования показывают, что каждый пятый ребенок в возрасте 13 лет и младше проводит в социальных сетях четыре часа или более в день, что приводит к более высокому уровню стресса, тревоги и депрессии. Дети умны, сказал Боелдт, и поэтому, если им запретят доступ к платформе, это будет игра «ударь крота», в которой они просто переходят от одной платформы к другой.
«Дети очень умны, и поэтому у них все хорошо», — сказал Боелдт журналу Fortune. «Они знают, как гармонировать».
Поскольку компании, занимающиеся социальными сетями, стремятся удалить несовершеннолетних пользователей со своих платформ или заручиться помощью искусственного интеллекта для поиска подвергнутого цензуре контента, компании будут изо всех сил пытаться гарантировать, что они смогут точно заблокировать доступ для лиц младше определенного возраста (Болдт даже упомянул такие платформы, как Instagram и TikTok, которые отслеживают язык и то, как дети уже нашли лазейки, используя «PDF» или «неживые» файлы и создавая новый словарный запас, который делает эти цензоры бесполезными — в конце концов, дети умны).
Тем не менее, предупредил он, негативный эффект еще хуже, поскольку из социальной сети исключаются не все, а лишь несколько пользователей. Если платформам социальных сетей с трудом удается заблокировать несовершеннолетних пользователей, но одновременно закрыть доступ немногим избранным, создается «эффект острова», при котором, если запрет не является универсальным, ребенок, исключенный из социальных сетей, оказывается в изоляции, в то время как его или ее друзья продолжают общаться в Интернете.
Регулирование едва поспевает за использованием.
Забудьте о текущих судебных процессах, которые служат лакмусовой бумажкой для правил дизайна социальных сетей: нынешнее регулирование едва поспевает за тем, как дети используют социальные сети, а инструменты, которые используют компании социальных сетей, не обеспечивают безопасность конфиденциальности пользователей. В последние месяцы платформы, использующие стороннее программное обеспечение для проверки, столкнулись с тем, что их пользовательские данные были взломаны и раскрыты, им пришлось объявить об этом и отказаться от цензуры на базе искусственного интеллекта, а также бороться с плохим общественным мнением со стороны все более недовольной базы пользователей.
Однако это не решает парадоксальную проблему адекватного сбора данных о детях и пользователях без нарушения прав пользователей на неприкосновенность частной жизни. Проблема усугубляется, когда вы начинаете исследовать пользователей этих платформ.
«Люди сейчас составляют меньшинство в Интернете; мы наблюдаем рост трафика между роботами и людьми в 50 раз по сравнению с прошлым годом», — сказал Джонни Айерс, генеральный директор Socure, компании, занимающейся разработкой программного обеспечения для проверки личности на основе искусственного интеллекта. Айерс сообщил Fortune, что благодаря ботам использование дипфейков выросло почти на 8000% по сравнению с прошлым годом, что сделало большую часть программного обеспечения для проверки на рынке бесполезным. Вместо этого одна из цифровых проверок, которую использует его компания, включает использование подвеса каждого мобильного телефона, чтобы увидеть, действительно ли человек держит телефон в руках, когда он проходит проверку личности.
Эвин МакМаллен, чья компания Billions Network используется для борьбы с отмыванием денег и использует методы «Знай своего клиента», говорит, что сбор биометрических данных — это для платформ способ подтвердить вашу личность, потому что вы не можете изменить то, что они говорят о вас.
«Это звучит немного дерзко, но идея о том, что вы не можете вращать большие пальцы, означает, что вы не можете легко изменить свой пароль или управлять безопасностью таким же образом», — сказал Макмаллен журналу Fortune. «Личные данные, основанные на биометрии, действительно стараются отдать приоритет простоте использования и безопасности наиболее важных данных», — сказал он, добавив, что текущая модель менеджера паролей «неустойчива и больше не безопасна».
Но возникают проблемы с детьми и конфиденциальностью, и к этому снова необходимо вернуться в свете постановления Федеральной торговой комиссии по COPPA.
«Вы не можете получить биометрические данные от ребенка», — сказал Айерс журналу Fortune. «Итак, как же проверить, что кому-то 13 лет, не проверив и не собирая ничего, что ему 13 лет?»
Инструменты больше не нужны
Один из способов сделать это — собрать доказательства с нулевым разглашением (ZKP), которые определяют сторону для проверки правдивости заявления и, следовательно, личности этого человека. Макмаллен, чьи клиенты в финансовой отрасли ищут неинвазивные средства проверки личности, является основным сторонником ZKP, добавляя, что они особенно полезны для установления доверия между сторонами.
ZKP — это метод, который позволяет лицу, желающему пройти верификацию, отвечать на заявления таким образом, чтобы вызвать доверие к проверяющей стороне, не раскрывая личную или секретную информацию. Возьмем, к примеру, задачу 4+4=8. Это то, что человек, желающий пройти проверку, знает, что это правда, но метод ZKP основан на доверии. Вместо того, чтобы задавать 4+4=8, проверяющий задает ряд вопросов, чтобы определить, говорит ли человек, которого вы хотите проверить, правду (или, в данном случае, знает, что это правда). Верификатор может спросить: 4+4=7; является суммой 4+4 четного числа и так далее, а после серии вопросов можно определить правдивость утверждений человека, таким образом идентифицируя их.
Это не распространенный метод подтверждения личности. До сих пор компании, занимающиеся социальными сетями, использовали ряд технологий для проверки возраста людей, в том числе с использованием проверки личности, например, просят пользователей загрузить удостоверения личности, выданные правительством; использовать ИИ для сканирования лица пользователя; отслеживать активность пользователя для определения возраста человека; и добавление инструментов родительского мониторинга, таких как Instagram, который представил «Подростковые учетные записи», чтобы предупреждать родителей о любых вредных онлайн-привычках.
Суть проблемы заключается в том, что практически не существует инструмента, который мог бы проверить возраст пользователя, не нарушая при этом его конфиденциальность. Любая точная модель требует чрезвычайно инвазивных мер, таких как биометрия или государственные удостоверения личности, а удостоверения личности — это то, о чем не решаются просить даже компании, занимающиеся социальными сетями, из-за разрыва в удостоверениях личности, из-за которого 15 миллионов американцев не имеют каких-либо документов, удостоверяющих личность, — проблема, которая непропорционально затрагивает чернокожих и латиноамериканцев, иммигрантов и людей с ограниченными возможностями.
Использование ИИ для сканирования лиц людей мало что дает для решения проблемы, поскольку эксперты обнаружили, что эти модели ИИ менее точны для групп меньшинств и часто ошибочно классифицируют взрослых как несовершеннолетних, в то время как сам ИИ не способен отличить синтетический или фальшивый голос от реального человека. Дети, которые опять-таки умны, также часто обходят любые географические запреты, используя VPN, как, например, во Флориде, когда использование VPN выросло на 1150% после того, как штат запретил Pornhub. Менее важно то, что существуют значительные риски безопасности, связанные с хранением документов, удостоверяющих личность, например, недавнее взлом стороннего поставщика 5CA Discord, в результате которого в Интернете оказалось более 70 000 правительственных удостоверений личности.
В конечном счете, «ловушка проверки возраста» — это то, что происходит, когда регулирующие органы рассматривают обеспечение возраста как обязательный и определяют конфиденциальность как необязательный статус. Пока такие методы, как ZKP или проверка на основе устройства, предупреждают эти эксперты, не станут нормой, цифровая эпоха будет продолжаться в кроличьей норе, пытаясь доказать личность человека, не нарушая его права на неприкосновенность частной жизни.
