Когда Meta открыла свои умные очки Ray-Ban для предварительных заказов, она дала понять одну вещь: ваша конфиденциальность будет в безопасности. «Умные очки Ray-Ban Meta созданы с учетом конфиденциальности», — гласило тогдашнее заявление, опубликованное в сентябре 2023 года. Маркетинговые компании недвусмысленно говорили об их конфиденциальности, и в результате вы могли видеть людей, носящих их в городе, в рекламе Суперкубка или даже в суде по защите детей, проходившем на собственных платформах Meta. Сообщается, что агенты ICE даже носили их в полевых условиях.
Чего вы, возможно, не видели, так это того, что вы попали в перекрестие камеры очков. Теперь в новом исследовании (и вскоре последовал федеральный иск) утверждается, что компания еще менее прозрачна, чем эти толстые очки, утверждая, что компания молча перенаправляет изображения пользователей работникам за границей, а не своим моделям искусственного интеллекта. Эти сотрудники видели все: от обнаженных людей до конфиденциальных финансовых документов, и это благодаря пользователям, которые решили делиться данными в целях обучения ИИ.
«На некоторых видео можно увидеть, как кто-то идет в ванную или раздевается. Я не думаю, что они знают, потому что если бы они это знали, они бы не записывали», – сказал рабочий, который смотрел видео через свои очки.
В конце февраля шведские издания Svenska Dagbladet и Göteborgs-Posten опубликовали расследование процесса обучения ИИ Meta и обнаружили, что подрядчики Meta в Кении помогают обучать ИИ, который приводит в действие очки (состоящие из моделей Ray-Ban Meta Wayfarer (Gen 2), Ray-Ban Display и Oakley Meta HSTNs). То, что они увидели, было удивительным.
«Мы видим все: от гостиных до обнаженных тел», — цитируются в исследовании рабочие. «Meta имеет такой контент в своих базах данных».
Любой пользователь, который решает поделиться данными в целях обучения ИИ, фактически позволяет записывать и, как следствие, просматривать все части своей жизни либо ИИ, которых он должен обучать, либо людьми, стоящими за ним. Сюда входят изображения людей в ванных комнатах, раздевающихся, смотрящих порнографию и, по крайней мере, в одном задокументированном случае, пара очков, брошенных на тумбочке, на которых запечатлена пара, которая никогда не давала согласия на запись.
Субподрядчики Meta, которые были аннотаторами данных и научили ИИ интерпретировать изображения, вручную маркируя контент, также сообщили, что видели номера кредитных карт пользователей и финансовые документы. На момент публикации исследования Meta ответила через представителя, заявив: «Когда люди делятся контентом с Meta AI, как и другие компании, мы иногда привлекаем подрядчиков для проверки этих данных и улучшения опыта использования очков людьми, как указано в нашей политике конфиденциальности. Эти данные сначала фильтруются, чтобы защитить конфиденциальность людей».
Начинается коллективный иск
Сообщение послужило поводом для судебного иска. 4 марта истцы Джина Бартоне и Матео Кану подали коллективный иск против Meta Platforms Inc. (и американского производителя очков Luxottica), обвинив компанию в нарушении федеральных законов и законов штата, поскольку она не сообщила о том, что видео, снятые очками, передаются на ее серверы, а затем кенийскому субподрядчику для ручной маркировки. растущая обеспокоенность общественности по поводу их конфиденциальности и безопасности, и «в этом контексте» Meta выпустила очки с «обнадеживающим обещанием: очки «разработаны для конфиденциальности, контролируемой вами»».
Брайан Холл, юрист по вопросам конфиденциальности и искусственного интеллекта в Stubbs Alderton & Markiles, говорит, что разоблачения были настолько же предсказуемыми, насколько и тревожными. «Это ужасно. Это именно то, что мы все себе представляли», — сказал Холл журналу Fortune. «Я достаточно взрослый, чтобы помнить 10 или 12 лет назад, когда у Google были очки, и это вызывало беспокойство по поводу того, что люди ходили в них в ванную. Сейчас мы находимся в такой же ситуации».
(Когда Google представила свой прототип Google Glass в 2013 году, это вызвало яростную общественную реакцию по поводу слежки, согласия и смерти анонимности. Бары, рестораны, казино и стриптиз-клубы полностью запретили это устройство, а пользователей насмешливо прозвали «Стеклянными дырами».)
Холл говорит, что юридическая ответственность остается неясной, отчасти потому, что в собственных Условиях обслуживания Meta говорится, что аннотаторы данных «будут проверять ваше взаимодействие с ИИ, включая содержание ваших разговоров или сообщений с ИИ», и уточняется, что эта проверка «может быть автоматизированной или ручной». «Если бы мы внимательно прочитали их политику конфиденциальности, не было бы ничего явного, говорящего, что они этого не делают», — сказал Холл. «С точки зрения юридической ответственности, я не знаю, но это, безусловно, ответственность по связям с общественностью. Это одна из самых конфиденциальных информации и изображений».
Холл говорит, что его больше всего беспокоят не те, кто носит очки, а все остальные, попавшие в кадр. «Прохожие, люди, которых снимают на видео и опознают, подвергаются риску», – сказал он. «К сожалению, наши законы о конфиденциальности не предназначены для защиты этих людей. Они предназначены для защиты людей, которые носят очки, и их способности управлять своими собственными данными».
Ссылаясь на сообщения о мужчине, носившем очки в британском суде, чтобы помочь ему «научить» давать показания, Холл сказал, что риск значительно усугубляется, поскольку Мета, как сообщается, рассматривает возможность добавления к очкам системы распознавания лиц. «Это действительно отход от мира, в котором сегодня вы можете увидеть кого-то на улице, в зале суда, в баре, провести исследование в Facebook и Instagram и найти его. Но это происходит мгновенно. Это автоматически, без усилий. Вы можете сидеть в зале суда и опознавать свидетелей».
Холл говорит, что существующий закон просто не предназначен для того, что делают возможными очки Меты. «Я не знаю, действительно ли существующих законов достаточно, чтобы защитить нас от тех рисков, которые Meta и другие компании, занимающиеся социальными сетями, делают прямо сейчас», — сказал он. «Это похоже на введение законов о конфиденциальности, но они редко соблюдаются в чистом виде, и это полностью разрушает всю структуру, на которой они построены».
«Я не вижу, чтобы люди решали эту проблему каким-либо значимым образом», — сказал он, заявив, что нынешние правила носят разрозненный характер и не полностью решают проблемы конфиденциальности. По его словам, когда речь идет о конфиденциальности, «все остальное становится всего лишь фасадом».
Мета не ответила на запросы о комментариях.
