В пятницу, всего через несколько часов после публичной поддержки конкурента Anthropic в его стойкости перед лицом требований Пентагона, генеральный директор OpenAI Сэм Альтман объявил, что его компания достигла собственного соглашения с Министерством обороны. Этот шаг был предпринят вскоре после того, как правительство США предприняло весьма необычный шаг, включив Anthropic в список «рисков цепочки поставок».
Решение OpenAI вызвало критику со стороны многих исследователей искусственного интеллекта и экспертов по технологической политике, хотя OpenAI заявила, что добилась ограничений в своей сделке по слежке за гражданами США и смертоносным автономным оружием, которые Anthropic хотела включить в свой контракт, но которые Пентагон отклонил.
Одним из ключевых пунктов разногласий была массовая слежка внутри страны. Эксперты уже давно предупреждают, что продвинутый ИИ способен собирать разрозненные, индивидуально безобидные данные (например, местоположение человека, его финансы, историю поиска) и собирать их в полную картину жизни любого человека автоматически и в большом масштабе. Генеральный директор Anthropic Дарио Амодей заявил, что этот тип массовой слежки с помощью ИИ представляет серьезные и новые риски для «фундаментальных свобод» людей и что «закон еще не догнал возможности быстро растущего ИИ».
Но хотя OpenAI сообщила в своем блоге, что достигла соглашения с Пентагоном о том, что ее технология не будет использоваться для массового внутреннего наблюдения или прямых автономных систем вооружения (двух строгих ограничений, от которых Anthropic отказалась отказаться), некоторые юридические и политические эксперты подняли вопросы о возможном пробеле в законе.
Часть спора вращается вокруг неясной законности крупномасштабного анализа данных американцев, который является законным в соответствии с действующими законами США, даже если он кажется неотличимым от массовой слежки.
«В настоящее время, согласно законодательству США, государственным органам разрешено приобретать коммерческую информацию у брокеров данных и других третьих лиц», — сказал Самир Джайн, вице-президент по политике Центра демократии и технологий. «Если вы покупаете огромные объемы данных и позволяете ИИ анализировать их, вы, по сути, можете в конечном итоге участвовать в массовой слежке за американцами с помощью этого процесса. В настоящее время это не ограничено и не запрещено законом».
OpenAI заявляет, что ее «красные линии» применяются к техническим системам, которые она планирует построить, а также к формулировкам ее контракта с Пентагоном. Согласно блогу, опубликованному компанией, контракт позволяет Министерству обороны использовать ИИ «для всех законных целей, в соответствии с действующим законодательством, оперативными требованиями и устоявшимися протоколами безопасности и надзора», при этом прямо запрещая неограниченный мониторинг частной информации американцев.
Проблема в том, что то, что считается «законным», может измениться. Контракт OpenAI нацелен на существующие законы и политику Министерства обороны, но эта политика может измениться в будущем. «Ничто из того, что они опубликовали, не помешает изменению этой политики в будущем», — сказал Джайн.
Некоторые критики утверждают, что существующие разведывательные органы уже допускают формы наблюдения, которые, по утверждению OpenAI, запрещаются. Майк Масник, основатель блога Techdirt, написал в социальных сетях, что сделка «абсолютно допускает внутреннюю слежку», указав на Указ 12333, давний орган, который позволяет спецслужбам собирать сообщения за пределами Соединенных Штатов, которые могут включать в себя данные американцев, если они получены случайно.
Часть дебатов сосредоточена на конкретных частях законодательства США, которые регулируют различные виды деятельности в области национальной безопасности. Действия вооруженных сил США обычно регулируются Разделом 10 Федерального кодекса США. Сюда входит работа, проделанная Разведывательным управлением Министерства обороны и Киберкомандованием США по поддержке военных операций. Но некоторая работа DIA подпадает под другую часть закона США, раздел 50 Кодекса США, который обычно регулирует сбор разведывательной информации и тайные действия. Работа Центрального разведывательного управления и Агентства национальной безопасности, как правило, также подпадает под Раздел 50. Некоторые из наиболее деликатных действий, предусмотренных Разделом 50, особенно тайные действия, происходят в основном за кулисами и требуют президентского решения.
В сообщении в блоге, опубликованном на выходных, OpenAI поделилась подробным описанием своей сделки с Пентагоном, и, согласно сообщению в социальных сетях известного исследователя OpenAI Ноама Брауна, глава компании по вопросам партнерства в области национальной безопасности Катрина Маллиган сообщила Брауну, что контракт OpenAI не распространяется на работу разведывательного сообщества по Разделу 50, что является основной причиной беспокойства критиков. Представители OpenAI не сразу ответили на запрос Fortune о комментариях.
Но ученые-юристы отмечают, что различие между деятельностью, предусмотренной Разделом 10 и Разделом 50, становится все более размытым. На практике оба могут оказаться очень похожими, и оба могут включать анализ данных об иностранных субъектах или отслеживание закономерностей. Но это совпадение создает серую зону для таких компаний, как OpenAI: контракт, запрещающий работу по Разделу 50, не запрещает автоматически агентствам Раздела 10, таким как DIA, использовать ИИ для анализа коммерчески доступных или несекретных наборов данных.
«Если они заявят, что их система не может использоваться для какой-либо деятельности, предусмотренной Разделом 50, это сужает сферу деятельности, для которой можно использовать систему ИИ», — сказал Джайн. «Но это не решает проблему».
