Кто должен контролировать ИИ? Являются ли корпорации, выпускающие мощные технологии, вершителями ее судьбы? Или эта власть должна находиться в руках правительства?
Палмер Лаки, основатель оборонной компании Anduril, целью которой является модернизация вооруженных сил США, считает, что ответ прост: отдать власть правительству. В недавнем интервью New York Post основатель-миллиардер высказался по поводу растущих дебатов о том, кто определяет, как правительство использует ИИ.
Для миллиардера решение о конкретном использовании должно приниматься правительством и, следовательно, народом. В противном случае технологические компании могут поставить под угрозу демократию.
«Мы должны оставаться в позиции, согласно которой это находится в руках народа», – сказал он. «Любой, кто говорит, что оборонная компания должна выходить за рамки закона, за рамки того, что говорят законодатели и избранные лидеры в отношении того, с кем они будут или не будут работать, на самом деле говорит, что они не верят в этот демократический эксперимент, что они хотят «корпоратократии».
«В любом случае, любой, кого правительство США говорит мне, что я могу и не могу продать, — продолжил он, — занимать любую другую должность — значит еще дальше падать в… по сути, руководителей корпораций, которые де-факто контролируют внешнюю политику США».
Мысли Лаки возникли после того, как генеральный директор Anthropic Дарио Амодей отказался разрешить Пентагону полностью использовать системы искусственного интеллекта компании для массового наблюдения или для питания полностью автономного оружия, которое работает без присмотра человека. В результате Министерство обороны назвало компанию, занимающуюся искусственным интеллектом, «рискующей в цепочке поставок» — обозначение, которое обычно присваивается иностранным компаниям-конкурентам, таким как китайская компания Huawei. Амодей заявил, что лейбл не окажет большого влияния на бизнес компании, и что он подаст иск об отзыве этого обозначения. Несмотря на это, он продолжает вести переговоры с Пентагоном об использовании своих моделей и инструментов искусственного интеллекта.
Но Амодей вместе с другими соучредителями Anthropic, которые вместе покинули OpenAI, чтобы создать компанию, которая, по их словам, уделяет приоритетное внимание безопасности ИИ, утверждают, что требования Пентагона пересекают черту. «Эти угрозы не меняют нашей позиции: мы не можем с чистой совестью удовлетворить вашу просьбу», — заявил Амодей в пресс-релизе на прошлой неделе.
Anthropic не сразу ответил на просьбу Fortune о комментариях.
Кремниевая долина против Вашингтона
Министерство обороны (и такие фигуры, как Лаки) не верят, что частный подрядчик может диктовать варианты использования, и вместо этого утверждают, что это находится в компетенции правительства. Вскоре после того, как в прошлом месяце сделка с Anthropic развалилась, компания OpenAI Сэма Альтмана заключила соглашение с Пентагоном, разрешающее использование моделей и инструментов искусственного интеллекта стартапа. Компания xAI Илона Маска также заключила сделку, позволяющую Пентагону использовать ее искусственный интеллект, что добавило конкуренции некогда эксклюзивному партнерству Anthropic.
Anthropic — не первая технологическая компания, выступившая против Министерства обороны. Как отмечает Лаки в интервью, Google ушла из Пентагона в 2018 году и вышла из проекта Maven, который включал анализ изображений дронов с помощью ИИ, после того как тысячи сотрудников протестовали против его участия в программе из-за опасений, что это может привести к созданию автономного оружия.
«У нас был бы мир, в котором руководители Кремниевой долины имели бы больше власти во внешней политике, чем президент Соединенных Штатов», — сказал Лаки. «Это действительно очень опасно».
Для Лаки все сводится к тому, принимаются ли решения на высоком уровне об использовании ИИ в Кремниевой долине или в Вашингтоне. По его мнению, независимо от того, кто находится в Белом доме, технологические компании и частный сектор в целом несут ответственность за соблюдение внешнеполитических решений этой администрации.
Но даже несмотря на то, что конфликт Антропо-Пентагона накаляется, Амодей заявил в пресс-релизе в четверг, что обе стороны могут найти точки соприкосновения. «У Anthropic гораздо больше общего с военным министерством, чем различий», — сказал он.
