ИИ «кажется людям-математикам гораздо хуже, чем слово люди», — лаконично сказал Питер Тиль в 2024 году. Он, вероятно, не ожидал, что всего два года спустя соучредитель его Palantir, генеральный директор Алекс Карп, будет использовать явно витиеватый язык для описания людей, которых он считает глупыми.
«Если Кремниевая долина думает, что мы собираемся лишить всех рабочих мест… и вы собираетесь напортачить с военными, если вы не думаете, что это приведет к национализации наших технологий, вы отстаете», — сказал Карп, выступая на a16z American Dynamism Summit. «Возможно, вы особенно отсталы, потому что ваш IQ равен 160».
Карп комментировал тему, которая охватила мир искусственного интеллекта: в каком качестве компании, занимающиеся искусственным интеллектом, должны сотрудничать с правительством? Более пристальный взгляд объясняет, почему спор между Пентагоном и двумя совершенно разными компаниями (Anthropic и OpenAI) вызвал недовольство Карпа.
Кэтрин Бойл, генеральный партнер a16z, модерировала секционное заседание под названием «ИИ в защите Запада».
На что Карп отметил: «Если Кремниевая долина думает, что мы собираемся отнять у всех рабочие места белых воротничков (т. е. в основном у людей-демократов, с которыми вы могли бы вырасти, высокообразованных людей, которые ходили в элитные школы или которые ходили в школы, которые являются почти элитными для одной партии), и вы собираетесь подать в суд на военных. Если вы не думаете, что это приведет к национализации наших технологий, вы отстали от времени».
Ой. Так что же беспокоит г-на Карпа?
Почему это влияет на Palantir
Хотя Карп мог бы выбрать менее оскорбительные выражения, чтобы изложить свою точку зрения, он затронул деликатный вопрос, который глубоко личный для Палантира. «Невозможно иметь технологии, которые одновременно отнимают у всех рабочие места», — сказал он, и тогда это будет восприниматься как обман военных. Эта напряженность не является абстрактной для Palantir. Это вполне может стать настоящим операционным кризисом.
Такие компании, как Anthropic, OpenAI, Google и xAI, подписали контракты с Министерством обороны, каждый из которых содержит ограничения на использование их технологий в средах, которые могут нарушить их условия обслуживания. Министерство обороны ведет переговоры с компаниями, занимающимися искусственным интеллектом, с целью снять эти ограничения и вместо этого разрешить использование их технологий «для всех законных целей». Карп не терпит компаний, которые рассматривают эту просьбу как моральную красную линию:
«Между американской армией и полицией существует разница», — сказал он на саммите. «Несмотря на то, что все думают, Palantir — это компания, занимающаяся слежкой», — сказал он, отвергая утверждения о том, что компания, названная в честь всевидящего устройства наблюдения из «Властелина колец», в основном занимается слежкой. Каждый технический эксперт знает, что это так, но пресловутый «онлайн-человек» просто имеет неправильное представление, утверждает Карп, «поэтому я ввязываюсь во все разговоры, в которых не хочу участвовать».
Генеральный директор Anthropic Дарио Амодей, как известно, заявил, что не может «с чистой совестью» поддержать пункт о «всех законных целях». Затем, пригрозив Anthropic угрозой того, что его сочтут риском для военной цепочки поставок, правительство подписало соглашение с OpenAI на использование ее инструментов в секретных миссиях. (Сообщается, что Anthropic снова ведет переговоры с Пентагоном, и Пентагон подтвердил, что Клод Опус Anthropic сыграл ключевую роль в подготовке к историческому американо-израильскому военному нападению на Иран.)
Для Палантира такая последовательность событий не является абстракцией: это прямая оперативная угроза. Флагманская платформа искусственного интеллекта (AIP) Palantir построена на объединении лучших в своем классе пограничных моделей с вашими рабочими процессами обороны и разведки. Claude Opus — одна из самых способных моделей, которую ценят за глубину рассуждений и надежность в условиях повышенного риска. Если Anthropic будет внесен в черный список как представляющий угрозу для военной цепочки поставок или если условия обслуживания фактически исключат его из секретной среды, в которой работает Palantir, Palantir потеряет доступ к одному из своих самых мощных механизмов искусственного интеллекта. В середине контракта компания будет вынуждена реструктурировать свою платформу вокруг альтернативных моделей, что является дорогостоящим и вредным для репутации нарушением для компании, чей бренд обещает критически важную надежность.
«Опять же, за кулисами есть много тонкостей», — признал Карп. «Я был очень вовлечен в эту тонкость: что можно реализовать, где это можно реализовать».
Более широкая экономическая картина
То, что поставлено на карту, утверждает Карп, выходит далеко за рамки какого-либо конкретного контракта Пентагона или политического решения любой компании. «Опасность для нашей отрасли, — предупредил он, — состоит в том, что существует знаменитый эффект подковы, когда люди согласны только с одним, а именно: не платить по счетам, и людей в нашей отрасли следует национализировать».
По мнению Карпа, такая популистская конвергенция, при которой и левые, и правые обращаются к технологиям, станет неизбежной, если компании, занимающиеся искусственным интеллектом, лишат «белых воротничков» средств к существованию, отказываясь при этом служить в армии. Он снова указал на то, кто эти рабочие: «В основном это люди демократического толка, с которыми вы, возможно, выросли: высокообразованные люди, которые ходили в элитные школы или ходили в школы, которые почти элитны, для одной партии».
Эти опасения уже материализуются в экономическом масштабе, что придает актуальность аргументам Карпа. Эксперты предупреждают о надвигающемся сценарии конца света в области ИИ, в котором дни белых воротничков сочтены, и это дестабилизирующая сила, которая оставит большинство сотрудников без работы. Это не просто идеи, вызывающие панику; Они имеют реальные последствия, такие как вирусное исследование Citrini Research, которое спровоцировало массовые потрясения на рынке.
По мнению Карпа, правительство не позволит компаниям, занимающимся искусственным интеллектом, накопить уже имеющуюся у них власть и продолжать работать в качестве неправительственного, саморегулируемого надзора, а тем более диктовать условия использования самому правительству. «Вот куда ведет дорога», — просто сказал он. Единственный способ для таких компаний, как Palantir, сохранить свое положение, свои контракты и доступ к передовым моделям искусственного интеллекта, лежащим в основе их платформ, — это следовать государственным правилам, когда их об этом просят. Для Палантира потеря места за столом означает не только плохую оптику. Это означает потерю технологических ресурсов, которые заставляют ваш основной продукт работать.
Это был бы драматический поворот для компании, которая достигла того, что Карп всего месяц назад назвал «одним из поистине знаковых показателей в истории корпоративных и технологических показателей» в последнем квартальном отчете Palantir.
