В 2023 году, когда Дарио Амодей собирал финансирование для раунда серии D компании на сумму 750 миллионов долларов, инвестор сидел с генеральным директором за ужином, когда он вспомнил, что пришел в ярость во время разговора о проблемах безопасности, связанных с искусственным интеллектом.
«Когда он говорил о рисках ИИ, он корчил себя», — говорит инвестор. «Его тело дернулось. Он действительно эмоционально показывал, насколько он напуган».
Это произвело впечатление на инвестора, который говорил на условиях анонимности, опасаясь последствий для своего бизнеса, и сказал, что, по его мнению, большие языковые модели никогда не добьются успеха, если они не заслуживают доверия.
Теперь твердая позиция Anthropic в отношении безопасности ИИ и приверженность ее инвесторов этой позиции подвергаются испытанию, как никогда раньше, поскольку компания находится в остром противостоянии с Министерством обороны США. Настаивая на том, что технология Claude AI отвечает определенным ограничениям при использовании военными, Anthropic вызвала гнев президента Дональда Трампа и военного министра Пита Хегсета, которые в ответ попытались подорвать бизнес Anthropic.
Для инвесторов Anthropic, которая недавно привлекла $30 млрд при оценке в $380 млрд и, как ожидается, вскоре проведет первичное публичное размещение акций, решение правительства обозначить Anthropic как «риск цепочки поставок» может иметь разрушительные последствия.
То, как эти инвесторы оказывают давление на Anthropic за кулисами (будь то настаивая на урегулировании или призывая его твердо стоять на своем), может определить исход противостояния. Fortune поговорила с шестью людьми, которые инвестировали в Anthropic, чтобы понять, как эта ключевая группа относится к ситуации, и обнаружила, что мнения не были едиными, несмотря на давнюю откровенность компании в отношении своих ценностей.
«Я разочарован тем, что вопросы, имеющие значение для национальной безопасности, выносятся на публичное обсуждение», — говорит Джей Ди Рассел, управляющий инвестиционной фирмой Alpha Funds и занимающий должность в Anthropic. Рассел заявил, что уважает позицию Anthropic в отношении массового наблюдения и автономного оружия, но отметил, что «нужно быть реалистом в том, что противники Америки реализуют эти возможности с гораздо меньшими ограничениями».
Жак Томе, управляющий партнер компании Amerocap, просто заявил, что «не согласен» с позицией компании.
Тем не менее, многие инвесторы Anthropic поддержали компанию в споре, особенно учитывая ее дисциплинированную позицию по некоторым из наиболее спорных вопросов в области искусственного интеллекта в настоящее время. В конце концов, сооснователи явно покинули OpenAI в 2021 году, чтобы разрабатывать мощные, но безопасные для человечества системы искусственного интеллекта. Многие из первых инвесторов Anthropic также связаны с сообществом эффективного альтруизма, областью исследований, сосредоточенной на том, как принести «наибольшую пользу», а компания имеет сильную базу инвесторов в Европе, которая, как правило, гораздо менее симпатизирует Министерству обороны США.
Один из этих инвесторов, Альберто Эмприн, инвестор, который управляет фирмой 3LB Seed Capital, ранее на этой неделе разместил свои взгляды и поддержку Anthropic на итальянском языке на Substack, отметив, что Амодей благодаря своей позиции стал «своего рода поборником этики в эпоху искусственного интеллекта».
«Аргументация Амодеи, на первый взгляд, безупречна: искусственный интеллект все еще несовершенен, он допускает ошибки, и идея о том, что из-за галлюцинации или предвзятости в обучении может быть убит «не тот человек», этически нетерпима», — написал Эмприн.
Среди инвесторов, с которыми разговаривал Fortune, некоторые инвестировали напрямую, другие делали это через специальные инструменты, а один из инвесторов недавно продал свою позицию на вторичном рынке. В конечном счете, голос крупнейших инвесторов перевесит голос примерно 270 других инвесторов в таблице капитализации Anthropic. По словам Семафора, среди крупнейших — Amazon, чей генеральный директор Энди Ясси недавно встретился с Хегсетом и отказался встать на сторону Anthropic, когда возник этот вопрос. По данным Reuters, в последние дни Ясси также встретился с представителем Anthropic Amodei, а Lightspeed и Iconiq обратились к другим инвесторам с просьбой изучить решение.
Насколько это может быть плохо?
Однако достичь консенсуса среди антропных инвесторов может оказаться непросто. Хотя не все инвесторы довольны жесткой позицией генерального директора Anthropic Дарио Амодеи, существуют также различные мнения о том, какой ущерб может нанести компании спор с Пентагоном. По данным Bloomberg, правительственный контракт США был небольшим: около 200 миллионов долларов, или около 1% годового дохода Anthropic.
Рассел, менеджер Alpha Funds, заявил, что не ожидает, что шаг Пентагона окажет на них «какое-либо реальное негативное влияние», поскольку «на самом деле это всего лишь контракт».
Однако в зависимости от того, как интерпретируется обозначение риска цепочки поставок (ожидается, что Anthropic будет бороться с ним в суде), это может привести к более серьезным последствиям, вынудив любую компанию, которая ведет дела с Министерством обороны, прекратить использование продуктов Anthropic. Другие федеральные агентства, в том числе Государственный департамент и Министерство финансов, также заявили, что больше не будут использовать Anthropic.
С другой стороны, некоторые инвесторы Anthropic говорят, что их воодушевляет рост доброй воли, которую компания заработала, твердо придерживаясь своих принципов. Патрик Хейбл, инвестор, управляющий фирмой 3 Comma Capital, сказал, что, по его мнению, весь этот вопрос будет «чистым позитивом» для компании. «Они потеряли контракты, но приобрели миллионы последователей», — сказал он. Но он добавил, что «даже если это было явно негативно, он (сделал) правильный поступок», – сказал он.
За несколько дней с тех пор, как Пентагон объявил о сделке с OpenAI вместо Anthropic, Anthropic стала самым загружаемым приложением в магазинах приложений Apple и Android. По данным компании, в понедельник у Anthropic было больше всего регистраций пользователей.
Как Амодей якобы сообщил сотрудникам в длинной внутренней записке, опубликованной Information, в которой критикуется Сэм Альтман из OpenAI и объясняются последствия с Министерством обороны, общественность считает Anthropic «героем».
