Привет и добро пожаловать в журнал «Внимание к искусственному интеллекту»… В этом выпуске: Собирается ли Китай выиграть гонку искусственного интеллекта?… Риски, связанные с рассуждениями об искусственном интеллекте… Anthropic находится на пути к получению прибыли на несколько лет раньше, чем OpenAI… и радикальный сдвиг OpenAI в правительственную «опору».
Здравствуйте, здесь Беатрис Нолан, заменяющая Джереми Кана. Индустрия искусственного интеллекта в последнее время размышляет над ключевым вопросом: продвигает ли Китай гонку искусственного интеллекта?
Эту дискуссию начал генеральный директор Nvidia Дженсен Хуанг, который на прошлой неделе попал в заголовки газет после заявления, что «Китай выиграет гонку ИИ». Хуан сослался на цинизм Запада, экспортные ограничения и выгодную энергетическую ситуацию в Китае, отметив, что компаниям гораздо легче обеспечить поставки энергоносителей там. Позже Хуан опроверг комментарии в заявлении, опубликованном в аккаунте Nvidia X, пояснив, что Китай фактически «отстает от США на наносекунды в гонке ИИ».
Хуан, конечно, может быть заинтересован в том, чтобы говорить все это, но он не единственный, кто утверждает, что Китай может догнать усилия Америки в области искусственного интеллекта. На самом деле, есть некоторые причины полагать, что первоначальное заявление Хуана может быть обоснованным.
Энергетический вопрос
С одной стороны, если гонка ИИ по сути сводится к конкуренции за инфраструктуру, движущей силой которой является способность стран строить и обеспечивать питанием массивные, энергоемкие центры обработки данных, а не то, кто сможет добиться постепенного улучшения алгоритмов, Китай в настоящее время имеет значительное преимущество.
Страна продемонстрировала способность быстро и скоординировано реализовывать крупномасштабные проекты, отчасти благодаря очень активной роли правительства в экономике. И, как подчеркнул Хуан в своих комментариях на прошлой неделе, субсидирование электроэнергии и упрощение нормативных процессов существенно облегчают компаниям эксплуатацию энергоемких объектов искусственного интеллекта в Китае. Напротив, американские компании сталкиваются с фрагментированной нормативно-правовой средой и сравнительно более высокими затратами на электроэнергию, что может препятствовать быстрому масштабированию инфраструктуры искусственного интеллекта.
Эксперты уже давно предупреждают, что поставка электроэнергии, вероятно, станет следующим критическим узким местом для индустрии искусственного интеллекта, и что Пекин, похоже, находится в авангарде решения некоторых из этих критических энергетических проблем. Напротив, электросети во многих американских городах настолько перегружены, что некоторые компании предпочитают строить собственные электростанции, а не полагаться на существующую электрическую инфраструктуру.
Американские технологические компании все еще изучают альтернативные энергетические решения, но для реализации этих проектов могут потребоваться годы, если они вообще когда-либо будут реализованы. Энергетические ограничения затрагивают даже некоторых крупнейших игроков в сфере технологий; Например, Microsoft недавно сообщила, что у нее есть «в наличии» графические процессоры, поскольку она не может найти достаточно мощности для их использования.
Лидер открытого исходного кода
Существует также проблема открытого исходного кода. Согласно недавнему отчету a16z, Китай также официально превзошел США по количеству загрузок ИИ с открытым исходным кодом. A16z назвал это изменение «моментом графика черепа», то есть моментом, когда претендент не только закрывает то, что когда-то казалось непобедимым отставанием от действующего президента, но и начинает продвигаться вперед.
Анджей Мидха, генеральный партнер a16z, также недавно выступил с предупреждением о доминировании Китая в моделях с открытым исходным кодом, особенно в отношении таких стартапов, как DeepSeek и его модель R1; призвал американские компании инвестировать в передовое оборудование и работать над устранением разрыва в открытом исходном коде.
Китайские компании, такие как DeepSeek, также доказали, что они являются мастерами оптимизации процессов. Например, с помощью R1 компании DeepSeek компания продемонстрировала, что, хотя она не может изобрести первую версию чего-либо, она может производить это быстрее и дешевле, не жертвуя при этом производительностью.
Недавнее исследование Tencent и DeepSeek также показало, что Китай все чаще становится источником инноваций в области искусственного интеллекта. Например, модель CALM от Tencent продемонстрировала, что замена генерации токенов непрерывным векторным прогнозированием значительно повышает эффективность, в то время как новая модель с открытым исходным кодом DeepSeek сжимает текст в визуальные представления, позволяя системам искусственного интеллекта обрабатывать гораздо больше информации с меньшими затратами. Есть некоторые аргументы в пользу того, что эти методы, возможно, уже незаметно использовались западными лабораториями, такими как OpenAI или Anthropic, но они просто не были разглашены таким же образом.
У Китая уже в кармане гонка ИИ? Вероятно, еще нет. Но ее компании, занимающиеся искусственным интеллектом, безусловно, имеют хорошие возможности для того, чтобы сделать большую ставку.
УДАЧА В ИИ
Оператор центра обработки данных CoreWeave — любимец фондового рынка. «Медведи» рассматривают свои финансовые показатели как символ пузыря инфраструктуры искусственного интеллекта: Джереми Кан и Лео Шварц
Новое исследование показывает, что модели рассуждения ИИ, которые могут «думать», более уязвимы для джейлбрейк-атак — Беатрис Нолан
DBS запускает чат-бота Gen AI, поскольку крупнейший банк Юго-Восточной Азии внедряет искусственный интеллект в свой рабочий процесс — Анжелика Анг
ИИ не станет пузырем, пока все будут «вдумчивыми и дисциплинированными», говорит Брэд Смит и Джим Эдвардс из Microsoft
СЛЕДИМ ЗА НОВОСТЯМИ В ИИ СЛЕДИМ ЗА ИССЛЕДОВАНИЯМИ В ИИ
Усовершенствованные модели рассуждения ИИ более уязвимы для джейлбрейк-атак. Это может стать проблемой для компаний, занимающихся искусственным интеллектом. Новое исследование Anthropic, Оксфорда и Стэнфорда предполагает, что модели ИИ с расширенными возможностями рассуждения, в том числе GPT OpenAI, Claude от Anthropic, Gemini от Google и Grok от xAI, могут быть более восприимчивы к атакам, чем считалось ранее. Используя новый подход под названием «Перехват цепочки мыслей», исследователи обнаружили, что злоумышленники могут скрывать вредоносные команды за долгие шаги рассуждения, минуя встроенные меры безопасности, при этом в некоторых тестах уровень успеха превышает 80%. Исследование показало, что чем больше аргументирует модель, тем более уязвимой она становится для атак. Исследование опровергает предположение о том, что чем более продвинутой становится модель в рассуждениях, тем сильнее ее способность отвергать вредные команды. Исследователи предлагают «защиту, основанную на рассуждениях», которая отслеживает меры безопасности на каждом этапе рассуждения, восстанавливая меры безопасности и позволяя моделям ИИ эффективно решать сложные проблемы.
У ВАС ЕСТЬ КАЛЕНДАРЬ
26–27 ноября: Всемирный конгресс искусственного интеллекта, Лондон.
2–7 декабря: NeurIPS, Сан-Диего.
8-9 декабря: мозговой штурм Fortune AI в Сан-Франциско. Запрос на участие здесь.
ПИТАНИЕ ДЛЯ МОЗГА
Поддерживать или не поддерживать? OpenAI пришлось отказаться от некоторых комментариев на прошлой неделе после того, как финансовый директор компании Сара Фрайар предположила, что федеральное правительство могло бы «поддержать» (финансовой поддержкой или гарантиями для покрытия потенциальных убытков) долг, который компании, занимающиеся искусственным интеллектом, берут на себя при покупке чипов искусственного интеллекта. Это будет означать, что OpenAI также сможет получить выгоду от более низких процентных ставок и быстрее построить некоторые из обещанных центров обработки данных. Комментарии вызвали бурю эмоций и гнев царя ИИ Дэвида Сакса. Но не все подумали, что это настолько шокирующее предложение. Некоторые даже считали, что эта идея может иметь некоторые преимущества, если Соединенные Штаты действительно участвуют в гонке с высокими ставками с Китаем, который уже субсидирует энергию, необходимую для разработки собственного искусственного интеллекта. В любом случае, позже Фрайар отозвал комментарий через сообщение в LinkedIn. Генеральный директор Сэм Альтман в отдельном посте обнадежил критиков: «У нас нет и не нужны государственные гарантии для центров обработки данных OpenAI».
Мозговой штурм искусственного интеллекта Fortune возвращается в Сан-Франциско 8-9 декабря, чтобы собрать вместе самых умных людей, которых мы знаем — технологов, предпринимателей, руководителей Fortune Global 500, инвесторов, политиков и блестящие умы между ними — чтобы изучить и задать самые актуальные вопросы об ИИ в другое решающее время. Зарегистрируйтесь здесь.
