Джозеф Стиглиц говорит, что ИИ не только изменит работу и рынки, но и незаметно испортит информацию, от которой зависят эти системы. В то время как большие языковые модели (LLM) отсеивают наши язвительные комментарии на Reddit и наши громкие маргинальные голоса на экстремистских форумах, нобелевский лауреат предупреждает о мире, в котором все кажется более управляемым данными, но лежащие в основе данные все больше становятся «мусором».
«Я думаю, что в случае с ИИ есть несколько более глубоких проблем», — сказал экономист журналу Fortune. «У нас есть проблема не только на рынке труда… но есть и другая сторона того, что я бы назвал информационными внешними эффектами», которые Стиглиц описывает просто как «мусор на входе и мусор на выходе» (GIGO).
Риск заключается не только в потере рабочих мест; Это разорванная петля обратной связи между истиной и системами, которые мы используем для интерпретации реальности: от рынков прогнозов до финансовых моделей и политических дебатов. По сути, интеллект ИИ настолько же умен, насколько и информация, которую он получает, и когда он продолжает собирать неточную информацию, выходные данные становятся такими же искаженными, как и информация, которую он поглощает.
По их мнению, нынешние модели основаны на ошибочном соглашении: они жадно подавляют журналистику, исследования и онлайн-дискуссии, одновременно подрывая те самые институты, которые в первую очередь производят высококачественные знания. Результатом, как он опасается, является мир, в котором люди увлекаются онлайн-риторикой, которую, по их мнению, увековечивает ИИ (вспомните рыночный кризис, вызванный статьей Citrini Research, раскручивающей «Фантомный ВВП», или вирусным апокалиптическим эссе Мэтта Шумера об ИИ), а не миром, основанным на реальной реальности.
ИИ «крадет информацию» из необходимых ему источников
Тем не менее, сказал Стиглиц, у ИИ нет ни интереса, ни способности производить качественную новую информацию. «И в результате всего этого существует реальный риск ухудшения общей информационной экосистемы».
Если лучшие источники информации постепенно перестанут финансироваться, а более дешевые формы (такие как ветки комментариев, партизанские мемы и контент, не требующий усилий) будут разрастаться, данные обучения будут смещаться в сторону того, что является наиболее многочисленным и наименее дорогим, а это означает, что чат-боты в подавляющем большинстве будут извергать то, что они берут с онлайн-форумов.
Это первый способ, которым жажда ИИ к тому, что есть в Интернете, может иметь неприятные последствия: каннибализация бизнес-моделей, поддерживающих серьезную работу, и изменение состава того, что существует, чтобы в первую очередь отказаться от него.
Ввоз мусора и вывоз мусора в промышленных масштабах
Стиглиц, который ссылается на информационную экосистему в своей книге 2024 года «Дорога к свободе: экономика и хорошее общество», ссылается на клише GIGO. «Если вы перерабатываете и выбрасываете мусор, в конечном итоге вы получаете только мусор: мусор на входе, мусор на выходе, GIGO».
Возможно, эта фраза устарела, но Стиглиц говорит, что она по-прежнему весьма актуальна. Системы искусственного интеллекта отлично обрабатывают все, что мы им даём, но они не так хорошо умеют отличать знания от шума. «Существует реальный риск того, что, несмотря на потенциал новых технологий для улучшения информационной экосистемы в критически важных областях… мы можем оказаться в худшем положении», – сказал он. Чем больше мусора (непроверенных утверждений, заговоров, астро-кампаний, некачественных комментариев), тем больше отшлифованного мусора выходит наружу.
Он опасается, что пользователи спутают это с правдой. «Они будут думать, что получили тщательно обработанную информацию, не осознавая до конца, в какой степени все, что они делали, — это переработка мусора», — сказал он. «Обработка мусора искусственным интеллектом не может заменить одну хорошую исследовательскую работу».
Когда противники вакцинации превосходят ученых
Нигде этот риск не проявляется так явно, как в самых отдаленных уголках Интернета, где экстремистские взгляды часто звучат наиболее громко. Подумайте о своей стереотипной доске объявлений сообщества по определенной теме. Благодаря анонимности Интернета пользователи могут свободно выражать свое мнение о последних политических решениях или культурных событиях. В результате эти уголки являются областями, где дезинформация наиболее распространена, а наука, опровергающая эту информацию, практически не упоминается. «Вакцины — прекрасный пример», — говорит Стиглиц.
«Противники вакцинации гораздо более активны в Интернете, чем люди, которые говорят, что вакцины работают», — сказал он. Ученые проводят испытания, публикуют несколько объемных статей и двигаются дальше. Теоретики заговора каждый день наводняют форумы и социальные платформы.
«Поэтому может быть гораздо больше статей против нее, чем одна критическая статья, в которой говорится: «Вот доказательства вакцины, и она работает… Вот ее эффективность», — объяснил Стиглиц. «Есть ли сегодня у ИИ возможность сказать, что предмет — это все, что нам нужно? Они этого не делают».
Для моделей, обученных на чистой частоте и вовлеченности, выигрывают самые громкие голоса. Жажда ИИ к дополнительной информации может исказить реальность, вытесняя страстное меньшинство над осторожным большинством, особенно в тех областях, где общественное благо зависит от доверия к медленной, методичной науке.
Прогноз рынка, основанный на недостатке информации.
В статье 1980 года, написанной совместно с Сэнфордом Гроссманом, Стиглиц утверждал, что в основе эффективных рынков лежит парадокс: если цены полностью отражают всю доступную информацию, то ни у кого нет стимула платить за сбор этой информации, поэтому та же самая информация, которая делает рынки «эффективными», исчезает.
Он говорит, что современные рынки искусственного интеллекта и прогнозирования повторяют эту историю в большем масштабе. «Интересно, что вы упомянули Гроссмана-Стиглица, — сказал он Fortune, — потому что я написал статью с одним из моих аспирантов Максом Вентурой, распространяя Гроссмана-Стиглица на искусственный интеллект, и результат, который я описал ранее о том, как мы можем ухудшить информационную экосистему, на самом деле был ссылкой на это расширение».
Когда «компании, занимающиеся искусственным интеллектом, которые добывают данные из Fortune и всех других производителей средств массовой информации», не вынуждены платить за то, что они берут, «они не получают выгоды, и, следовательно, стимулы для проведения качественных фундаментальных исследований, ведущих к хорошей информационной экосистеме, ослабевают». Рынки прогнозов и торговые алгоритмы затем полагаются на результаты этих моделей, еще больше отделяя свои ставки от любых лежащих в их основе реальных инвестиций.
«Это подорвало стимулы к производству высококачественной информации, увеличив возможности производить информацию низкого качества и, следовательно, больше мусора ввозится и, следовательно, больше мусора выбрасывается», – сказал он. Система, предназначенная для добавления знаний, в конечном итоге усиливает то, что является самым дешевым и распространенным.
ИИ как аксессуар, а не оракул
Несмотря на все это, Стиглиц не считает, что ответом будет запрет или игнорирование ИИ. Он использует его сам и пытается научить своих учеников делать то же самое, не путая остроумный ответ с веским аргументом.
«Мы пытаемся научить их использовать ИИ в качестве исследовательского инструмента», — сказал он. «Итак, вы знаете, мы не отходим от ИИ. Я использую ИИ как часть своих исследований. Так что это потрясающий исследовательский инструмент, но он не заменяет мышление и анализ.
«Это может помочь вам найти источники и развить идеи», — добавил он. «Но, в конце концов, вам придется проделать тяжелую работу». По его мнению, результаты модели — это «действительная поддержка, позволяющая начать думать о вещах, может быть, немного по-другому», а не приговоры, которые следует принять без изменений.
Тем не менее, он считает, что необходимо какое-то вмешательство на правительственном уровне, чтобы предотвратить ухудшение информации. «В отсутствие государственного регулирования, — предупредил он, — существует, по крайней мере, значительный риск того, что мы в конечном итоге получим худшую информационную экосистему в ряде проблемных областей».
