Глобальная конкуренция за доминирование в области искусственного интеллекта достигла апогея, но один из ведущих мировых ученых-компьютерщиков предупредил, что крупные технологии безрассудно играют с будущим человеческого рода.
Самые громкие голоса в сфере искусственного интеллекта часто делятся на два лагеря: тех, кто восхваляет технологию как меняющую мир, и тех, кто призывает к умеренности – или даже сдерживанию – прежде чем она станет неконтролируемой угрозой. Стюарт Рассел, новаторский исследователь искусственного интеллекта из Калифорнийского университета в Беркли, твердо принадлежит ко второй группе. Одна из их главных проблем заключается в том, что правительства и регулирующие органы изо всех сил пытаются идти в ногу с быстрым внедрением технологий, в результате чего частный сектор оказывается в ловушке гонки на дно, которая рискует превратиться в опасную конкуренцию, невиданную со времен разгара холодной войны.
«Для правительств, позволяющих частным предприятиям, по сути, играть в русскую рулетку с каждым человеком на планете, это, на мой взгляд, полное нарушение своих обязанностей», — заявил Рассел агентству Франс Пресс на саммите AI Impact в Нью-Дели, Индия.
По словам Рассела, в то время как руководители технологических компаний участвуют в «гонке вооружений» за разработку следующей, лучшей модели искусственного интеллекта, одна из целей, которую преследует отрасль, в конечном итоге ознаменует огромный прогресс в медицинских исследованиях и производительности, которые многие игнорируют или упускают из виду риски. В худшем случае, по его мнению, головокружительная скорость нерегулируемых инноваций может привести к вымиранию человечества.
Рассел должен осознавать экзистенциальные риски, лежащие в основе быстрого внедрения ИИ. Ученый-компьютерщик британского происхождения изучает ИИ более 40 лет и опубликовал один из самых авторитетных учебников по этой теме в 1995 году. В 2016 году он основал в Беркли исследовательский центр, занимающийся безопасностью ИИ, выступая за системы ИИ, «вероятно полезные» для человечества.
В Нью-Дели Рассел подчеркнул, насколько далеки компании и правительства от этой цели. Критика Рассела сосредоточилась на быстром развитии систем, которые в конечном итоге могут доминировать над своими создателями, оставляя человеческую цивилизацию «побочным ущербом в этом процессе».
Руководители крупных компаний, занимающихся искусственным интеллектом, осознают эти экзистенциальные опасности, но, тем не менее, они оказались в ловушке рыночных сил. «Я думаю, что каждый генеральный директор крупных компаний, занимающихся искусственным интеллектом, хочет распасться», — сказал Рассел, но они не могут сделать это «в одностороннем порядке», потому что их положение будет быстро узурпировано конкурентами, и они столкнутся с немедленным свержением со стороны своих инвесторов.
Новая холодная война
Разговоры о экзистенциальном риске и возможном вымирании человечества когда-то сводились к призраку неконтролируемого распространения ядерного оружия во время Холодной войны, когда великие державы накапливали запасы оружия, опасаясь, что их соперники превзойдут их. Но скептики вроде Стюарта Рассела все чаще применяют ту же концепцию к эпохе искусственного интеллекта. Конкуренцию между Соединенными Штатами и Китаем часто называют «гонкой вооружений» в области искусственного интеллекта, секретность, срочность и высокие ставки которой определяли ядерное соперничество между Вашингтоном и Москвой во второй половине 20-го века.
Владимир Путин, президент России, кратко сформулировал, что поставлено на карту почти десять лет назад: «Тот, кто станет лидером в этой сфере, станет правителем мира», — сказал он в своей речи в 2017 году.
Хотя нынешнюю гонку вооружений нельзя измерить ядерными боеголовками, ее масштабы отражаются в ошеломляющих объемах задействованного капитала. В настоящее время страны и корпорации тратят сотни миллиардов долларов на энергоемкие центры обработки данных для обучения и эксплуатации ИИ. Аналитики ожидают, что только в Соединенных Штатах капитальные затраты на искусственный интеллект в этом году превысят 600 миллиардов долларов.
Однако агрессивные корпоративные действия по-прежнему должны сопровождаться сдерживанием посредством мер регулирования, сказал Рассел. «Очень помогает то, что каждое из правительств понимает этот вопрос. Именно поэтому я здесь», — сказал он, имея в виду саммит в Индии.
Китай и ЕС входят в число стран-разработчиков ИИ, которые заняли более жесткую позицию в регулировании этой технологии. В других странах реальность оказалась более безразличной. В Индии правительство выбрало в значительной степени дерегулирующий подход. Тем временем в Соединенных Штатах администрация Трампа поддержала прорыночные идеалы в области ИИ и стремилась отменить большинство правил на уровне штатов, чтобы дать компаниям свободу действий.
