У Илона Маска ошеломляющее видение жизни с ИИ: технология уничтожит все наши рабочие места, а «всеобщий высокий доход» будет означать, что каждый сможет получить доступ к теоретическому изобилию товаров и услуг. Всякий раз, когда высокая мечта Маска могла стать реальностью, это, конечно же, означало глубокую экзистенциальную расплату.
«Вопрос действительно будет о смысле», — сказал Маск на конференции Viva Technology в мае 2024 года. «Если компьютер может делать (и роботы могут делать) все лучше, чем вы… имеет ли ваша жизнь смысл?»
Но, по словам нобелевского лауреата и «крестного отца ИИ» Джеффри Хинтона, большинство лидеров отрасли не задаются вопросом о конце ИИ. Когда дело доходит до разработки ИИ, крупные технологические компании меньше интересуются долгосрочными последствиями технологии и больше озабочены быстрыми результатами.
«Для владельцев бизнеса движущей силой исследований является краткосрочная прибыль», — сказал Fortune Хинтон, почетный профессор компьютерных наук Университета Торонто.
А разработчики технологии, по словам Хинтона, в равной степени сосредоточены на предстоящей работе, а не на конечном результате самого исследования.
«Исследователи заинтересованы в решении проблем, которые вызывают их любопытство. Мы не начинаем с одной и той же цели: каким будет будущее человечества?» – сказал Хинтон.
«У нас есть такие маленькие цели: как бы вы это сделали? Или как сделать так, чтобы ваш компьютер мог распознавать объекты на изображениях? Как бы вы сделали компьютер, способный генерировать убедительные видеоролики?» добавил он. «Это действительно то, что движет исследованиями».
Хинтон уже давно предупреждает об опасностях искусственного интеллекта без ограждений и преднамеренной эволюции, оценивая вероятность того, что эта технология уничтожит людей после развития сверхинтеллекта, составляет от 10% до 20%.
В 2023 году, через десять лет после продажи своей компании, занимающейся нейронными сетями DNNresearch, компании Google, Хинтон покинул свой пост в технологическом гиганте, желая свободно говорить об опасностях технологии и опасаясь неспособности «помешать злоумышленникам использовать ее для плохих целей».
Каковы риски нерегулируемого ИИ?
По мнению Хинтона, опасности ИИ делятся на две категории: риск, который сама технология представляет для будущего человечества, и последствия манипулирования ИИ людьми с плохими намерениями.
«Между двумя разными типами риска существует большая разница», — сказал он. «Существует риск злоумышленного использования ИИ злоумышленниками, и он уже здесь. Это уже происходит с такими вещами, как фальшивые видео и кибератаки, и очень скоро это может произойти с вирусами. И это сильно отличается от риска того, что ИИ сам станет плохим игроком».
В ноябре 2025 года Anthropic заявила, что пресекла «первый задокументированный случай крупномасштабной кибератаки с использованием искусственного интеллекта, осуществленной без существенного вмешательства человека», идентифицировав спонсируемую государством китайскую группу, которая манипулировала Клодом Кодом в попытке проникнуть примерно в 30 технологических компаний, финансовых учреждений, правительственных учреждений и производителей химической продукции, сообщила компания, занимающаяся искусственным интеллектом, в своем блоге.
Это отключение заставило экспертов по кибербезопасности поверить в то, что Иран может использовать ИИ для проведения в значительной степени автоматизированной кибератаки против Соединенных Штатов.
По его словам, призыв Хинтона к действиям по устранению потенциала ИИ в совершении преступлений не только выступает за усиление регулирования, но и представляет собой тяжелую битву, поскольку каждая проблема с технологией требует отдельного решения, сказал он. Он предполагает, что в будущем аутентификация видео и изображений будет проводиться по принципу происхождения, что позволит бороться с распространением дипфейков.
Точно так же, как печатники добавляли имена к своим произведениям после появления печатного станка сотни лет назад, средствам массовой информации также придется найти способ добавлять свои подписи к своим подлинным произведениям. Но Хинтон сказал, что решения могут зайти так далеко.
«Эта проблема, вероятно, может быть решена, но решение этой проблемы не решает другие проблемы», – сказал он.
Что касается риска, который представляет собой сам ИИ, Хинтон считает, что технологические компании должны фундаментально изменить свой взгляд на свои отношения с ИИ. По его словам, когда ИИ достигнет сверхразума, он не только превзойдет человеческие возможности, но и будет иметь сильное желание выжить и получить дополнительный контроль. Следовательно, нынешняя структура вокруг ИИ (что люди могут контролировать технологию) больше не будет актуальной.
Хинтон утверждает, что модели ИИ должны быть пронизаны «материнским инстинктом», чтобы они могли относиться к менее сильным людям с сочувствием, а не с желанием контролировать их.
Ссылаясь на идеалы традиционной женственности, она сказала, что единственный пример, который она может привести, когда более разумное существо попадает под власть менее умного, — это ребенок, контролирующий свою мать.
«Вот почему я думаю, что это лучшая модель, которую мы могли бы опробовать на практике со сверхразумным ИИ», — сказал Хинтон. «Они будут матерями, а мы — младенцами».
Версия этой истории появилась на сайте Fortune.com 15 августа 2025 года.
Еще о будущем ИИ: Дженсен Хуанг только что нарисовал самую смелую картину будущего ИИ: 7,5 миллионов агентов, 75 000 человек: 100 работников ИИ на каждого человека. Компания из списка Fortune 500 обновила стоимость ИИ до 4,5 триллиона долларов, по оценкам, 93% рабочих мест уязвимы к сбоям. ИИ должен был покончить с консультантами. Этого не происходит, говорит главный стратег Capgemini
Эта история первоначально появилась на Fortune.com.
