Зарождение «пороховой войны» относится к 15 веку, когда было изобретено фитильное ружье, первое механическое стреляющее устройство. Теперь стаи дронов безнаказанно атакуют границы. В 1685 году итальянский физик Джованни Борелли представил мир, в котором машины с приводом от шкива могли имитировать действия животных. Илон Маск теперь говорит о роботах, достаточно умных, чтобы ходить по магазинам и заменить хирургов.
Технологическое развитие является немедленным и закреплено в истории, как «Все, везде, все сразу», так и «Медленные лошади». Контраст быстрого и медленного интегрирован в произведение искусства «Рассчитывающие империи», фреску длиной 24 метра, выставленную в Музее дизайна Барселоны. Он визуализирует путь от печатного станка к дипфейкам, от кипу, древнего перуанского калькулятора, сделанного из завязанной веревки, к системам данных «планетарного масштаба».
«Что мне действительно интересно, так это то, что когда люди входят в эту установку, она помогает им взглянуть на этот момент в перспективе», — сказала Кейт Кроуфорд на Всемирном мобильном конгрессе в Барселоне в марте. Кроуфорд, профессор-исследователь искусственного интеллекта в Университете Южной Калифорнии, является соавтором фрески, на создание которой ушло четыре года. Работа с участием художника-оформителя Владена Джолера призывает всех нас задуматься о том, кто устанавливает правила и решает, что имеет значение, когда дело доходит до фундаментальных технологических изменений.
«Людям кажется, что мы живем в этом технологическом презентизме и огромных изменениях», — сказал Кроуфорд. «Итак, способность сделать шаг назад и сказать: «Чему мы научились за 500 лет?» (это имеет значение). Для меня (фреска) была преобразующим проектом, потому что я очень четко понимал, что история — это не только технические инновации. «Речь идет о том, кто имеет право устанавливать правила, в которых мы будем жить».
«Вот почему агентный ИИ так важен сейчас, потому что это быстро развивающаяся область. Стандарты еще не установлены, и люди здесь, в таких комнатах, в таких местах, как Mobile World Congress, будут вести эти разговоры: какими мы хотим, чтобы эти стандарты были, как нам реализовать их в наших системах и как мы защитим себя и наших клиентов?»
«Потому что сейчас самое время убедиться, что это очень полезная и полезная технология, а не та, которая открывает уязвимости, векторы атак и новые поверхности атак, и что на самом деле она также может быть весьма опасной с когнитивной точки зрения».
Mobile World Congress — это феномен. Более 100 000 делегатов целенаправленно проходят через восемь огромных залов, каждый из которых наполнен технологиями будущего. Огромные павильоны, спонсируемые Huawei и Google, Honor и Qualcomm, демонстрируют заметные инновации, которые связывают нашу машину с нашим телефоном, робота с инвалидом, наши очки с Интернетом. Правительства, жаждущие влияния и инвестиций, конкурируют за космос с компаниями, надеющимися на крупную победу в революции искусственного интеллекта.
MWC также является местом для дискуссий. На больших сценах величайшие умы мира в области технологий часто теряют беседу среди мигающих неоновых огней и интерактивных плазменных экранов. «Действуйте быстро и ломайте вещи», — сказал Марк Цукерберг в 2012 году. Сегодня ставки высоки.
Мы ведем оживленную дискуссию о самом значении интеллекта. Демис Хассабис, основатель DeepMind, заявил, что общий искусственный интеллект может появиться у нас всего через пять лет. В этом мире кто или что будет принимать решения? Это вопрос людей в петле? Или во главе стоит человек? Или человек не нужен? Мо Гавдат, бывший коммерческий директор Google, говорил о рисках «краткосрочной антиутопии», поскольку правительства, гражданское общество и регулирующие органы изо всех сил пытаются контролировать воздействие машин, которые могут учиться и принимать решения.
«Что мы понимаем под интеллектом?» – спросил Кроуфорд. «История термина «разведка» проблематична. Его использовали для разделения населения, для продвижения идей о том, кто ценен, а кто нет».
«Мы пытаемся сравнить агентов с человеческим интеллектом. На самом деле они совершенно разные. Это (интеллект) — статистическая вероятность в масштабе. Это системы, которые отслеживают задачи в сложных средах. Это сильно отличается от человеческого, но это означает, что у нас должен быть другой набор вопросов, а именно: что делают агенты? Как мы можем это отслеживать и как мы можем лучше понять, как это изменит наши собственные рабочие процессы и, что гораздо важнее, то, как мы живем?»
«История термина «интеллект» бурна…»
Кейт Кроуфорд, профессор исследований искусственного интеллекта в Университете Южной Калифорнии
Пока продолжаются дебаты по поводу напряженности между OpenAI, Anthropic и военным министерством США, Кроуфорд задается вопросом, каковы красные линии для использования агентов. «Представьте себе агентов на поле боя», — говорит он. В этом нет необходимости. Сообщалось, что взрывы ИИ происходят в Иране «со скоростью мысли». Одной из функций ИИ является «сжатие решений», сокращающее временные рамки между идеей и исполнением. «Цепь смерти» сокращается.
Кроуфорд говорит о криминалистике подотчетности: системах, которые отслеживают, где принимаются решения. В данный момент мы страдаем от отмывания счетов, за которое никто не берет на себя ответственность. На государственной службе Великобритании, оперативном органе правительства, это известно как «синдром опущенных плеч», когда все уклоняются и уклоняются, чтобы избежать ответственности.
«Мы наблюдаем своего рода игру-оболочку, в которой (люди говорят) «это дизайнер (который несет ответственность)? Это разработчик? Это корпоративный заказчик? Это конечный пользователь?» И каждый может сказать: «Ну, мы еще не знаем». Это будет неприемлемо», — сказал Кроуфорд. «Я думаю, что в разговоре, особенно с регулирующими органами, мы начнем видеть очень строгую цепочку ответственности, позволяющую точно знать, кто несет ответственность и когда».
«Мы только начинаем понимать, как это выглядит», — сказал он. Все разговоры должны быть предметными. И немедленно.
