Человеку свойственно ошибаться; прости, божественно. Но когда дело доходит до автономных «агентов» ИИ, берущих на себя задачи, которые раньше выполнялись людьми, каков риск ошибки?
На недавнем мероприятии Brainstorm AI, организованном Fortune в Сан-Франциско, экспертный круглый стол рассмотрел этот вопрос, поскольку эксперты рассказали, как их компании решают вопросы безопасности и управления, проблемы, которая позволяет преодолеть еще более практические проблемы, такие как данные и вычислительная мощность. Предприятия ведут гонку вооружений за внедрение в свои рабочие процессы агентов искусственного интеллекта, которые смогут решать задачи автономно и без особого контроля со стороны человека. Но многие сталкиваются с фундаментальным парадоксом, который замедляет внедрение: быстрое продвижение требует доверия, а для построения доверия требуется много времени.
Дев Риши, генеральный директор Rubrik по искусственному интеллекту, присоединился к охранной компании прошлым летом после приобретения стартапа Predibase, занимающегося глубоким обучением искусственного интеллекта. Затем он провел следующие четыре месяца, встречаясь с руководителями 180 компаний. Он использовал эти идеи, чтобы разбить внедрение агентного ИИ на четыре этапа, рассказал он аудитории Brainstorm AI. (На устоявшемся уровне внедрение агентов относится к компаниям, внедряющим системы искусственного интеллекта, которые работают автономно, а не реагируют на подсказки.)
Как узнал Риши, четыре этапа, которые он обнаружил, включают раннюю фазу экспериментирования, на которой компании усердно работают над прототипированием своих агентов и намечают цели, которые, по их мнению, могут быть интегрированы в их рабочие процессы. Второй этап, по словам Риши, является самым сложным. Это когда компании переводят своих агентов от прототипов к формальному производству работ. Третий этап предполагает масштабирование этих автономных агентов по всему предприятию. Четвертый и последний этап, о котором не говорил ни один Риши, — это автономный ИИ.
Риши обнаружил, что около половины из 180 компаний находились на стадии экспериментирования и создания прототипов, а 25% усердно работали над формализацией своих прототипов. Еще 13% занимались масштабированием, а остальные 12% не запускали никаких проектов в области ИИ. Однако Риши прогнозирует кардинальные изменения в будущем: в ближайшие два года представители группы 50% ожидают, что они перейдут ко второму этапу, согласно своим дорожным картам.
«Я думаю, что мы очень скоро увидим широкое распространение», — сказал Риши аудитории.
Однако он отметил, что существует значительный риск, мешающий компаниям действовать «быстро и решительно», когда дело доходит до ускорения внедрения агентов ИИ в рабочую силу. По его словам, этот риск и главное препятствие для более широкого развертывания агентов — это безопасность и управление. И из-за этого компании изо всех сил пытаются перейти от использования агентов для извлечения знаний к ориентации на действия.
«На самом деле наша цель — ускорить трансформацию ИИ», — сказал Риши. «Я думаю, что фактор риска номер один, препятствие номер один — это риск (сам по себе)».
Интегрируйте агентов в рабочую силу
Кэтлин Питерс, директор по инновациям Experian, которая отвечает за продуктовую стратегию, сказала, что замедление вызвано неполным пониманием рисков, когда агенты ИИ нарушают барьеры, установленные компаниями, и мер безопасности, необходимых в этом случае.
«Если что-то пойдет не так, если возникнут галлюцинации, если отключится электричество, к чему мы можем обратиться?» – спросил он. «Это одна из тех вещей, в которых некоторые руководители, в зависимости от отрасли, хотят понять: «Как мы чувствуем себя в безопасности?»»
По его словам, выяснение этого вопроса будет различным для каждой компании и, вероятно, окажется особенно трудным для компаний в жестко регулируемых отраслях. Чандху Наир, старший вице-президент по данным, искусственному интеллекту и инновациям розничной сети товаров для дома Lowe’s, сказал, что создавать агентов «довольно легко», но люди не понимают, что они из себя представляют: являются ли они цифровыми сотрудниками? Это рабочая сила? Как это будет включено в организационную структуру?
«Это почти все равно, что нанять группу людей без HR-функции», — сказал Наир. «Итак, у нас много агентов, и у нас нет никакого способа правильно их отобразить, и в этом и заключался подход».
Компания прорабатывает некоторые из этих вопросов, в том числе вопрос о том, кто может нести ответственность, если что-то пойдет не так. «Трудно это отследить», — сказал Наир.
Питерс из Experian предсказал, что в ближайшие годы мы увидим, что многие из тех же вопросов будут обсуждаться публично, даже несмотря на то, что обсуждения будут проходить одновременно за закрытыми дверями в залах заседаний и среди старших комитетов по соответствию и стратегии.
Крупные скандалы привлекут много внимания, продолжил Питерс, и на карту будет поставлен репутационный риск. Это вызовет неприятные разговоры о том, на ком лежит ответственность в отношении программного обеспечения и агентов, и все это, вероятно, приведет к ужесточению регулирования, сказал он.
«Я думаю, что это станет частью нашего общего управления социальными изменениями, когда мы думаем об этих новых способах работы», — сказал Питерс.
Тем не менее, есть конкретные примеры того, как ИИ может принести пользу бизнесу, если его внедрить таким образом, чтобы он нашел отклик у сотрудников и клиентов.
Наир сказал, что компания Lowe’s добилась широкого внедрения и «ощутимой» рентабельности инвестиций в искусственный интеллект, который она до сих пор интегрировала в свою деятельность. Например, среди 250 000 магазинов-партнеров у каждого есть сопровождающий агент с обширными знаниями о продукции в магазинах площадью 100 000 квадратных футов, где продается все: от электрооборудования до красок и сантехнических товаров. По словам Наира, многие из новых сотрудников Лоу не являются торговцами, а агенты по сопровождению стали на сегодняшний день «наиболее распространенной технологией».
«Было важно найти те варианты использования, которые действительно нашли отклик у клиента», — сказал он. С точки зрения управления изменениями в магазинах, «если продукт хорош и может повысить ценность, его внедрение резко возрастет».
Кто наблюдает за агентом?
Но для тех, кто работает в штаб-квартире, методы управления изменениями должны быть другими, добавил он, что еще больше усложняет ситуацию.
И многие компании застряли в другом первоначальном вопросе: следует ли им создавать собственных агентов или полагаться на возможности искусственного интеллекта, разработанные крупными поставщиками программного обеспечения.
Ракеш Джайн, исполнительный директор по облачной инженерии и искусственному интеллекту в Mass General Brigham Health System, сказал, что его организация занимает выжидательную позицию. Поскольку основные платформы, такие как Salesforce, Workday и ServiceNow, создают собственных агентов, это может привести к избыточности, если ваша организация одновременно создает собственных агентов.
«Если есть пробелы, то мы хотим создать своих собственных агентов», — сказал Джайн. «В противном случае мы бы зависели от покупки агентов, которых создают поставщики продуктов».
В сфере здравоохранения, по словам Джайн, существует острая необходимость в человеческом надзоре, учитывая высокие ставки.
«Сложность пациента не может быть определена алгоритмами», — сказал он. «В этом должен быть замешан человек». По их опыту, агенты могут ускорить принятие решений, но окончательное решение должны принять люди, а врачи все проверяют, прежде чем предпринимать какие-либо действия.
Тем не менее, Джайн также видит огромный потенциал роста по мере развития технологии. Например, в радиологии агент, обученный опытом нескольких врачей, может обнаружить опухоли в плотных тканях, которые один-единственный радиолог может пропустить. Но даже несмотря на то, что офицеры прошли обучение у нескольких врачей, «вам все равно необходимо иметь гуманное суждение», — сказал Джайн.
И угроза злоупотреблений со стороны агента, который должен быть доверенным лицом, всегда присутствует. Он сравнил мошеннический агент с аутоиммунным заболеванием, которое является одним из самых сложных состояний для диагностики и лечения врачей, поскольку угроза является внутренней. Если агент внутри системы «станет коррумпированным», сказал он, «это нанесет огромный ущерб, который люди не смогут реально оценить».
Несмотря на открытые вопросы и надвигающиеся проблемы, Риши сказал, что есть путь вперед. Он выделил два требования для построения доверия к агентам. Во-первых, компаниям нужны системы, обеспечивающие уверенность в том, что агенты действуют в рамках политических барьеров. Во-вторых, им нужна четкая политика и процедуры на случай, если что-то неизбежно пойдет не так, – сильная политика. Наир также добавил три фактора для создания доверия и разумного продвижения вперед: идентичность и ответственность, а также знание того, кто является агентом; оценить, насколько стабильно качество результатов работы каждого агента; и просмотрите посмертную трассировку, которая может объяснить, почему и когда произошли ошибки.
«Системы могут совершать ошибки, как и люди», — сказал Наир. «Но умение объяснять и восстанавливаться не менее важно».
