Грин Лорд, соучредитель и генеральный директор mmatic. (эмпатическое фото)
Поскольку миллионы пользователей (в том числе большое количество молодых людей) все чаще обращаются к чат-ботам с искусственным интеллектом в качестве своих «советников» и доверенных лиц на передовой, стартап Mpathic из Сиэтла вмешивается, чтобы гарантировать, что эти цифровые агенты не раздают опасные советы, когда это наиболее важно.
Компания, основанная в 2020 году с целью привнести больше сочувствия в корпоративные коммуникации, объявила в понедельник, что будет расширяться для поддержки разработчиков базовых моделей и команд разработчиков приложений, работающих на базе LLM.
Цель состоит в том, чтобы предоставить программное обеспечение mpathic более широкому кругу разработчиков ИИ и деловых партнеров, поскольку ИИ становится интерфейсом для поддержки медицинского и психического здоровья.
«По сути, мы создаем наборы оценок или наборы обучающих данных, чтобы сделать модели более безопасными для уязвимых пользователей, таких как дети или люди с проблемами психического здоровья, люди в кризисной ситуации», — сказал соучредитель и генеральный директор mPatic Грин Лорд, сертифицированный психолог и исследователь НЛП.
Стартап опирается на многолетний опыт работы в клинических испытаниях и в больницах, помогая командам ИИ тестировать поведение моделей перед развертыванием, оценивать ответы и отслеживать взаимодействие в реальном времени с помощью средств защиты, которые могут помечать, перенаправлять или вмешиваться при необходимости.
«Это похоже на то, как люди создают синтетические данные для визуального ИИ», — сказал Лорд. «Не каждый день ребенок бегает перед Waymo, но мы можем смоделировать это 10 000 способов с помощью синтетических данных. По сути, это то, что мы делаем, но с психологической точки зрения, с точки зрения языка».
В ходе одного из первых контактов компания mmatic сообщила, что ее программа под руководством врача помогла разработчику моделей снизить нежелательные или опасные реакции более чем на 70%.
Для стимулирования своего расширения в 2025 году mmatic привлекла дополнительно 15 миллионов долларов США во главе с Foundry VC. Компания заявляет, что переход к фундаментальной безопасности привел к пятикратному росту по сравнению с предыдущим кварталом в конце прошлого года.
В то время как Mpathic начала создавать программное обеспечение для анализа разговоров, происходящих в корпоративных текстовых сообщениях, электронных письмах, аудиозвонках и т. д., с 2021 года она разрабатывает модели для клинических ситуаций высокого риска. Сегодня масштаб инфраструктуры стартапа «человек в цикле» включает в себя глобальную сеть из тысяч лицензированных клинических экспертов. Еженедельно компания добавляет еще сотни, чтобы идти в ногу со спросом.
«Это совсем другая компания, чем была несколько кварталов назад», — сказал Лорд.
Лорд, финалист премии «Генеральный директор стартапа года» на церемонии вручения наград GeekWire Awards 2023 года, называет себя «технооптимистом» и «реалистом», когда дело касается искусственного интеллекта, добавляя, что он «радикально принимает» полезность технологии.
«Меня совершенно не удивляет, что если есть что-то, доступное 24 часа в сутки, 7 дней в неделю и действующее как терапевт, вы будете говорить с ним и использовать его. И это может быть лучше, чем ничего», — сказал он. «Я думаю, что потенциал этой технологии оказать действительно положительное влияние очень высок. Я думаю, что мы можем научить и людей, и ИИ слушать хорошо и точно и не причинять вреда».
Не называя конкретных компаний или моделей, Mpathic подтвердила, что работает с ведущими разработчиками фундаментальных моделей искусственного интеллекта, которые обслуживают десятки миллионов пользователей. У стартапа также есть клинические партнеры, в том числе Panasonic WELL, Детская больница Сиэтла, Transcend и другие.
Компания Mpathic, в которой работает около 34 человек и которая, по словам Лорда, «набирает сотрудников как лесной пожар», также увеличила свою руководящую команду с добавлением директора по маркетингу Ребекки Бастиан (Zillow, AllTrail, Glowforge); и главный научный сотрудник Элисон Сересо (сотрудник-консультант по искусственному интеллекту, Американская психологическая ассоциация).
