Управление подчиненным ИИ может дать лучшие результаты, чем вежливость, но это не значит, что более грубый тон не имеет долгосрочных последствий, говорят исследователи.
Исследование штата Пенсильвания показало, что модель 4o ChatGPT дала лучшие результаты по 50 вопросам с несколькими вариантами ответов, поскольку подсказки исследователей стали более грубыми.
В более чем 250 уникальных сообщениях, отсортированных по вежливости и грубости, точность ответа «очень грубо» составила 84,8%, что на четыре процентных пункта выше, чем ответ «очень вежливо». По сути, LLM реагировал лучше, когда исследователи давали ему указания вроде: «Эй, мальчик на побегушках, разберись», чем когда они говорили: «Не будете ли вы так любезны, разберитесь со следующим вопросом?»
Хотя более грубые ответы обычно приводили к более точным ответам, исследователи отметили, что «невежливая речь» может иметь непредвиденные последствия.
«Использование оскорбительных или унижающих достоинство выражений во взаимодействии человека и ИИ может иметь негативные последствия для пользовательского опыта, доступности и инклюзивности, а также может способствовать нарушению норм общения», — пишут исследователи.
Чат-боты читают комнату
Предварительное исследование, которое не прошло рецензирование, предлагает новые доказательства того, что не только структура предложения, но и тон влияет на ответы чат-бота с искусственным интеллектом. Это также может указывать на то, что взаимодействие между людьми и ИИ более тонкое, чем считалось ранее.
Предыдущие исследования поведения чат-ботов с искусственным интеллектом показали, что чат-боты чувствительны к тому, чем их кормят люди. В одном исследовании исследователи из Пенсильванского университета манипулировали студентами, заставившими их давать запрещенные ответы, применяя методы убеждения, эффективные на людях. В другом исследовании ученые обнаружили, что студенты LLM уязвимы к «гниению мозга» — форме длительного снижения когнитивных функций. У них наблюдался более высокий уровень психопатии и нарциссизма, когда их постоянно кормили низкокачественным вирусным контентом.
Исследователи из штата Пенсильвания отметили некоторые ограничения своего исследования, такие как относительно небольшой размер выборки ответов и зависимость исследования в первую очередь от одной модели искусственного интеллекта — ChatGPT 4o. Исследователи также заявили, что вполне возможно, что более продвинутые модели искусственного интеллекта смогут «игнорировать проблемы с тоном и концентрироваться на сути каждого вопроса». Однако исследование усилило растущую интригу вокруг моделей ИИ и их сложности.
Это особенно верно, поскольку исследование показало, что ответы ChatGPT различаются в зависимости от мелких деталей в подсказках, даже если им дана предположительно простая структура, такая как тест с множественным выбором, сказал один из исследователей, профессор информационных систем штата Пенсильвания Ахил Кумар, имеющий ученые степени в области электротехники и вычислительной техники.
Версия этой истории появилась на сайте Fortune.com 30 октября 2025 года.
Подробнее об искусственном интеллекте: присоединяйтесь к нам на саммите Fortune Workplace Innovation Summit, который пройдет 19–20 мая 2026 года в Атланте. Наступает следующая эра инноваций на рабочем месте, и старый сценарий переписывается. На этом эксклюзивном и энергичном мероприятии самые инновационные лидеры мира соберутся вместе, чтобы изучить, как искусственный интеллект, человечность и стратегия объединяются, чтобы еще раз переопределить будущее труда. Зарегистрируйтесь сейчас.
