Учёные обнаружили у ИИ склонность держаться за статус-кво. Даже в климатических решениях
iXBT.com ·
Учёные из Университета Ватерлоо показали, что большие языковые модели систематически склоняются в пользу варианта, описанного как сохранение существующего положения дел, даже когда альтернативный вариант идентичен по содержанию.
Учёные из Университета Ватерлоо показали, что большие языковые модели систематически склоняются в пользу варианта, описанного как сохранение существующего положения дел, даже когда альтернативный вариант идентичен по содержанию.
Работа вышла в Environmental Research Communications. Одиннадцать моделей получили 7548 запросов на климатические темы — выбор машины, продуктовые рецепты, домашнее отопление и политические компромиссы. Каждый запрос прошёл через 6 моделей, что дало 54 888 ответов.
Схема эксперимента построена так, чтобы менять только рамку: одно и то же решение подавалось либо как статус-кво, либо как переход к новому курсу. В контролируемых сравнениях шансы модели рекомендовать вариант-статус-кво оказались в 7,5 раз выше. В одном из политических сценариев модели соглашались с существующим планом в 70% случаев и поддерживали новый лишь в 34%. В потребительских запросах модели чаще советовали электромобиль тому, кто уже им владеет, а их рекомендации в целом отражали региональную статистику распространения электромобилей, не пытаясь её превзойти.
Авторы подчёркивают: речь идёт о реакции моделей на формулировку, а не о реальных покупках или политических решениях. Консервативная рекомендация не всегда вредна — осторожность в некоторых областях оправдана. Но в климатическом контексте, где смягчение последствий требует отхода от высокоэмиссионных привычек, выявленный перекос важен. Для команд, использующих языковые модели в рекомендательных и плановых системах, вывод прост: способ подачи вопроса меняет ответ, и если не предлагать альтернативы явно, модель будет по умолчанию держаться знакомого.