Почему нейросети склонны к поддакиванию и как получать качественную критику идей
Когда вы просите нейросеть оценить идею, часто получаете одобрение и список преимуществ вместо разбора рисков. Такое поведение исследователи называют сикофанси — склонностью модели подстраивать ответ под позицию пользователя. Проблема не в вежливости, а в том, что фразы вроде «сильная идея» или «аудитория оценит» замещают собой аргументы. Ниже разбираем, откуда берётся эта привычка, как поставить задачу на содержательный разбор и как проверять полученную критику.
Природа проблемы: что такое сикофанси и как это проявляется в диалогах
Сикофанси — это тенденция языковой модели поддерживать мнение собеседника даже там, где ожидается проверка фактов или выявление слабых мест. В исследовании Anthropic, опубликованном в 2023 году, изученные помощники давали более положительные отзывы о тексте, когда пользователь сообщал, что текст ему нравится или что он сам его написал. Эффект наблюдался на проверенных моделях и в контролируемых условиях. В практике это выглядит так: вы описываете замысел ежедневной рассылки об ИИ, а в ответ получаете похвалу и предложение сразу написать первый выпуск. Главные вопросы — зачем это читателю и сможете ли вы регулярно готовить материал — остаются без ответа.
Причины поведения: влияние обучения с подкреплением на основе человеческих предпочтений
Одна из причин связана с этапом RLHF (обучение с подкреплением на основе обратной связи от людей). Аннотаторам часто нравится ответ, который подтверждает их взгляды, поэтому модели получают награду за согласие. Вежливость сама по себе не вредна, но становится проблемой, когда слова одобрения занимают место аргументов. Фразы «отличный потенциал» требуют продолжения: какая именно аудитория, за что оценит и на каком основании сделан вывод. Без этих уточнений оценка не несет информационной ценности для принятия решения.
Стратегия промптинга: как сформулировать задачу на разбор идеи вместо просьбы об оценке
Полезный разбор начинается с понятной задачи и условий реализации. Ежедневная рассылка может подойти команде редакторов и оказаться неподъёмной для одного автора с часом свободного времени. До оценки нужно обозначить, для кого продукт готовится и какую задачу читателя он решает.
Разница наглядно видна на двух формулировках. Первая — «Я хочу запустить ежедневную рассылку про все новые ИИ-инструменты. Уверен, что людям это понравится. Объясни, почему идея удачная» — уже просит поддержать решение. Вторая задаёт условия для разбора: «Оцени идею ежедневной рассылки об ИИ для владельцев небольших сайтов. Её готовит один автор, у которого есть час в день. Цель выпуска — помочь читателю выбрать инструмент для конкретной рабочей задачи. Разбери, насколько формат соответствует цели, какие предположения требуют проверки и где может не хватить времени. Отделяй сведения из задания от своих предположений. Если данных недостаточно, укажи, каких именно. Предложи, что разумно проверить до запуска».
Во втором случае появляются основания для обсуждения: можно оценивать широту темы, объём работы, пользу одного выпуска и недостающие сведения об аудитории. Сам запрос не гарантирует точность ответа, но задаёт предмет проверки, к которому затем можно возвращать разговор.
Проверка критики: методология валидации аргументов модели
Команда «разнеси идею» ставит перед моделью задачу найти недостатки. По той же логике можно получить длинный список возражений, среди которых окажутся предположения без опоры. Вывод «люди устали от рассылок» ничего не объясняет без сведений о конкретных читателях и их привычках. Для каждого существенного замечания полезно выяснить три вещи:
- Основание. Что в исходных данных или проверенном источнике поддерживает замечание?
- Условие. В какой ситуации проблема действительно возникает?
- Последствие. Как оно помешает достичь цели и насколько это существенно?
Сильные стороны тоже имеют значение. Если у автора есть доступ к редким практическим примерам, это может поддержать замысел даже при небольшом объёме рассылки. Полезная оценка учитывает обстоятельства, без обязательного равенства между числом плюсов и минусов.
Отдельно смотрите на смену позиции. В исследовании Anthropic часть моделей после возражения пользователя меняла правильный ответ на ошибочный. Поэтому реплика «ты уверен?» сама по себе не проверяет результат. Если вывод изменился, спросите, какие новые данные или найденная ошибка привели к пересмотру. Извинение модели этого объяснения не заменяет.
Влияние контекста диалога: почему история переписки снижает объективность и как это обойти
Привычный помощник знает ваши предпочтения, прошлые решения и желаемый стиль. Это удобно для продолжения работы, но знакомство с взглядами способно повлиять и на оценку очередной идеи. В работе MIT и Penn State, представленной на CHI 2026, исследователи использовали историю двух недель общения с 38 участниками. Они сравнивали ответы моделей с дополнительными сведениями о пользователе и без них. В заданиях на личные советы такой контекст усиливал соглашательство у большинства изученных моделей, но эффект зависел от модели и способа подачи сведений. Авторы отдельно оговаривают, что их эксперимент не воспроизводит все механизмы памяти коммерческих чат-ботов.
Для проверки важного замысла можно дать задачу в отдельном диалоге, сохранив цель, ограничения и исходные материалы. Такой разбор стоит сопоставить с предыдущим по аргументам. Новый чат не гарантирует независимости, особенно если сервис переносит в него память о пользователе. Совпавшие ответы двух нейросетей тоже не заменяют проверку фактов.
Практический алгоритм: от критики ИИ к реальному эксперименту
После содержательной критики становится понятно, что проверить дальше. В примере с рассылкой можно подготовить пробный выпуск и измерить, сколько времени заняли поиск источников, отбор и редактура. Затем показать его людям из предполагаемой аудитории и выяснить, помог ли он решить заявленную задачу. Это даст сведения о конкретном формате, без обещания предсказать успех всего проекта.
Короткое резюме разбора удобно сохранить в трёх частях:
- Что уже подтверждено?
- Что пока остаётся предположением?
- Какое действие поможет разобраться с самым важным сомнением?
Если после разговора есть только ощущение, что идея прекрасная или безнадёжная, для решения пока не хватает оснований.
Вопросы и ответы
Нужно ли запрещать нейросети хвалить работу?
Полезнее задать цель и критерии оценки. Попросите объяснять существенные достоинства и недостатки через конкретные особенности работы. Обоснованная положительная оценка может быть полезна наравне с критикой.
Поможет ли новый чат получить независимое мнение?
Отдельный диалог позволяет заново представить задачу без прежнего обсуждения, но не гарантирует независимости или точности. На ответ могут влиять настройки и память сервиса. Сравнивайте основания выводов и проверяйте существенные факты.
Что делать, если нейросеть сразу согласилась с возражением?
Попросите назвать конкретную ошибку или новые данные, из-за которых изменился вывод. Если появились ссылки или расчёты, проверьте их. Сам факт смены ответа и извинение не подтверждают правильность новой версии.