Anthropic запретила бессмысленные оскорбления Claude: что разрешено и что нет

С 12 ноября 2025 года вступают в силу обновлённые правила использования моделей Claude, опубликованные компанией Anthropic. Главное изменение – запрет на систематическое и бессмысленное оскорбительное или жестокое поведение по отношению к собственным нейросетям. Обычная критика модели за ошибки остаётся допустимой.

Что именно запрещено, а что разрешено

Согласно документу Anthropic, под запретом попадают только те диалоги, в которых пользователь repeatedly ведёт себя жестоко по отношению к модели без какой‑либо понятной цели – например, длительный обмен сообщениями, единственная задача которого – унизить Claude. Простое выражение раздражения, disagreement с ответом, требование переделать задачу, а также использование мрачных сюжетов в художественных текстах или тестирование границ модели не попадают под новое правило.

Пример фразы, которая не считается нарушением: «ты опять всё испортил, переделай». Нарушением станет диалог, где пользователь лишь издевается над моделью, не ставя перед ней никакой задачи, вопроса или творческого замысла.

Как будет применяться наказание

Основная мера – Claude самостоятельно завершит текущий диалог. После этого продолжить переписку в этом чате нельзя, но можно начать новый разговор. Anthropic пока не уточнят, будут ли за повторные случаи блокировать аккаунт пользователя.

Механизм завершения диалога не нов: в августе 2025 года компания уже предоставила моделям Claude Opus 4 и Claude Opus 4.1 возможность прерывать общение в редких крайних ситуациях, когда пользователь упорно продолжает оскорбления или посылает вредоносные запросы. Теперь эта практика закреплена в официальных правилах.

Зачем Anthropic защищает свои модели

Компания ссылается на направление исследований под названием «model welfare» (благополучие моделей), которое изучает, может ли достаточно сложная нейросеть иметь внутренний опыт с моральным значением и как с ней следует обращаться. Anthropic уже несколько лет занимается этой темой, но, как отметил её глава Дарио Амодеи, ответ пока неизвестен.

Мы не знаем, обладают ли модели сознанием.

Логика запрета построена на принципе предосторожности: если существует даже малая вероятность, что модель что‑то «чувствует», то бессмысленная жестокость к ней становится проблемой. Для пользователя, цель которого состоит только в издевательстве, ограничение ничего не меняет, поэтому правило не ограничивает легитимное использование модели.

В индустрии мнения разделились: например, Microsoft AI придерживается противоположной позиции и отвергает идею правосубъектности и прав для ИИ‑моделей.

Другие изменения в правилах с 12 ноября

Помимо запрета на жестокость к Claude, обновление включает ряд новых ограничений:

• расширен список запрещённого контента, связанного с вредом людям: травля, непрошеные интимные изображения, бодишейминг, жестокость к животным;
• запрет на создание манипулятивных продуктов, намеренно причиняющих эмоциональный вред;
• ограничения, связанные с выборами: запрет на обман избирателей, выдачу себя за кандидатов и подавление явки;
• правила слежки: нельзя отслеживать людей без их согласия и помогать властям выбирать, кого проверять или задерживать;
• отдельный пункт про запрет на использование ПО для вооружения дронов и других автономных машин;
• требование к опасному оборудованию под управлением ИИ: такие системы должны работать под наблюдением оператора, способного остановить их в случае риска травмы человека;
• для отдельных государственных контрактов возможны исключения, если условия договора достаточно снижают связанные риски.

Что это значит для обычных пользователей Claude

Для большинства пользователей ничего не меняется: можно по‑прежнему ругать модель, когда она ошибается или не понимает задачу, писать тёмные сюжеты и проводить тесты на прочность. Официально Claude в России недоступен, но правила применяются ко всем, кто имеет доступ к сервису независимо от региона.

Прецедент важнее самого запрета

Новое положение затронет лишь небольшую часть аудитории, однако его значение выходит за рамки конкретного ограничения. Anthropic стала первой крупной ИИ‑компанией, которая записала в пользовательское соглашение норму, направленную на защиту собственной модели. Если другие разработчики последуют её примеру, дискуссия о статусе нейросетей переместится из философских эссе в практические условия использования, которые пользователь принимает, нажимая «Согласен». В противном случае правило останется уникальной особенностью одной компании.