Anthropic переработала биологический классификатор Claude Fable 5: ложные блокировки упали на 85%
В начале июня этого года компания Anthropic выпустила языковую модель Claude Fable 5, но с существенным ограничением: практически все запросы биологической тематики блокировались и перенаправлялись на менее мощную модель Opus 5. Меры безопасности работали, но создавали неудобства для обычных пользователей, врачей и студентов, чьи безобидные вопросы о результатах анализов или симптомах попадали под запрет. 7 августа Anthropic объявила о кардинальной переработке классификатора, отвечающего за маршрутизацию биологических запросов.
Как работала старая система и что изменилось
Ранее классификатор действовал по принципу «лучше перестраховаться» — любой запрос, затрагивающий биологию, с высокой вероятностью отправлялся на Opus 5. По итогам внутреннего тестирования новая версия сократила количество таких ошибочных переключений примерно на 85% по всей линейке продуктов Claude. Это означает, что подавляющее большинство легатименных медицинских и учебных вопросов теперь остаются в компетенции более способной Fable 5.
На что опиралась переработка классификатора
Инженеры Anthropic полностью переписали «конституцию» классификатора — свод правил, позволяющих отличать безопасные запросы от потенциально опасных. В разработке участвовали как внутренние специалисты, так и независимые эксперты. Модель обучена на обновлённых данных и прошла проверку на сохранение способности выявлять действительно опасный контент. Главная цель — сохранить барьер для злоупотреблений, но убрать излишнюю осторожность по отношению к рутинным задачам.
Сценарии, где Fable 5 стала полезнее
Практическая польза обновления наиболее заметна в следующих ситуациях:
- Разбор результатов лабораторных анализов и инструментальных исследований.
- Объяснение симптомов и возможных причин состояний пациентов.
- Учебные вопросы по общей биологии, анатомии, физиологии.
- Клинические задачи врачей и специалистов здравоохранения, не связанные с проектированием биологических агентов.
Раньше такие запросы часто упирались в фильтр, заставляя пользователей получать менее качественные ответы от Opus 5 или переформулировать вопросы.
Что по-прежнему остаётся закрытым
Несмотря на смягчение фильтров, профессиональная биология двойного назначения продолжает маршрутизироваться на Opus 5. К ограниченным разделам относятся:
- Вирусология — работа с патогенами, их геномами и механизмами патогенности.
- Токсикология — проектирование и синтез ядовитых веществ.
- Молекулярный дизайн — создание новых биологических активностей де novo.
Anthropic объясняет это тем, что Fable 5 на ряде сложных биологических задач демонстрирует способности, превосходящие человеческих экспертов, и может дать «существенный прирост» возможностей злоумышленнику — то есть подсказать информацию, которую иначе получить крайне сложно. Для легатименных научных исследований в этих областях компания обещает запустить отдельные программы доверенного доступа, однако конкретных сроков пока не называет.
Почему границу провести так сложно
Проблема в том, что многие прорывы в медицине исторически лежали на границе дозволенного и опасного. Пример: разработка каптоприла — препарата от гипертонии — началась с изучения токсинов яда змеи. Работа над живыми вакцинами требует выращивания именно тех патогенов, от которых вакцина должна защищать. Ежегодный отчёт разведывательного сообщества США за 2026 год, на который ссылается Anthropic, прямо указывает на риск ускорения государственных программ биологического оружия за счёт возможностей передовых ИИ-моделей. Именно этот контекст заставляет разработчиков придерживаться максимально консервативной политики в зонах двойного назначения.
Общая статистика снижения отказов по продуктам
Улучшение коснулось не только биологических запросов. С учётом всех причин отказов Anthropic приводит следующие цифры по своим продуктам:
- Claude.ai (веб-интерфейс) — минус 67% отказов.
- Cowork — минус 55%.
- Claude Code — минус 17%.
- Платформа для разработчиков (API) — минус 7%, что объясняется более низкой долей биологических запросов в этом сегменте.
Разница в показателях наглядно демонстрирует, где именно обычные пользователи раньше чаще всего страдали от излишней строгости фильтров.
Что дальше
Anthropic называет запуск программ доверенного доступа для профессиональных биологов следующим логическим шагом. Пока же граница остаётся неизменной: любителям биологии, студентам и врачам — расширенный доступ к возможностям Fable 5; исследователям в областях вирусологии, токсикологии и молекулярного дизайна — ожидание специализированных программ с верификацией.