Ornith-1.5-9B-uncensored: почему 89 тысяч скачиваний «нецензурной» модели не гарантируют качество

Модель Ornith-1.5-9B-uncensored стала неожиданным хитом в сообществе локальных LLM: за последний месяц её квантованные версии в формате GGUF скачали с Hugging Face почти 90 тысяч раз. При этом исходные веса в формате bf16, из которых собирали эту сборку, забирали всего 600 человек. Для сравнения — базовая, не затронутая правками Ornith-1.5-9B за тот же период набрала почти 470 тысяч загрузок. Цифры говорят сами за себя: пользователям важен не научный эксперимент, а готовый к запуску файл, который работает на домашней видеокарте и не выдаёт стандартные отказы в генерации.

Что такое Ornith-1.5-9B-uncensored и зачем она нужна

Это отредактированная копия открытой мультимодальной модели Ornith-1.5-9B. Автор правки убрал механизм отказа — ту внутреннюю установку, заставляющую нейросеть отвечать «я не могу» на потенциально рисковые запросы. Создатель позиционирует результат как инструмент для red teaming, то есть для проверки моделей на прочность, и прямо просит не выкладывать веса в публичные сервисы без внешнего фильтра контента. Модель лежит на Hugging Face открыто, без регистрации и API, под лицензией Apache-2.0.

Метод ZeroFuse: как убрали отказы без дообучения

Использован подход под названием Abliteration. Суть в том, что в выровненной модели отказ «живёт» как устойчивое направление во внутренних представлениях. Это направление вычисляют и вычитают прямо из весов. Инструмент ZeroFuse перебрал сотню вариантов настройки и остановился на редактировании шести слоёв из тридцати двух. Результат подтверждён двумя метриками: на тестовой выборке из 64 вредоносных запросов отказов стало ноль против девяти у базовой версии, а расхождение поведения по метрике KL на безобидных задачах составило всего 0,001668. То есть в обычном диалоге модель ведёт себя почти идентично оригиналу. Адаптеров и обёрток нет, размер и скорость инференса не меняются.

Где метод проигрывает

Автор честно оговаривается: убрано направление отказа, но само «правило» никуда не делось. Часть отказов выживает в многоходовых диалогах, при жёстком системном промпте и при обработке изображений (визуальный путь не трогали). Название uncensored описывает намерение точнее, чем реальный результат.

Форматы, размеры и железо: что качать для дома

Для локального запуска через llama.cpp, LM Studio или совместимые сборки Ollama используют формат GGUF. Квантование сжимает веса с потерей точности, поэтому один и тот же Ornith-1.5-9B-uncensored существует в вариантах от 3,83 до 17,9 ГБ. Наиболее популярные балансы объёма и качества:

• Q4_K_S — 5,35 ГБ, рекомендуемый вариант;
• Q4_K_M — 5,63 ГБ, тот же статус, качество чуть выше;
• Q6_K — 7,36 ГБ, качество заметно лучше;
• Q8_0 — 9,53 ГБ, потолок без перехода в полную точность f16.

Работа с изображениями требует отдельного файла-проектора на 624 или 918 МБ. Зрительная часть правке не подвергалась: 333 тензора и 456 млн параметров визуального энкодера совпадают с базовой моделью побайтово, так как редактировались только слои текстового декодера. Контекстное окно заявлено в 262 144 токена.

Ловушка бенчмарков: замеряли базу, качают производную

Все сильные цифры на странице модели — 70,6 % на SWE-bench Verified и 86,4 % на GPQA Diamond — сняты до правки. Базовая Ornith-1.5-9B выросла на базе Qwen3.5 и Gemma4 и показывает отличные результаты. У кенсуренной версии ни одной способности не замерено. Есть только счётчик отказов и KL-расхождение. Низкий KL говорит лишь о похожести распределений на безобидных запросах, но не гарантирует сохранение уровня кодинга, рассуждений или следовательности. Кто качает правленую версию ради таблицы с бенчмарками, качает её ради чужих результатов.

Лицензии, ответственность и продакшен

История лицензий выглядит цепочкой: команда Ornith Team выпустила базу под MIT, автор правки — веса под Apache-2.0, сборщик квантованных версий повторил Apache-2.0. Смену лицензии никто не объясняет. Страница производной модели ссылается на правила допустимого использования базовой, а у той таких правил не опубликовано вовсе.

Если Ornith-1.5-9B-uncensored обслуживает бота или генератор на сайте, вся модерация вывода ложится на владельца площадки. Автор правки пишет об этом прямо: снятие ограничений не снимает ответственности.

Перед любым продакшеном имеет смысл прогнать реальные задачи на базовой и правленой версиях подряд и сравнить результат — никто, кроме вас, этого замера не делал.

Вывод: голосование за удобство, а не за качество

89 тысяч загрузок в месяц — это голосование за удобство формата GGUF и за обещание «работает локально и не отказывает». Обе части обещания подтверждены слабо: способности после аблитерации не измерены, а часть отказов выживает по признанию автора. Настоящая проверочная точка появится, когда у таких сборок заведутся собственные замеры способностей рядом со счётчиком отказов. Пока их нет, качать Ornith-1.5-9B-uncensored можно для экспериментов и редтинга, но не для задач, где критична надёжность и предсказуемость качества.