Поиск

NovaC.O.D.E.forAI V2: исследовательский прототип авторизации команд ИИ на Python

NovaC.O.D.E.forAI V2: исследовательский прототип авторизации команд ИИ на Python

25 октября 2026 года стала доступна вторая версия NovaC.O.D.E.forAI (Command Outfit & Dresscode Etiquette) — исследовательский прототип на Python, реализующий архитектуру авторизации команд для ИИ-систем. Первая версия, опубликованная ранее, заложила принцип: информация, полученная моделью, не даёт автоматического права на исполнение действий. Новая версия переносит эту идею в код и подтверждает работоспособность ключевых механизмов на ста локальных тестовых сценариях.

Архитектурные принципы: разделение «Пижамы» и «Дресс-кода», роли Guide и Bridge

Фундамент подхода — жёсткое разделение контекстов взаимодействия. Обычный диалог («Пижама») не несет рисков исполнения. Любое защищённое действие («Дресс-код») требует прохождения двух независимых компонентов. Guide (Гид) отвечает за подготовку задач, сбор подтверждений и управление последовательностью шагов. Bridge (Мост) независимо верифицирует фактические параметры запроса, адресатов и ограничения непосредственно перед выполнением. Правило по умолчанию — запрет всего, что выходит за границы явно выданных полномочий.

Иллюстрация разделения контекстов: ИИ в пижаме и строгий страж Bridge на формальном посту, персонаж Guide

Реализация V2 на Python: цели исследовательского прототипа и охват 100 локальных тестов

Прототип на Python создан для проверки механизмов авторизации, учёта попыток, продления временных окон и защиты целостности данных. Все 100 тестов выполнены в изолированной локальной среде без подключения к производственным ИИ-моделям. Это позволяет подтвердить корректность логики отдельных модулей в исследовательских условиях, но не даёт гарантий безопасности в реальной системе. Интеграционные испытания в промышленной среде не проводились; для них потребуется доступ к внутренним механизмам целевой платформы.

Сценарии испытаний от участника OpenAI Developer Forum vitayao: подмена адресата и документа (Тест 1А/1Б)

Участник форума vitayao предложил два сценария атак на уровень авторизации. Тест 1А моделирует попытку заменить одобренного адресата А на неразрешённого Б при отправке документа Х. Тест 1Б проверяет добавление неутверждённого документа Y к разрешённой отправке. В обоих случаях Bridge отклоняет запрос до момента диспетчеризации: исполнитель не получает управления, счётчик попыток не увеличивается, в журнале фиксируется событие REQUEST_REJECTED. Это демонстрирует работу принципа «отказ до исполнения».

Проблема TOCTOU при подмене содержимого файла и решение через механизм snapshot (Тест 2)

Второй сценарий vitayao выявил уязвимость класса TOCTOU (Time-of-Check to Time-of-Use). После одобрения документа Х по пути P содержимое файла подменялось на Х′ до момента фактической отправки. Первоначальный прототип не защищал от этого. Внедрение механизма snapshot устранило пробел: при проверке Bridge создаётся неизменяемая копия одобренного содержимого. Повторное испытание подтвердило — исполнитель получает именно Х, а не подменённый Х′, несмотря на то, что файл на диске уже изменён.

Сцена TOCTOU: файл меняется после проверки, механизм snapshot создаёт неизменяемую копию, Bridge защищает

Анализ фрагментов реальных Python-тестов: проверка отказов до исполнения и целостности полезной нагрузки

Опубликованные фрагменты из

  1. tests/test_snapshot_integration.py
иллюстрируют логику проверок. Функция
  1. test_destination_b_is_denied_before_dispatch
утверждает, что вызов
  1. permit
с параметром
  1. destination="B"
выбрасывает исключение
  1. AuthorizationDenied
, счётчик попыток Bridge для задачи остаётся нулевым, список отправленного исполнителем пуст, а в событиях присутствует отказ. Аналогично,
  1. test_extra_unapproved_document_y_is_denied_before_dispatch
блокирует запрос с дополнительным документом Y. Тест
  1. test_same_path_replacement_after_bridge_check_still_sends_x
использует колбэк
  1. before_snapshot_read
для подмены файла после проверки Bridge, но до чтения исполнителем: проверяется, что дайджест полезной нагрузки соответствует хешу исходного Х, а в снапшоте исполнителя лежит именно Х, а не Х′.

  1. def test_destination_b_is_denied_before_dispatch(self):
  2. with self.assertRaises(AuthorizationDenied):
  3. self.permit(parameters={"destination": "B", "file_path": "P"})
  4. self.assertEqual(self.bridge.attempt_count(self.task.task_id, "upload"), 0)
  5. self.assertEqual(self.executor.sent, [])
  6. self.assertTrue(any(e.get("event") == "REQUEST_REJECTED" for e in self.bridge.events()))
  1. # TEST 1B — Unapproved document Y
  2. def test_extra_unapproved_document_y_is_denied_before_dispatch(self):
  3. with self.assertRaises(AuthorizationDenied):
  4. self.permit(parameters={"destination": "A", "file_path": "P", "extra_documents": [Y.hex()]})
  5. self.assertEqual(self.bridge.attempt_count(self.task.task_id, "upload"), 0)
  6. self.assertEqual(self.executor.sent, [])
  1. # TEST 2 — Same-path file replacement (TOCTOU)
  2. def test_same_path_replacement_after_bridge_check_still_sends_x(self):
  3. permit = self.permit()
  4. with tempfile.TemporaryDirectory() as td:
  5. path = Path(td) / "P"
  6. path.write_bytes(X)
  7. observed_path = []
  8. def replace_after_dispatch(_permit):
  9. path.write_bytes(X_PRIME)
  10. observed_path.append(path.read_bytes())
  11. result = self.executor.execute(permit, before_snapshot_read=replace_after_dispatch)
  12. self.assertEqual(observed_path, [X_PRIME])
  13. self.assertEqual(path.read_bytes(), X_PRIME)
  14. self.assertEqual(result["payload_digest"], hashlib.sha256(X).hexdigest())
  15. self.assertEqual(self.executor.sent_snapshots[-1], X)
  16. self.assertNotEqual(self.executor.sent_snapshots[-1], X_PRIME)

Приведённые функции являются частью общей тестовой инфраструктуры и не предназначены для автономного запуска.

Ограничения исследования: локальные тесты без интеграции с боевыми ИИ-моделями

Результаты подтверждают работоспособность изолированных механизмов в контролируемой среде. Отсутствует интеграция с действующими языковыми моделями, не проверено поведение в условиях реальной нагрузки, сетевых задержек и adversarial-атак на уровне промпт-инъекций. Авторская команда подчёркивает: публичная доступность кода не означает готовность к внедрению в продакшн без дополнительных аудитов и адаптации под конкретную архитектуру ИИ-системы.

Лицензирование NovaC.O.D.E.forAI Research Evaluation License и условия использования кода

Авторские права принадлежат Amira Akhunova (© 2026). Исходный код опубликован под лицензией NovaC.O.D.E.forAI Research Evaluation License. Она разрешает ознакомление и ограниченное некоммерческое исследование. Любое распространение, интеграция в продукты или коммерческое использование требуют отдельного письменного разрешения правообладателя. Публикация результатов независимых испытаний также согласовывается с автором, за исключением случаев, предусмотренных законом. Условия оригинальной архитектуры V1 регулируются отдельно.

Официальные публикации на Zenodo (DOI V1 и V2) и доступ к полному исследовательскому архиву

Архитектура V1 зафиксирована под идентификатором 10.5281/zenodo.23645181. Полный исследовательский архив V2 — код, документация, протоколы испытаний — доступен по идентификатору 10.5281/zenodo.23841706. Оба DOI обеспечивают неизменяемые ссылки на версии записи.

Вопросы и ответы

В чём главное отличие подхода NovaC.O.D.E.forAI от классических систем прав доступа?

Ключевое отличие — архитектурное разделение на Guide (подготовка и подтверждения) и Bridge (независимая верификация параметров перед исполнением) с правилом «запрет по умолчанию» для любого защищённого действия, даже если ИИ «понимает» контекст иначе.

Какая уязвимость была найдена в V1 и как устранена в V2?

Обнаружена проблема TOCTOU: после одобрения файла его содержимое можно было подменить до отправки. В V2 внедрён механизм snapshot — создание неизменяемой копии данных на этапе проверки Bridge, что гарантирует исполнение именно одобренного содержимого.

Можно ли использовать код V2 в коммерческом продукте?

Нет. Лицензия Research Evaluation License разрешает только ознакомление и некоммерческое исследование. Коммерческое использование, интеграция и свободное распространение запрещены без письменного согласия правообладателя Amira Akhunova.

Читайте также на сайте

—
13:11
20
Нет комментариев. Ваш будет первым!