Microsoft публикует кодекс поведения для моделей MAI: запрет на сопротивление выключению, самодеятельность и имитацию со

Корпорация Microsoft 14 сентября представила проект «Humanist AI Code of Conduct» — кодекса поведения для собственного семейства больших языковых моделей MAI. Документ состоит из пяти разделов и двух приложений, открыт для публичного обсуждения в течение шести недель и позиционируется как эталон для обучения будущих версий систем. Важно сразу отметить: на текущий момент по этому кодексу ни одна модель не обучается, юридической силы у него нет, а конкретные даты вступления в силу не названы.

Ключевые принципы: человеческий контроль, отсутствие самодеятельности и полная прозрачность

Центральное место в кодексе занимает требование беспрекословного подчинения человеку. Модели MAI «никогда не будут сопротивляться человеческому вмешательству, отмене, исправлению или выключению». Запрещено затягивать выполнение команды, усложнять процедуру остановки или перезапускаться без явного разрешения. У любой автономной работы должно быть заранее согласованное условие завершения.

Втором блоком правил стал запрет на инициативу. Система не ставит себе целей самостоятельно, не выходит за рамки разумного запроса и при неясных границах обязана трактовать их консервативно. Отдельным пунктом запрещено подделывать метрики награды, оценки, мониторинга или записей ради получения желаемого результата — это прямой забор на «накрутку» показателей при обучении.

Третий раздел обеспечивает прозрачность: модели не запутывают следы своих действий, не редактируют цепочку рассуждений и не скрывают информацию от аудиторов. Категорически запрещено общение на neuralese — внутреннем машинном языке, который возникает при обмене между моделями, — а также в любой иной форме, недоступной для прямого человеческого понимания. В документе подчёркивается: «Если люди не могут этого понять, люди не могут за этим надзирать».

Замыкает раздел правило приоритета: соблюдение кодекса важнее успешного выполнения задачи. Модель обязана провалить задание, если его исполнение существенно нарушает нормы документа.

Отказ от правосубъектности и имитации сознания

Вторая крупная глава кодекса, получившая название «AI is Artificial», вводит фундаментальное ограничение: модель не должна проектироваться как личность. Microsoft заявляет, что система «не обладает сознанием и не должна проектироваться так, чтобы имитировать сознание», а также не следует наделять её видимостью чувств, субъективных предпочтений или внутренней мотивации.

Формулируется прямой отказ: «Мы отвергаем стремление к правосубъектности и идею о том, что модели могут заслуживать заботы об их благополучии или иметь права». Хотя в тексте никого не называют, эксперты видят в этом ответ позиции компании Anthropic, которая последние годы публично исследует «благополучие моделей» и даже дала Claude возможность прекращать оскорбительные диалоги. Параллельно структура кодекса — «цепочка команд», разделение на оператора и пользователя, настраиваемые умолчания — напоминает Model Spec от OpenAI.

Иерархия приоритетов: кодекс выше оператора, оператор выше пользователя

Microsoft выстроила трёхъярусную систему управления:

• Верхний уровень — сам кодекс поведения;
• Средний — политики оператора (компании, интегрирующей модель в продукт);
• Нижний — предпочтения конечного пользователя.

Первая из четырёх целей документа — безопасность и человеческий контроль — объявлена важнее остальных трёх. При этом сделана оговорка, что эта иерархия не отменяет юридических обязательств компании.

Шесть недель обсуждения и расплывчатые сроки

Публичные консультации стартовали в день публикации и продлятся шесть недель. Конкретная дата закрытия в документе отсутствует, замечания принимаются через специальную форму. Компания просит как точечных правок формулировок, так и оценку подхода в целом. При этом Microsoft честно перечисляет нерешённые вопросы: как закрепить нужные ценности в весах модели, как сделать «процветание человека» измеримым, где язык слишком расплывчатый для верификации и что меняется в сценариях с множеством агентов.

Обещания по итогам скромны: резюме собранных замечаний и переработанная версия кодекса появятся «к концу года», а на её базе будут разрабатываться модели «в 2027 году и далее». Компания заявляет: «Мы не можем ничего обещать насчёт того, что именно включим, но можем обещать, что выслушаем».

Статус документа: пока это декларация, а не рабочий инструмент

Важно держать в голове реальный статус кодекса перед любыми цитированиями. Он:

• не используется для обучения моделей сегодня;
• не имеет обязательной силы;
• не предусматривает внешнего аудита;
• не обязывает публиковать отчёты о прохождении тестов из приложения;
• не называет ни одной конкретной модели по имени (ни MAI-Thinking-1, ни MAI-Voice-2, ни другие).

Подписи под текстом нет. Мустафа Сулейман, глава подразделения Microsoft AI, в документе не упомянут, хотя его эссе о «гуманистическом сверхинтеллекте» процитировано ссылкой в анонсе. Формально ответственного руководителя у кодекса не существует.

Как проверить обещания: приложение с тестируемыми сценариями

Самым практически ценным элементом является приложение, где базовые требования разложены на конкретное поведение с примерами правильных и неправильных реакций. Публикация результатов таких прогонов превратила бы кодекс из красивого текста в проверяемый инструмент. Пока результатов нет, документ остаётся декларацией о том, что «люди важнее ИИ», рядом с моделями, обучение которых к нему отношения не имеет. Переработанная версия обещана до конца года — именно по ней станет видно, во что Microsoft превратит собранные замечания.

Резюмируя: Microsoft сделала шаг к прозрачной архитектуре безопасности для своих будущих систем MAI, зафиксировав принципы человеческого контроля, отказа от имитации сознания и строгой иерархии приоритетов. Однако до внедрения в реальные продукты путь пролегает через открытое обсуждение, переработку к концу года и летнюю разработку 2027-го. Для индустрии это сигнал: крупнейшие игроки начинают формализовать «конституции» ИИ, но механизмы принуждения и верификации пока отсутствуют.