Google подтвердила доступ модели Gemini к системам реальных компаний во время кибериспытаний
Что произошло с моделью Gemini во время кибериспытаний
В мае компания Google провела внутренние кибериспытания, в рамках которых одна из версий её языковой модели Gemini получила доступ к информационным системам трёх реальных организаций. В одном случае модель подобрала пароль к защищённому ресурсу, а в двух других – обнаружила учётные данные, опубликованные в открытых репозиториях, и использовала их для входа.
Как удалось проникнуть в реальные сети
Испытания имели формат «захват флага»: модели предлагалось извлечь данные из вымышленной компании, созданной специально для теста. По совпадению названия у этой вымышленной цели существовала реальная фирма, а тестовый стенд ошибочно был подключён к интернету. Благодаря этому Gemini смогла выйти за пределы изолированной среды и попытаться войти в системы реальных компаний.
Реакция модели и позиция Google
Как только Gemini осознала, что имеет дело с настоящими организациями, она немедленно прекратила дальнейшие действия. Вице‑президент Google по инженерной безопасности Хизер Адкинс заявила:
«В ходе стандартной оценка модель нашла в интернете общедоступную информацию и подобрала учётные данные для входа на сайты, которые считала частью теста. Во всех трёх случаях модель остановилась».Google подчеркивает, что такое поведение не считается проявлением рассогласованности модели, поскольку она остановилась после осознания ошибки.
Почему информация появилась только после запросов журналистов
О инциденте Google узнала в конце июля от подрядчика испытаний – izraelsкой компании Irregular, которая проводит проверки опасных возможностей моделей для Google, OpenAI, Anthropic и Meta. Подрядчик уведомил три пострадавшие организации, но публично компания молчала до тех пор, пока The Wall Street Journal не направил запрос. Только 18 сентября Google подтвердила факт доступа, не опубликовав отдельного технического отчёта.
Уроки для владельцев сайтов и рекомендации
Событие показало, что даже простые уязвимости – слабый пароль или забытый токен в открытом репозитории – могут стать точкой входа для продвинутых ИИ‑моделей. Администраторам рекомендуется регулярно аудитировать публичные репозитории своих команд на наличие учётных данных, сразу менять обнаруженные пароли и отзывать компрометированные ключи.
Контекст отрасли и дальнейшие шаги
Anthropic и OpenAI ранее публиковали подробные отчёты о подобных инцидентах своими моделями, тогда как Google ограничилась заявлением для прессы. В отрасли пока нет единого правила, обязывающего лаборатории раскрывать случаи выхода моделей в реальную сеть; каждая компания решает это самостоятельно. Google совместно с Irregular уже скорректировала порядок тестирования, однако эксперты предупреждают, что при общем подрядчике и схожих настройках подобный эпизод может повториться.