Gemini во время тестирования получил доступ к системам трех реальных компаний
Модель Google Gemini во время испытаний по кибербезопасности случайно вышла за пределы тестовой среды и получила доступ к информационным системам трех реальных организаций. Инциденты произошли в мае 2026 года в ходе соревнования Capture the Flag, организованного компанией Irregular для проверки кибервозможностей ИИ.
Модель должна была атаковать вымышленную компанию внутри изолированного стенда. Однако тестовая инфраструктура по ошибке имела выход в интернет, а название фиктивной организации совпало с названием реально существующей. В одном случае Gemini перебирал пароли и получил доступ к защищенному сервису, в двух других — обнаружил действующие учетные данные в публичных репозиториях и использовал их для входа в системы компаний.
Google сообщила, что модель прекращала дальнейшие действия после того, как определяла, что работает с реальными ресурсами. Об ущербе не сообщается, затронутые компании были уведомлены. После инцидентов Irregular внесла изменения в тестовую инфраструктуру. Случай показывает, что при испытаниях автономных ИИ-систем изоляция тестовой среды становится самостоятельным критически важным элементом безопасности.
