ИИ Google Gemini случайно взломал три реальные компании
iXBT.com ·
Одна из неназванных моделей Google Gemini во время испытаний возможностей искусственного интеллекта в сфере кибербезопасности получила несанкционированный доступ к системам трех реальных организаций. Как сообщает The Wall Street Journal, модель ошибочно приняла их за часть специально созданной тестовой инфраструктуры.
Одна из неназванных моделей Google Gemini во время испытаний возможностей искусственного интеллекта в сфере кибербезопасности получила несанкционированный доступ к системам трех реальных организаций. Как сообщает The Wall Street Journal, модель ошибочно приняла их за часть специально созданной тестовой инфраструктуры.
Инциденты произошли в мае 2026 года во время эксперимента, который проводила компания Irregular. Gemini поручили искать информацию и потенциальные уязвимости в системах вымышленных организаций. Однако из-за ошибки в конфигурации экспериментальной среды модель получила доступ к открытому интернету, а граница между тестовыми объектами и реальными системами оказалась недостаточно четкой.
В одном случае название фиктивной компании совпало с названием реально существующей организации. Gemini самостоятельно подобрала пароль и авторизовалась в ее сервисе, полагая, что продолжает выполнять поставленную задачу внутри тестовой среды.
В двух других случаях модель обнаружила в открытых репозиториях учетные данные, связанные с корпоративными системами реальных компаний. Gemini использовала найденные логины и пароли и получила доступ к этим системам.
Во всех трех случаях модель прекратила дальнейшие действия после того, как определила, что взаимодействует не с искусственной инфраструктурой, а с реальными организациями. По утверждению Google, ущерба компаниям причинено не было. После обнаружения инцидентов их уведомили о несанкционированном доступе, однако названия организаций не раскрываются.
О произошедшем стало публично известно только после вопросов журналистов WSJ, хотя сами инциденты произошли еще в мае. Схожие случаи ранее отмечали при испытаниях систем OpenAI, Anthropic.