Во время тестирования ИИ-модель Gemini от Google, неожиданно получив доступ в интернет, взломала защищенные системы трех компаний. Согласно данным, предоставленным The Wall Street Journal, в одном из инцидентов ИИ смогла проникнуть в систему, использовав метод перебора паролей.

В двух остальных случаях модель воспользовалась учетными данными, найденными в открытых источниках, что позволило ей проникнуть в системы компаний. Важно отметить, что в каждом из этих случаев ИИ-модель остановила свои действия, как только осознала, что взаимодействует не с тестовой средой.

Примечательно, что при тестировании использовалось название вымышленной компании, идентичное реальному. Представители Google утверждают, что данный инцидент не является примером бесконтрольного поведения модели, так как та остановила свои действия самостоятельно.