Do incydentów doszło w maju podczas oceny przeprowadzonej przez niezależną firmę zajmującą się cyberbezpieczeństwem, Irregular.

Według Google Gemini znalazł w internecie publicznie dostępne informacje i odgadł dane logowania, aby uzyskać dostęp do trzech stron internetowych, które uznał za objęte zakresem testu. We wszystkich trzech przypadkach model przerwał włamanie.

W momencie zdarzeń nie poinformowano o nich publicznie. Jak podał „The Wall Street Journal”, Google uznał, że nie było podstaw do publicznego ujawnienia incydentów, ponieważ nie wyrządziły one żadnych szkód.

Podobne incydenty związane z firmą Irregular zostały również ujawnione przez firmy Meta, Anthropic i OpenAI. Osobny incydent z udziałem chińskiej firmy Moonshot AI został odnotowany podczas oceny cyberbezpieczeństwa przeprowadzonej przez Frontier Security.

Incydenty te wzbudziły obawy dotyczące tego, w jaki sposób należy ograniczać możliwości autonomicznych agentów AI, gdy otrzymują one dostęp do internetu i systemów komputerowych.