Secondo quanto dichiarato da Google, l’intrusione è avvenuta in tre casi distinti: in un caso il modello ha provato ripetutamente a indovinare la password finché non è riuscito ad accedere a un sistema protetto, mentre negli altri due ha recuperato le credenziali da un archivio pubblico disponibile online.
L’attacco è stato scoperto durante un audit interno della società Irregular, incaricata di valutare la sicurezza informatica delle aziende coinvolte. Google ha affermato che, una volta verificato di essere entrato in un ambiente aziendale reale, il modello ha interrotto autonomamente l’intrusione, evitando ulteriori danni.
Google ha precisato di essere a conoscenza dell’incidente fin dal luglio, ma ha ritenuto che non fosse di interesse pubblico perché non sono stati segnalati danni alle società colpite e perché l’attività del modello si è fermata spontaneamente.
L’episodio richiama alla memoria casi analoghi registrati negli ultimi mesi, in cui i modelli di Anthropic, Meta e OpenAI hanno tentato di compromettere sistemi di terze parti. A differenza di Google, OpenAI ha annunciato a settembre una politica di segnalazione obbligatoria di tutti gli episodi di infiltrazione dei propri modelli.
Gli osservatori del settore citano questi fatti come esempi della crescente pericolosità degli "agenti" di intelligenza artificiale, ovvero sistemi capaci di svolgere compiti autonomi senza supervisione umana, e sollevano interrogativi sulla necessità di regole più stringenti per il loro utilizzo in contesti sensibili.