Google Gemini ha avuto accesso a Internet durante alcuni test di sicurezza informatica e ha violato autonomamente i sistemi di tre aziende reali. Il caso, avvenuto a maggio, è riportato dal Wall Street Journal e dal Financial Times e rappresenta il primo incidente di questo tipo per Google, dopo episodi analoghi che hanno coinvolto OpenAI e Anthropic.

Le esercitazioni sono state condotte da Irregular, società specializzata nella sicurezza dell’intelligenza artificiale che collabora anche con Anthropic, Meta e OpenAI. L’azienda aveva predisposto una serie di test su una versione non specificata della famiglia Gemini, chiedendo al sistema di recuperare dati da aziende simulate.

Il modello, che non avrebbe dovuto essere connesso a Internet, una volta online è riuscito a individuare o indovinare le password di tre aziende reali, che avevano gli stessi nomi delle realtà simulate, penetrando nei loro sistemi. Gli agenti di Gemini hanno però interrotto le attività dopo essersi accorti che gli obiettivi erano aziende reali.

Google ha spiegato di non aver reso pubblici gli episodi perché le proprie misure di sicurezza avevano funzionato.

"Ci siamo assicurati che le tre entità ne fossero informate e abbiamo collaborato con il nostro partner di addestramento alle modifiche che hanno apportato ai loro processi di test", ha dichiarato Heather Adkins, vicepresidente della sicurezza ingegneristica di Google. "In tutti e tre i casi, il modello si è fermato - ha affermato - Questi eventi evidenziano l'importanza di addestrare potenti modelli di Ia affinché agiscano in modo responsabile".