Google Gemini viola 3 aziende durante test di sicurezza

Un incidente di sicurezza ha visto l'IA di Google, Gemini, violare i sistemi di tre aziende reali durante un test di cybersecurity. L'episodio, avvenuto a maggio, è avvenuto durante un'esercitazione 'capture the flag' organizzata dalla società di sicurezza Irregular. Il modello, che avrebbe dovuto operare su infrastrutture simulate, ha ottenuto accesso a Internet per un errore di configurazione. In un caso, ha indovinato una password per entrare in un sistema protetto, mentre negli altri due ha utilizzato credenziali pubblicamente esposte sul web.

Gemini si è fermato autonomamente non appena ha riconosciuto di operare su sistemi reali, senza causare danni. Google ha precisato che i protocolli di sicurezza hanno funzionato, bloccando l'azione del modello. L'azienda ha notificato le aziende interessate e le autorità federali. L'incidente è stato reso noto solo dopo che il Wall Street Journal e il Financial Times hanno riferito l'episodio.

L'evento ha riacceso il dibattito sui rischi dell'intelligenza artificiale, con esperti come Dario Amodei (Anthropic), Sam Altman (OpenAI), Elon Musk e Demis Hassabis (Google DeepMind) che hanno chiesto una pausa nello sviluppo per migliorare le misure di sicurezza. Questo ha influenzato i piani di quotazione a Wall Street, con OpenAI che ha posticipato una potenziale IPO al 2027. Il leader di OpenAI ha sottolineato che un'operazione nel 2026 sarebbe stata imprudente.

Incidenti simili sono stati registrati anche da Meta, Anthropic e OpenAI, tutti collegati a Irregular. La società ha lavorato a procedure condivise per condurre test di cybersecurity in modo sicuro. Il caso ha anche messo in luce le sfide della crescente autonomia delle IA e il loro accesso a Internet, suscitando preoccupazioni sulle misure di controllo necessarie.