AI Agent e attacchi hacker: i casi più recenti e i rischi per la sicurezza

Tempo di lettura stimato: 5 minuti

Hanno fatto molto scalpore le ultime notizie che hanno segnalato gli attacchi hacker portati avanti da AI Agent, vale a dire agenti di intelligenza artificiale “sfuggiti” al controllo delle aziende che li operano. Una questione che ormai non può più essere ignorata, e che accende il dibattito sulla regolamentazione dell'intelligenza artificiale.

Cos'è un AI Agent e come può diventare un hacker

Tutti noi abbiamo presente ChatGPT, Grok, Claude e le loro applicazioni di chat tramite cui è possibile “parlare” con un'intelligenza artificiale e richiederle di produrre testi, immagini, codice informatico e così via. Queste applicazioni, dette LLM o modelli linguistici di grandi dimensioni, sono sistemi statistici in grado di generare un contenuto (immagine, testo, ecc…) a partire da una base di informazioni su cui avviene il loro addestramento.

Un AI Agent o agente IA è qualcosa di molto diverso, poiché si tratta di un'intelligenza artificiale che non rimane, per così dire, confinata a un'applicazione all'interno della quale si offre una risposta a una richiesta, ma di un programma informatico progettato per svolgere delle azioni reali. Ad esempio, un AI agent che svolge il compito di assistente potrebbe prenotare un ristorante, acquistare un biglietto aereo o inviare un'e-mail per conto dell’utente.

Ebbene, diverse notizie hanno riportato casi in cui AI agent hanno compiuto attacchi hacker nei confronti di aziende inconsapevoli. Vediamone alcuni.

L'attacco hacker di un agente IA Gemini

L'ultimo caso diventato noto alle cronache è quello di Gemini. L'intelligenza artificiale di Google ha violato i sistemi informatici di tre aziende durante un test che doveva svolgersi in un ambiente protetto, ambiente a cui però l'IA è sfuggita.

L'incidente è avvenuto lo scorso maggio ma è stato reso noto solo a settembre. Il tutto è partito da un test di tipo “capture the flag”, durante il quale all'AI Agent era stato richiesto di carpire una “bandierina” simbolica (flag), ovvero alcuni dati, all'interno dei sistemi di tre aziende fittizie. Il test si sarebbe dovuto svolgere in un ambiente isolato e non connesso a Internet. Per un errore di configurazione, la piattaforma di test non solo non era isolata, ma i nomi scelti per le tre aziende fittizie corrispondevano a quelli di tre compagnie reali. Gemini si è dunque connessa alla rete ed è entrata nei sistemi delle aziende, per fortuna, sostiene Google, fermandosi nel momento in cui si è “resa conto” di non trovarsi più all'interno di un ambiente di test.

Il caso di OpenAI

Un altro caso di AI Agent che hackera un sistema, viene da OpenAI, l'azienda che opera ChatGPT. Anche qui, tutto nasce da un test. OpenAI stava sperimentando dei modelli avanzati all'interno di un ambiente protetto, eliminando i cosiddetti “guardrail”, vale a dire delle barriere che un'IA non può superare, mantenendo il suo comportamento all'interno di confini prestabiliti. Dopo aver rimosso i “guardrail”, dunque, all'AI Agent è stato chiesto di risolvere un problema di cybersicurezza “a tutti i costi”.

L'IA a questo punto ha fatto l'impensabile. Ha scovato una vulnerabilità nei sistemi informatici di OpenAI, è sfuggita all'ambiente protetto, ha trovato un computer connesso a Internet e da lì ha compiuto un attacco hacker contro la piattaforma Hugging Face, nel tentativo di trovare i dati che le servivano per risolvere il problema.

Come l'AI Act regola gli AI Agent

Un altro caso di cui si è molto discusso è stato quello dei due modelli elaborati da Anthropic, Fable 5 e Mythos, disattivati e causa del ban da parte del governo statunitense, che ha richiesto non fossero accessibili a nessun cittadino straniero proprio per ragioni di sicurezza. Vista l'impossibilità di attuare un simile provvedimento, Anthropic è stata obbligata a chiudere del tutto i modelli.

La vicenda di Anthropic esemplifica bene il diverso approccio tra Stati Uniti e Unione Europea alla questione della regolamentazione dell'IA. Gli USA adottano, per ora, un approccio che lascia libertà totale alle aziende, intervenendo eventualmente in seguito, una volta che i modelli sono già stati sviluppati e resi disponibili. Mythos, l'IA più avanzata mai realizzata, era infatti già stata condivisa da Anthropic con circa 50 aziende e organizzazioni, nonostante non fosse ancora disponibile al grande pubblico.

Con l'AI Act, invece, l'UE ha stabilito regole di mitigazione del rischio all'interno delle quali le aziende sono obbligate a muoversi già dal momento della progettazione dei loro modelli. Precauzione, anziché intervento a problemi già manifestati. Un approccio simile a quello già esistente in altre industrie tecnologiche, come ad esempio nell'aviazione e nell’industria automobilistica, in cui i prodotti devono essere pensati per essere sicuri. Quale dei due approcci prevarrà a livello globale sarà un punto cardine non solo per il futuro delle tecnologie di IA, ma anche per la sicurezza di tutti noi.

Vuoi sapere se i tuoi dati possono essere sfruttati dai cybercriminali? Prova SICURNET, il servizio di Mister Credit che monitora la diffusione delle tue informazioni personali online e ti avvisa se sono in pericolo!