FraudGPT: come l'IA generativa può diventare uno strumento in mano ai cybercriminali

È passato poco più di un anno da quando OpenAI ha lanciato ChatGPT, il suo chatbot basato sull'intelligenza artificiale generativa che da allora è diventato il più celebre rappresentante della sua categoria. Se ChatGPT è senza dubbio uno strumento straordinario che può essere di supporto in molte attività – dal coding alla scrittura di testi – molti esperti di cybersicurezza ne hanno anche sottolineato il potenziale uso malevolo.

In questo articolo andiamo allora ad affrontare il lato oscuro dell'IA generativa, il suo essere, potenzialmente, un utile aiuto anche per i cybercriminali.

In che modo l'IA generativa può essere usata dai cybercriminali

Come abbiamo accennato poco sopra, l'IA generativa può essere impiegata, tra le altre cose, anche per produrre codice, e quindi software. Tuttavia, secondo alcuni esperti del settore, i cybercriminali sarebbero restii a usarla in questo modo. Dato che i motori di intelligenza artificiale vengono addestrati su dati passati, non sarebbero in grado di produrre malware efficaci, per cui occorrono, pur piegandoli a un intento malevolo, creatività e spirito di innovazione.

Al contrario, ci sono ambiti in cui l'IA generativa può essere, purtroppo, di grande aiuto per il cybercrimine:

• Phishing: come sottolineato da una ricerca condotta dalla piattaforma di cybersicurezza per e-mail Abnormal Security, la prima metà del 2023 ha visto un aumento delle e-mail fraudolente in ambito professionale dell'89% rispetto allo stesso periodo dell'anno precedente. L'incremento sarebbe da collegare proprio alla diffusione dell'IA generativa avvenuta nella seconda metà del 2022. Approfondiremo meglio in che modo le IA possono rendere più efficace il phishing tra poco.
• Sextortion: si tratta di un termine che indica i ricatti basati sulla minaccia di diffondere immagini compromettenti rubate da un dispositivo o che la vittima ha ingenuamente condiviso o diffuso. Ebbene, da quando le intelligenze artificiali capaci di generare immagini sono diventate alla portata di tutti, il ricatto può riguardare anche immagini deep fake create dai cybercriminali, come avverte un allarme lanciato dall'FBI. L'agenzia americana afferma di ricevere sempre più denunce da vittime, anche minorenni, che sono finite sotto ricatto per immagini del tutto false, create a partire da scatti innocui condivisi sui social.

Intelligenza artificiale generativa e phishing

Gli attacchi phishing hanno sempre avuto un problema: la qualità. Difficilmente un'e-mail di phishing, o un falso sito che richiede un pagamento, avevano una qualità tale da ingannare una vasta percentuale dei destinatari. Grazie all'IA generativa, purtroppo, questo limite è stato superato. Grazie all'IA è infatti possibile produrre e-mail di phishing in qualunque lingua, prive dei classici errori madornali che si trovano di solito nei messaggi di questo genere, o creare in modo facile e veloce un sito di qualità capace di ingannare moltissime persone.

Non solo, ma può anche essere estremamente utile per tutti quegli attacchi di social engineering e di spear phishing che prendono di mira manager, impiegati di alto livello, capi d'azienda e in generale persone che, se ingannate, possono fruttare ai cybercriminali grosse cifre. Sono già noti casi di attacchi che hanno riguardato non solo falsi messaggi e-mail, ma addirittura telefonate effettuate utilizzando un'intelligenza artificiale capace di mimare la voce di una persona realmente esistente.

Come possiamo difenderci?

Ecco qualche consiglio per proteggerci:

• Rendere più rigide le impostazioni della privacy dei nostri profili social (e di quelli dei nostri figli).
• Quando stiamo per immettere un pagamento in un sito web, verifichiamo sempre che l'URL sia quello che ci aspettiamo.
• Controllare l'indirizzo e-mail da cui proviene un messaggio. Potrebbe assomigliare ma non essere identico a quello della persona o dell'azienda che il mittente dice di essere.
• Sul luogo di lavoro, implementare delle procedure da seguire per i trasferimenti di denaro che prevedano l'approvazione dei pagamenti da parte di una o più persone tramite meccanismi di autenticazione sicuri.

Temi che i tuoi dati possano essere finiti in mani sbagliate? Usa SICURNET, il servizio che monitora la diffusione dei tuoi dati in rete (incluso il dark web) e ti avvisa in caso di pericolo!