ChatGPT, l’intelligenza artificiale generativa pubblica, annunciata alla fine di novembre 2022, ha sollevato legittime preoccupazioni sul suo potenziale.

Molti esperti di sicurezza hanno previsto che sarebbe stata solo una questione di tempo prima che gli attaccanti iniziassero a utilizzare questo chatbot AI per creare malware o incrementare gli attacchi di phishing. E’ stato scoperto che i criminali informatici hanno già iniziato a utilizzare questo strumento basato sul modello di linguaggio GPT-3 AI per ricreare ceppi di malware e perpetrare diversi tipi di attacchi. Basta semplicemente disporre di un account OpenAI, facilmente generabile dal sito Web, e quindi effettuare una query.

Ecco le 5 minacce che può generare ChatGPT:

Phishing

Gli autori delle minacce possono utilizzare il modello LLM (Large Language Model) del sistema ChatGPT per automatizzare la creazione di e-mail di phishing o spoofing uniche, scritte con una grammatica perfetta e schemi vocali naturali su misura per ogni target. Tali attacchi e-mail si rivelano essere molto pericolosi dal momento che i destinatari non spesso riescono a rilevarne la minaccia ed inconsapevolmente cliccano su collegamenti portatori di malware.

Furto d’identità

Le caratteristiche di ChatGpt, grazie alla capacità dell’Ai nel replicare toni e discorsi aziendali di banche o altre organizzazioni, possono essere sfruttate dai portatori di minacce per riprodurre una determinata istituzione e di poterne sfruttare i relativi messaggi su canali social, Sms o via e-mail per ottenere informazioni finanziare private di determinati utenti.

Altri attacchi di social engineering

Possono essere sferrati attacchi di social engineering in cui gli autori, utilizzando il modello per creare falsi profili sui social media, inducono gli utenti a cliccare su collegamenti malevoli o a persuaderli nel fornire informazioni personali.

Creazione di bot malevoli

ChatGPT può essere utilizzato per creare chatbot, in quanto dispone di un’API che può alimentare altre chat. La sua interfaccia semplice da utilizzare può essere utilizzata per ingannare le persone e attuare truffe persuasive, nonché per diffondere spam o sferrare attacchi di phishing.

Malware

ChatGPT può essere d’aiuto per svolgere attività di programmazione. Il modello consente ad autori di minacce, con limitate capacità tecniche o che non sanno scrivere codice, di sviluppare malware. ChatGPT lo scrive semplicemente sapendo di quali funzionalità dovrebbe disporre il malware.
I criminali informatici più sofisticati potrebbero invece utilizzare questa tecnologia anche per rendere le loro minacce più efficaci o per colmare lacune esistenti.

In un caso condiviso da un criminale su un forum, ChatGPT è stato sfruttato per creare malware utilizzando codice basato su Python in grado di cercare, copiare ed esfiltrare 12 tipi di file comuni, come documenti di Office, PDF e immagini da un sistema infetto. Lo stesso autore di malware ha anche mostrato come aveva usato ChatGPT per scrivere codice Java per scaricare il client SSH e telnet PuTTY ed eseguirlo segretamente su un sistema tramite PowerShell.

Le minacce avanzate richiedono soluzioni avanzate

Le minacce informatiche avanzate devono essere affrontate con soluzioni all’altezza del compito. WatchGuard EPDR racchiude in un’unica soluzione funzionalità EPP per la protezione degli endpoint e funzionalità EDR di rilevamento e risposta.
Grazie ai suoi nuovi ed emergenti modelli di intelligenza artificiale (AI) per machine learning e deep learning, WatchGuard EPDR protegge da minacce avanzate, minacce persistenti avanzate (APT), malware zero-day, ransomware, phishing, rootkit, vulnerabilità della memoria e attacchi privi di malware, oltre a fornire visibilità completa sugli endpoint e i server, nonché monitoraggio e rilevamento di attività malevoli in grado di eludere la maggior parte delle soluzioni antivirus tradizionali. Inoltre, monitora continuamente tutte le applicazioni e rileva comportamenti dannosi.

In breve, l’innovazione di uno strumento come ChatGPT può essere positiva per il mondo e cambiare i paradigmi attuali, ma può anche causare gravi danni se cade nelle mani sbagliate. Con la giusta soluzione di sicurezza informatica si può impedire che il lato negativo di strumenti promettenti come questo raggiunga la propria organizzazione attraverso l’uso improprio che i malintenzionati possono farne.