Secondo un rapporto di Bloomberg, un hacker ha sfruttato il chatbot Claude di Anthropic per sferrare attacchi contro agenzie governative messicane. Cio’ ha portato al furto di 150 GB di dati ufficiali del governo, tra cui registri dei contribuenti, informazioni di accesso dei dipendenti e altro ancora.
L’hacker ha utilizzato Claude per individuare vulnerabilita’ nelle reti governative e creare script per sfruttarle. Ha anche incaricato il chatbot di trovare modi per automatizzare il furto di dati, come indicato dalla societa’ di sicurezza informatica Gambit Security. L’operazione e’ partita a dicembre ed e’ durata circa un mese. Sembra che l’hacker sia riuscito a effettuare il jailbreak di Claude con dei prompt, aggirando infine le protezioni del chatbot.
Anthropic ha svolto indagini, interrotto l’attivita’ e bloccato tutti gli account coinvolti, secondo quanto riferito da un portavoce dell’azienda. Quest’ultimo ha anche affermato che la versione piu’ recente del chatbot, Claude Opus 4.6, include strumenti per contrastare queste attivita’ di uso fraudolento.
Commento di Jake Moore, Global Security Advisor di ESET
”Stiamo entrando in una nuova fase che molti temevano da tempo: ora e’ altamente probabile che nei cyberattacchi basati sull’AI vengano utilizzati codici e sistemi piu’ avanzati. Strumenti come Claude Code sono ormai cosi’ efficaci da consentire anche a chi e’ alle prime armi di agire con la rapidita’ e l’energia di un’intera rete cyber organizzata.
Allo stesso tempo, l’AI e’ anche un importante aiuto per i sistemi di difesa, nel rilevare le minacce legate all’AI. Proprio di recente, ESET ha individuato PromptLock, il primo ransomware basato sull’AI, che da’ un’idea di come sara’ il futuro dei crimini informatici. Tuttavia, i pirati informatici non avranno la meglio; il settore della sicurezza informatica utilizza da tempo l’AI e continuera’ a migliorare la propria tecnologia.
Non c’e’ mai stato un momento piu’ cruciale per le organizzazioni per prepararsi agli attacchi. Soprattutto perche’ gli strumenti di AI utilizzati dalle persone rimangono il miglior punto di accesso per gli hacker.
Le informazioni di contesto fornite in questa comunicazione sono di dominio pubblico e vengono condivise a scopo informativo. ESET non si assume alcuna responsabilita’ per l’accuratezza, la completezza o l’affidabilita’ di tali informazioni, che restano di esclusiva responsabilita’ delle fonti originali.
