Gli hacker stanno vendendo un servizio che aggira le restrizioni di ChatGPT sul malware? - Il commento di ESET 1

Gli hacker stanno vendendo un servizio che aggira le restrizioni di ChatGPT sul malware? – Il commento di ESET

Secondo il portale ArsTechnica, gli hacker hanno escogitato un modo per aggirare le restrizioni di ChatGPT e lo stanno utilizzando per vendere servizi che consentono di creare malware e email di phishing. ChatGPT blocca attivamente le richieste di generazione di contenuti potenzialmente illegali. Se si chiede al servizio di scrivere codice per rubare dati da un dispositivo violato o per creare un’e-mail di phishing, il servizio si rifiuta e risponde che tali contenuti sono “illegali, non etici e dannosi”. I ricercatori della società di sicurezza Check Point Research hanno rilevato un modo semplice per aggirare queste restrizioni che gli hacker stanno utilizzando per vendere servizi illeciti in un forum criminale clandestino. La tecnica funziona utilizzando l’interfaccia di programmazione dell’applicazione ChatGPT piuttosto che l’interfaccia web. ChatGPT mette a disposizione degli sviluppatori l’API in modo che possano integrare il bot AI nelle loro applicazioni. È emerso che la versione dell’API non applica restrizioni sui contenuti dannosi.

Commento di Fabio Buccigrossi, Country Manager di ESET Italia

“I criminali informatici continuano a eludere in modo impressionante i controlli in vigore e quando si trovano di fronte a un problema come l’impossibilità di utilizzare ChatGPT per usi illeciti, sono pronti a ricorrere a tecniche intelligenti per continuare a utilizzare la tecnologia. L’accesso all’API consente agli attori delle minacce di avere accesso all’intelligenza artificiale e, ironia della sorte, permette ai gruppi criminali di trarre profitto da questo tentativo di oscurare un comportamento non etico.

Questo è uno dei tanti problemi associati all’IA intelligente, che non è automaticamente dotata di linee guida morali fin dall’inizio e sarà inevitabilmente abusata da coloro che vogliono trarne un vantaggio criminale. Misure di sicurezza più severe sono di vitale importanza per rendere più sicuro il processo di IA, poiché questa nuova tecnologia sarà naturalmente sfruttata ovunque sia possibile. In tutto questo, non dobbiamo dimenticare che ci sono altri strumenti di IA già sul mercato che potenzialmente possono essere utilizzati in modo altrettanto grave o peggiore”.

This will close in 20 seconds

Translate »