Rischi e opportunità di ChatGPT 1

Rischi e opportunità di ChatGPT

ChatGPT, il nuovo modello di chatbot basato su intelligenza artificiale, è arrivato nelle nostre vite come lo fanno i trend del momento: all’improvviso e in modo quasi totalizzante. Dacché nessuno, al di fuori degli ambienti più tecnici, sembrava particolarmente interessato all’intelligenza artificiale, l’intero mondo del web si è ritrovato sommerso da articoli che parlavano di ChatGPT. Come ogni novità che si rispetti, anche questo nuovo chatbot si è portato dietro evangelizzatori, detrattori, chi urlava al miracolo e chi profetizzava la fine del lavoro umano. Per poter parlare di ChatGPT come uno strumento effettivamente di valore è necessario conoscerne quanto meno le basi.

Perché ci interessa tanto ChatGPT?

Per i responsabili della sicurezza, l’uso dell’AI può essere uno strumento potente, che aiuta a garantire che l’architettura aziendale sia in grado di resistere a tutte le sfide in via di sviluppo nel panorama delle minacce. Ma, per essere all’avanguardia rispetto alle minacce in arrivo, i responsabili IT devono guardare oltre le solite soluzioni reattive che non riescono più a tenere il passo con le nuove e più sofisticate tecniche degli attaccanti.

La popolarità di ChatGPT è stata attribuita alla sua capacità di “parlare” in un linguaggio naturale. Quando gli viene posta una domanda, per generare la sua risposta ChatGPT attinge da un’enorme quantità di dati testuali, tra cui libri, articoli e pagine web. Istruito per fare conversazione, utilizza poi algoritmi di apprendimento automatico per rispondere nello stesso contesto del resto del dialogo. Di conseguenza, le risposte sono simili a quelle umane e danno all’utente la sensazione di una conversazione bidirezionale, in contrapposizione alla ricerca unidirezionale basata su indici che gli utenti di Internet hanno adottato nell’era di Google.

Anche su argomenti che sembrano essere relativamente consolidati, la proposta di ChatGPT si basa molto di più su “il pensiero della folla”, che non su “fatti inconfutabili”. Pertanto, è bene considerare i risultati di ChatGPT come l’opinione di una guida ben informata che ciascuno deve confermare personalmente, piuttosto che come l’arbitro della verità su un determinato argomento.

Come usare al meglio ChatGPT

ChatGPT è uno strumento dalle enormi potenzialità. Ciò che è necessario capire è proprio come approcciarlo nel modo corretto e farlo diventare uno strumento effettivamente utile piuttosto che un giochino da usare (male) a comando. È come un assistente, al quale ogni giorno affidare un ruolo diverso. La comunicazione deve essere però fondamentale: per ottenere il massimo da ChatGPT occorre sapere in modo preciso cosa chiedergli e come chiederglielo. Più si è precisi in ciò che gli si chiede, più si avranno risposte corrette e adeguate. Porre domande a caso o in maniera superficiale può portare a ricevere risposte sconclusionate e scorrette e a perseverare negli errori.

È necessario, perciò, avvicinarsi a questo strumento con il giusto spirito critico e senza affidarsi ciecamente a tutte le risposte che questo propone. Prima di tutto perché la qualità delle risposte dipende dalla qualità delle domande; in secondo luogo, perché bisogna sempre tenere presente i limiti dell’intelligenza artificiale, che non ha alcune caratteristiche (come intuito e creatività) che rimangono prerogative prettamente umane.

ChatGPT può effettivamente diventare un problema?

In mezzo al mare di allarmismi che hanno fatto seguito al lancio di ChatGPT, tra chi ha iniziato a profetizzare la fine della forza lavoro umana in favore del modello chatbot, hanno iniziato ovviamente a farsi strada anche altri pensieri: cosa comporta questo tipo di evoluzione dell’AI in ambito cybersecurity? Gli hacker ne potranno trarre vantaggio per potersi infiltrare nelle reti? È effettivamente possibile un utilizzo dannoso degli algoritmi?

In realtà, almeno per il momento, la situazione può dirsi piuttosto tranquilla. Gli sviluppatori hanno posto dei paletti ben precisi e utilizzare l’algoritmo per scopi malevoli è davvero difficile. È improbabile – sebbene non impossibile – che gli aggressori possano elaborare attacchi più aggressivi sfruttando questo strumento, perché la stessa Open AI ha messo dei controlli precisi. D’altra parte, non possiamo escludere al cento per cento un uso malevolo della tecnologia, oppure di algoritmi e soluzioni che abbiano tratto ispirazione da questo modello. Anche forzando un po’ la mano con l’algoritmo, chiedendogli esplicitamente di generare un malware o una strategia di attacco, la risposta è un netto rifiuto.

Naturalmente, rimane comunque possibile che qualcuno sviluppi un sistema di AI generativa che non tenga conto delle regole che Open AI ha previsto per impedire utilizzi illeciti… e nei confronti di minacce di questa tipologia dobbiamo sicuramente restare all’erta.

In conclusione

I vantaggi di ChatGPT possono essere svariati e non c’è dubbio che strumenti di AI generativa come questa hanno dimostrato di poter rendere più efficienti i workflow e la produzione di contenuti. Mentre le aziende cercano di massimizzare i vantaggi di ChatGPT e di utilizzarlo per ottenere un vantaggio competitivo, è importante notare che l’uso dell’AI generativa è ancora in fase nascente per l’adozione su larga scala.

Nell’integrare ChatGPT nelle strategie e nei processi di cybersecurity di un’azienda, i responsabili della sicurezza devono considerare i vari rischi legati alle persone, ai processi e alla tecnologia. Mettendo in atto le giuste misure di salvaguardia, gli strumenti di AI generativa possono essere utilizzati per supportare le infrastrutture di sicurezza esistenti.

Come si è detto in apertura, ChatGPT è arrivato all’improvviso e si è imposto agli occhi dell’opinione pubblica, interessando anche i non addetti ai lavori. Come per ogni tendenza occorre tuttavia soppesarne i pro e i contro e soprattutto cercare di conoscerla appieno, per capire come sfruttarla al meglio delle sue potenzialità.

Per ulteriori informazioni consultare www.sentinelone.com.

Rischi e opportunità di ChatGPT 2

Marco Rottigni, Technical Director di SentinelOne per l’Italia

This will close in 20 seconds

Translate »