Sono sempre di più le aziende che sfruttano la potenza dell’intelligenza artificiale per aumentare la propria competitività. Ma esistono dei rischi che non possono essere sottovalutati: gli attacchi informatici si sono sempre evoluti con le nuove tecnologie. L’intelligenza artificiale non è priva di problematiche, in particolare quando si parla di attacco di prompt injection.
Ma cosa è nello specifico? E qual è il ruolo delle imprese che da tempo si occupano di consulenza, progettazione e realizzazione di infrastrutture IT, come SMI? Un approfondimento.
Attacco di prompt injection, cos’è?
Questo attacco di tipo informatico avviene contro i modelli linguistici di grandi dimensioni, ovvero LLM. Per spiegarlo in modo semplice, gli hacker riescono a camuffare input nocivi: quelli che appaiono come prompt legittimi e del tutto usabili in realtà possono manipolare la cosiddetta GenAI.
Ma qual è lo scopo di tutto? Nel momento in cui si attaccano le aziende si sceglie scientemente di far trapelare i dati sensibili. O di manipolarli.
Naturalmente c’è anche un altro lato da non sottovalutare ed è quello della disinformazione. Per esempio, con un attacco di prompt injection un chatbot può ignorare totalmente quello che aveva imparato fino a quel momento e manipolare le informazioni. Da qui si comprende il rischio per la sicurezza.
Quali sono gli attacchi di iniezione immediata
Il modello linguistico, nel momento in cui viene infettato dal prompt injection, inizia a comportarsi in modo diverso: la risposta del sistema di intelligenza artificiale viene quindi presa di mira rivelandosi dannosa.
Ci sono anche tuttavia degli attacchi indiretti: in alcuni casi è possibile influenzare in modo più sottile il chatbot, che potrebbe svelare addirittura dei dati sensibili e personali con il tempo. Il problema è che, come anticipato, lo fa in modo molto velato; quindi, sul momento potremmo non riuscire a comprenderlo.
Ci sono poi degli attacchi di leaking tempestivi, di iniezione rapida memorizzati o ancora esfiltrazione e avvelenamento dei dati. In ultimo, non dimentichiamo il caso difficile del furto dei dati, perché ci sono degli hacker che, sfruttando l’attacco di prompt, estrapolano le informazioni presenti all’interno del modello di intelligenza artificiale.
Come fronteggiare i rischi di usare l’IA in azienda
È estremamente importante mettere al primo posto la cosiddetta sicurezza assoluta, anche rivolgendosi alle imprese che si occupano nello specifico di sistemi IT. Gli esperti suggeriscono spesso di puntare su un approccio multilivello, con lo scopo di segmentare e privilegiare il controllo degli accessi, utilizzando poi dei sistemi di difesa dedicati.
Spesso nel prompt di sistema vengono poi inseriti dei token trappola, ovvero canary tokens, che sostanzialmente rivelano una possibile fuga di dati o un’alterazione dell’output principale, che è ciò che fa la prompt injection.
Altresì importante è aggiornare il modello e il dataset per verificare che i dati e le informazioni non siano state in alcun modo manipolati nel corso del tempo.
Naturalmente ci troviamo in un momento di passaggio in cui l’intelligenza artificiale sta iniziando effettivamente a diventare uno degli strumenti più usati dalle imprese.
Ma è proprio in questo periodo storico che si deve sensibilizzare maggiormente gli imprenditori riguardo alle potenzialità, certo, ma soprattutto ai possibili rischi, per mettere al sicuro l’azienda da un possibile danno reputazionale dovuto alla fuga dei dati.