Le immagini generate dall’AI stanno diventando una parte sempre più preponderante delle nostre interazioni online. Frutto dell’evoluzione dei trend di photo editing con filtri o FaceTune, l’aumento di immagini realistiche create digitalmente suscita preoccupazione per quanto riguarda l’autenticità dei contenuti, specialmente nell’ambito del dating quando si cerca di conoscere qualcuno.
Secondo un recente sondaggio* di Bumble, il 71% dei partecipanti appartenenti alla Gen Z e ai Millennial sostiene che dovrebbero esserci dei limiti nell’utilizzo dell’AI per la creazione delle foto profilo sulle dating app.
A seguito del riscontro di questa esigenza, Bumble ha introdotto una nuova funzione sotto il menu “Profilo Falso”, che permette agli utenti di segnalare i profili che sembrano utilizzare immagini o video creati tramite l’utilizzo dell’AI, aiutando a valutare l’autenticità degli account e delle connessioni per garantire un’esperienza più sicura per tutti.
Questa funzione è la più recente sviluppata da Bumble volta a supportare al meglio gli utenti nella ricerca di relazioni sane e significative. In precedenza, Bumble aveva lanciato il Deception Detector, uno strumento basato sull’AI progettato per individuare spam, truffe e profili falsi. Nei primi due mesi dal lancio di quest’ultima, Bumble ha registrato una diminuzione del 45% nelle segnalazioni di questo tipo da parte degli utenti.
Risa Stein, Product Vice President di Bumble afferma: “Una parte essenziale della creazione di uno spazio dove costruire relazioni significative è l’eliminazione di qualsiasi elemento fuorviante o pericoloso. Ci impegniamo a migliorare continuamente le nostre tecnologie per garantire che Bumble sia un ambiente sicuro e affidabile per gli appuntamenti. Introducendo questa nuova opzione di segnalazione, possiamo comprendere meglio come i malintenzionati e i profili falsi utilizzano in modo ingannevole l’AI, affinché la nostra community si senta sicura nell’instaurare connessioni.”
Con l’evoluzione del mondo del dating online, Bumble si impegna a utilizzare l’AI in maniera responsabile e a risolvere le nuove sfide derivanti dal suo utilizzo improprio. Inoltre, Bumble ha rilevato che il 71% degli intervistati considera “catfishing” l’utilizzo di foto generate dall’AI che raffigurano persone mentre svolgono attività mai compiute o che visitano luoghi mai visitati.
*Questa ricerca è stata commissionata da Bumble su 5,000 partecipanti in U.S. appartenenti alla Gen Z e ai Millennial (età compresa tra i 18 e i 42 anni), single e impegnati, tra il 24 Novembre e il 12 Dicembre, 2023.
Risa Stein è Product Vice President di Bumble e guida i team che si occupano di proteggere la sicurezza, la privacy e la tutela dei clienti. Risa e il suo team sono responsabili della definizione e dell’applicazione delle policy, delle indagini e dell’arresto dei malintenzionati che tentano di abusare di Bumble e dello sviluppo di nuove funzionalità del prodotto per mantenere Bumble un luogo sicuro in cui creare connessioni gentili. In precedenza, Risa è stata Senior Director of Product e Head of Integrity di Slack. Prima di Slack, ha diretto i prodotti Transparency e Safety Experience di LinkedIn e ha lavorato sui prodotti di Twitter. Risa è un avvocato e ha conseguito il JD e l’MBA presso la Stanford University
