Ragazzini “spogliano” le compagne grazie all'app: scoppia il caso 'Bikinioff'. L'esperta: “La società corra ai ripari, l'educazione al digitale deve essere studiata a scuola"

TRENTO. I possibili effetti della corsa allo sviluppo di sistemi d'intelligenza artificiale sempre più potenti (e sempre più accessibili), lo abbiamo visto, sono dirompenti: basta un click (o un 'tap', per chi opera su smartphone) per dare vita a contenuti d'ogni tipo (dalle immagini ai video fino ai testi) mai esistiti nella realtà, ma tanto realistici da essere difficilmente individuabili come fake addirittura da quelle stesse tecnologie che li hanno generati (Qui un approfondimento sulla questione insieme a Paolo Traverso di Fbk).

Si tratta di strumenti virtualmente alla portata di tutti e, senza scomodare i giganti del settore come OpenAi, nel sottobosco della rete sono moltissime le applicazioni nate grazie alle funzionalità offerte dai nuovi sistemi di Ai, alcune delle quali potenzialmente molto problematiche. È il caso per esempio di 'Bikinioff', un bot nato su Telegram in grado di creare deepfake che 'svestono' le persone ritratte in una foto qualsiasi, di fatto generando un'immagine nella quale la persona in questione viene denudata grazie alle iper-realistiche 'aggiunte' operate dal bot stesso.

L'applicazione è finita sotto accusa negli ultimi giorni dopo che alcuni 14enni della Provincia di Roma sono stati accusati di aver modificato con il bot le foto di diverse compagne, condividendole poi tra gli amici. Uno “scherzo”, come l'hanno definito i diretti interessati, che rischiava di costare loro un'accusa per la produzione di materiale pedopornografico. E la situazione, stando a quanto riportano le autorità, è ormai diffusa nelle scuole con diverse segnalazioni ogni settimana, mentre, guardando alla velocità di sviluppo di questi sistemi, problematiche del genere non sembrano certo prossime a trovare una soluzione. Come muoversi allora?

“E' come dare una pistola in mano a chi non la sa governare – sintetizza la presidente dell'ordine degli psicologi in Trentino, Roberta Bommassar –. Di per sé il meccanismo psicologico alla base del gesto che un 14enne considera erroneamente una 'bravata' non cambia: ciò che cambia è l'enorme potenziale distruttivo di certi strumenti. Siamo di fronte, in poche parole, ad un cambiamento trasformativo in termini di pericolosità del quale non avevamo mai avuto sentore”. Una 'pistola', per l'appunto, lasciata in mano a dei ragazzini: la stessa app 'Bikinioff' per esempio è raggiungibile liberamente da chiunque, senza limiti di età, e permette a tutti di generare gratuitamente una prima immagine (per le successive si può invece pagare in diversi modi, dalla carta di credito alle criptovalute).

“Pensando a questi ragazzi – continua l'esperta – non mi immagino certo dei mostri, ma solamente dei giovani assolutamente impreparati a gestire uno strumento che può arrivare a rovinare la vita delle persone. È un qualcosa di enorme e che ancora non sappiamo governare: per questo oggi bisogna correre ai ripari, e per farlo è necessario un lavoro di formazione continua e di informazione che non può essere lasciato a qualche evento sporadico, non incardinato in un percorso serio e strutturato”.

In poche parole: non è sufficiente oggi, dice Bommassar, parlare dei rischi che i nuovi strumenti digitali presentano solamente in occasione, per esempio, degli incontri organizzati dalle forze dell'ordine nelle scuole o nel corso delle assemblee d'istituto. “Un percorso di educazione etica al digitale dovrebbe diventare materia d'insegnamento nelle scuole – spiega – per riflettere sulle conseguenze che certe azioni possono avere. D'altra parte sono infatti convinta che un utilizzo etico di questi strumenti possa essere potenzialmente arricchente”.

Il concetto alla base, come in tutti i contesti che prevedono una relazione tra le persone, è quello del consenso: “Si tratta di un discorso che va ad abbracciare l'approccio al digitale in generale – sottolinea Bommassar –: nella mente dei giovani deve entrare il concetto che prima di mandare o modificare immagini o di fare commenti vari è necessaria la richiesta del consenso. Parliamo di un tema che è stato (ed è tutt'ora) affrontato in particolare per quanto riguarda la sfera della sessualità ma che è ovviamente centrale nelle relazioni in generale. È fondamentale chiedersi cosa penserebbe l'altro, il diretto interessato, delle nostre azioni”.