Contenuto sponsorizzato

Deepfake, se il video falso finisce in tribunale? Boato: "Poter dire se è autentico o meno non è facile. La tecnologia avanza ma la giurisdizione spesso non la segue"

Seconda puntata sul fenomeno del deepfake. Il software impara delle espressioni e riesce a replicarle. Qui sta la potenza dell'intelligenza artificiale: più dati ha meglio affina il modello. Il team di Giulia Boato si occupa anche di data forensic: "Spesso ci viene chiesto: ma in questo video la macchina si muove o non si muove? Ma secondo te è vero o non è vero?''

Di Arianna Viesi - 03 novembre 2019 - 21:00

TRENTO. Se oggi le immagini video sono tra le prove più schiaccianti in processi, indagini, inchieste, domani potrebbe non essere più così. Cosa succederebbe se si manipolasse una registrazione di una telecamera di videosorveglianza, magari che ha ripreso una rapina o un omicidio, modificando i tratti del volto del delinquente con quelli di qualcun'altro? E poi ci sono gli audio, le intercettazioni telefoniche: cosa accadrebbe se si potessero riprodurre perfettamente voci e interi discorsi con voci altrui anche se mai pronunciate?

 

Il team di Giulia Boato, professoressa dell'Università di Trento presso il Dipartimento di Ingegneria, da molti anni si occupa di deepfake (QUI VI ABBIAMO SPIEGATO COSA SONO) dal punto di vista tecnico e di data forensic. Di tutte quelle tecnologie, insomma, che servono ad evidenziare alterazione audio e video.

 

"In questo momento i deepfake riguardano una persona - spiega Boato - che viene posta in un contesto in cui realmente non è stata. Ad oggi ci si limita al viso perché i dati a disposizione sono principalmente quelli dei visi e delle persone che parlano. L'intelligenza artificiale entra in gioco proprio qui: le reti neurali, se hanno tanti dati a disposizione, imparano il modello-persona. Se io ho a disposizione video, immagini e voci, posso creare deformazioni facciali coerenti. Se aggiungiamo anche la voce, la cosa diventa ancora più impressionante".

 

"Ci sono tecniche che riproducono qualsiasi tipo di espressione visiva di una persona target. Per fare questo, l'intelligenza artificiale ha bisogno di tantissime immagini e video di questo soggetto. Il software impara delle espressioni e riesce a replicarle. Qui sta la potenza dell'intelligenza artificiale: più dati ha meglio affina il modello. Se ho come target una persona di cui non ho tantissime immagini e video, ne uscirà un falso approssimativo. Se, invece, abbiamo migliaia di ore di video e immagini, il modello sarà molto più preciso".

 

"Il secondo punto riguarda la contraffazione della voce. Se ho tanti video di una persona X, video in cui questa persona parla, riesco a sintetizzarne la voce e, da lì, creare qualsiasi frase che voglio pronunci. Per fortuna  l'abbinamento voce-video è un passo ancora molto difficile. La sincronizzazione voce-espressione facciale è complicata. Ma, purtroppo, ci si arriverà. Ad oggi, non sono a disposizione dell'utente medio e rimangono dominio della ricerca. Ma, come sappiamo, i tempi stanno andando molto veloci. In pochi anni ci arriveremo. Si arriverà, insomma, ad una virtualizzazione ancora più preoccupante. Avremmo video in cui potremmo far figurare chiunque facendogli dire quello che vogliamo".

 

Ma cosa fa, la tecnologia, per contrastare se stessa? O meglio, per contrastare l'uso malevolo che se ne fa? "Dal punto di vista dell'analisi forense, l'Italia è una delle nazioni più attive del mondo. Fino a qualche anno fa analizzavamo delle deformazioni particolari come simmetrie e asimetrie del viso. I modelli di una volta erano, come si può immaginare, più semplici. I modelli di creazione in questo momento stanno migliorando a vista d'occhio perché stanno imparando da modelli reali. Per questo, anche la rilevazione diventa più complessa. Attraverso precisi modelli, riusciamo a tirare fuori dai video delle tracce invisibili e che spesso sono legate a delle incoerenze statistiche. Il dato ha una coerenza statistica. Si possono trovare tracce invisibili che, in un dato integro, sono coerenti. Il nostro obiettivo è quello di trovare incoerenze dove queste tracce non coincidono. Per fare questo, in questo momento, la ricerca sta andando verso l'utilizzo della stessa intelligenza artificiale di cui sopra".

 

"Il problema, però - continua Giulia Boato - sta nella quantità dei dati. Se disponiamo di tanti dati, possiamo allenare le reti. Se tu alleni la rete dandole esempi autentici e modificati, la rete impara, a suo modo. Nel momento in cui le viene sottoposto un dato nuovo che non conosce, la rete saprà riconoscerlo come autentico se assomiglia di più ai modelli autentici, o come inautentico se è modificato".

 

"La grande novità è questa: oggi esistono tecniche che creano manipolazioni incredibilmente realistiche. Tecniche per cui non si riesce a stabilire se un'immagine sia vera o falsa".

 

I deepfake aprono un baratro anche (e soprattutto) dal punto di vista giuridico. "La tecnologia va avanti ma la giurisdizione, spesso, non la segue. Noi possiamo essere chiamati come consulenti tecnici. Il punto però è questo: poter dire se un dato è autentico, integro oppure no, non è sempre facile. Il dato digitale è questionabile. Da anni diciamo che dovremmo interagire di più con la parte che lavora su questi temi, fare informazione in questa direzione".

 

Ma il vero problema rimane: tutte le tecniche statistiche, come l'intelligenza artificiale, sono tecniche che si basano sul principio di probabilità. "È un po' questo lo shift. Spesso ci viene chiesto: ma in questo video la macchina si muove o non si muove? Ma secondo te è vero o non è vero? Io tecnico non potrò mai darti una risposta certa al 100 %. Posso semplicemente dirti: con questa  probabilità è vera, con questa probabilità è falsa. Quanto, questa cosa, sia accettato dal punto di vista giuridico non è chiaro", conclude Boato.

Contenuto sponsorizzato
Telegiornale
Ultima edizione
Edizione ore 19.30 del 23 settembre 2020
Il DolomitiTg, le notizie della giornata in sessanta secondi. Cronaca, politica, ambiente, università, economia e cultura: tutte le news in un minuto
Contenuto sponsorizzato

Dalla home

23 settembre - 19:24

Sono 6.405 casi e 470 decessi in Trentino per l'emergenza coronavirus. Nelle ultime 24 ore sono stati analizzati 2.227 tamponi, 22 i test risultati positivi per un rapporto che si attesta a 0,99%

23 settembre - 19:31

Mosaner e Betta non vincono al primo turno e sono costretti a un insidioso ballottaggio. Malfer e Parisi hanno la possibilità di influenzare pesantemente il voto del 4 ottobre, mentre la Lega si giocherà il tutto per tutto puntando forte su Santi e Bernardi. Nell’Alto Garda domina l’incertezza

22 settembre - 17:37

La campagna elettorale si fa (anche) a suon di carta (volantini, biglietti da visita, brochure) che, spesso, copre le nostre città. Una lista civica di Brentonico ha, quindi, cercato di trovare una soluzione ecologica e sostenibile: "Abbiamo utilizzato una carta biodegradabile con all'interno dei semi. Il bigliettino da visita può così essere 'piantato' per far germogliare dei fiori amici degli insetti impollinatori"

Contenuto sponsorizzato
Contenuto sponsorizzato
Contenuto sponsorizzato