Dal suicidio di Molly Russell alla 'zampa di scimmia', da Gpt a Tik Tok: due grandi dibattono sull'intelligenza artificiale. "Nessun pericolo di estinzione"

TRENTO. Da quando il mondo è stato messo di fronte agli ultimi potenti sviluppi dei sistemi di intelligenza artificiale (Qui qualche esempio) le domande (ed i dubbi) che circondano il settore sono molte: qual è la natura dell'intelligenza artificiale stessa? Quali i rischi che rappresenta? Quali le sue applicazioni? Quali i difetti? Si tratta di questioni che, calate nel mare magnum del mondo dell'Ia odierno, rappresentano importanti campi di ricerca anche per gli addetti ai lavori, impegnati oggi più che mai grazie anche all'interesse sempre crescente di enti pubblici e privati. Ed è proprio da queste domande che, negli scorsi giorni, negli spazi della Fondazione Bruno Kessler a Trento, hanno discusso due dei massimi esperti del settore, il professore di Ia all'Università di Bath Nello Cristianini ed il responsabile Marketing strategico e sviluppo business in Fbk Paolo Traverso. Una lunga conversazione nella quale i due hanno toccato moltissimi temi, dall'impatto (in particolare per quanto riguarda i più piccoli) degli algoritmi che controllano i contenuti sui social ai difetti delle nuove reti neurali, dall'approccio normativo delle autorità europee fino al ruolo, centrale, che ricercatori ed esperti rivestono oggi nell'ambito della divulgazione. Ma procediamo con ordine.

La discussione ha preso il via da un chiaro presupposto: l'intelligenza artificiale è diversa da quella umana. “Il tema di come interagire con l'Ia – dice Cristianini – è allo stesso tempo difficile e interessante perché noi, come specie, siamo antropocentrici. Ci immaginiamo quindi, dialogando con un sistema di Ia, che ci sia 'qualcuno' dall'altra parte, ma in realtà non è vero: è come salire su un aereo e non trovare nessuno all'interno della cabina, crea dell'ansia”. É necessario quindi pensare al concetto di intelligenza in modo diverso: “L'intelligenza non è esclusivamente umana, su questo pianeta forme d'intelligenza esistevano ben prima del primo umano – continua il professore – ed è chiaro che non richiedano necessariamente quindi cultura, coscienza o autocoscienza. Forse nemmeno un cervello. Si parla di intelligenza, in generale, quando si usano delle informazioni per prendere decisioni e seguire obiettivi”. Il ragionamento per esempio che sta alla base di Chat Gpt è di tipo probabilistico, spiega Traverso: “Parliamo di un sistema che ha ampiamente superato il test di Turing (un criterio sviluppato dal famoso matematico negli anni '50 per determinare se una macchina sia in grado di esibire un comportamento intelligente ndr) ma, capendo la base del suo ragionamento, risulta più facile interagire”.

Per un'adeguata comprensione della natura di questi sistemi, però, la sfida è anche linguistica: “Gpt si basa su un meccanismo statistico – precisa Cristianini – ma questo non esclude che possa comprendere il mondo. Anche i nostri neuroni hanno molte proprietà statistiche ma, collettivamente, sono in grado di capire ciò che ci circonda. Allo stesso modo, un sistema come Gpt ha una comprensione del mondo, ma di tipo interamente non umano. Si tratta quindi di concetti non nostri, non abbiamo parole per esprimere quei concetti. Sicuramente questa sarà una sfida seria in futuro, fermo restando che l'obiettivo finale è di utilizzare queste tecnologie per le varie applicazioni possibili nel mondo reale”. E gli esempi in questo contesto sono molti: alcuni li abbiamo visti nelle immagini iper-realistiche realizzate grazie ai sistemi di stable diffusion, altri sono in fase di lavorazione. Proprio a Fbk per esempio, sottolinea Traverso, un team è al lavoro per tentare di applicare il sistema alla ricerca delle clausole vessatorie all'interno di un contratto. Le possibili applicazioni, però, sono potenzialmente infinite, con tutti i possibili rischi del caso.

Come riportato dagli esperti infatti, sono quattro i principali difetti di un sistema come quello di Gpt, che possono trasparire (e causare, potenzialmente, grossi danni) nel suo utilizzo: l'affidabilità (l'Ia riporta con la stessa confidenza cose vere e cose false), l'inclusività (operando a livello di statistica le opinioni singole e, per così dire, al di fuori del coro, vengono sostanzialmente ignorate), i bias (letteralmente i pregiudizi, riflessi in pratica dal sistema sulla base di quanto scritto, pubblicato e condiviso in rete) e, infine, la sostenibilità ambientale (per il grande consumo di energia richiesto dal potere computazionale). Rispetto a un tempo infatti, sottolinea Cristianini: “Oggi il mondo è cambiato e le intelligenze artificiali si muovono seguendo tre 'scorciatoie'. In primo luogo non usiamo più teorie esplicite: la teoria oggi è finita, non si utilizza più all'interno dei nostri apparecchi. Ai sistemi vengono piuttosto forniti esempi dai quali imparare e la fonte di queste enormi quantità di dati è il web, con le informazioni successivamente 'riciclate' sulla base di regole statistiche”. Il processo sembra molto complesso ma, in definitiva, è quello che rende possibile la presentazione di video, immagini e contenuti sulle homepage dei vari social network, tutti rigorosamente in linea con i nostri gusti e le nostre attitudini grazie all'azione di un algoritmo.

“Il punto – aggiunge però il professore di Ia – parlando dei social network è che non si può chiedere direttamente all'utente cosa vuole. Se fosse possibile, paradossalmente, avremmo la soluzione al primo punto presentato in precedenza, avremmo la 'teoria' dei desideri dell'utente”. Per questo i sistemi osservano continuamente gli utenti stessi utilizzando, come detto in precedenza, statistica, dati e osservazioni per capire cosa 'vorrà' vedere il giorno successivo una determinata persona. “L'obiettivo – dice ancora il professore – è quello di fare in modo che gli utenti continuino a cliccare (o scrollare, se su smartphone ndr), rimanendo connessi. Cosa può succedere però dando in mano questo strumento ad un bambino? Cosa può andare male?”. Per spiegare, Cristianini utilizza un vecchio racconto inglese dell'inizio del '900: “La zampa di scimmia”, di W.W. Jacobs. La storia è incentrata su un amuleto in grado di esaudire desideri: quando viene donato ad una famiglia inglese, i due coniugi White decidono di chiedere 200 sterline. Il giorno successivo ricevono però la tragica notizia della morte del figlio, a causa di un incidente sul lavoro, per il quale riceveranno dal proprietario della fabbrica un compenso pari proprio a 200 sterline.

“L'idea è che in questo caso l'amuleto ha esaudito la richiesta – spiega il professore – ma senza tenere conto di altre cose. Allo stesso modo, una macchina che esegue gli ordini può causare danni se non comprende il contesto nel quale si trova. L'esempio più vicino a questo è proprio il motore di raccomandazione di Instagram o TikTok, che può diventare dannoso causando in qualcuno una forma di dipendenza, in qualcun altro stati di tristezza o addirittura radicalizzazione. Questo però non è, di per sé, un 'problema' della macchina, che non ha le strutture mentali per capire, ma un rischio puramente sociale e che potrebbe, tra l'altro, già essersi verificato”. Il caso citato risale alla fine dello scorso anno e ha visto protagonista una ragazza di 14 anni inglese, Molly Russell, che si è tolta la vita dopo aver visionato migliaia di post relativi a suicidio, depressione e autolesionismo su diversi social. “Per il coroner – dice Cristianini – l'algoritmo che ha raccomandato questi contenuti più di quanto richiesto, è parzialmente da biasimare per la sua morte. Potrebbe essere un esempio di 'zampa di scimmia'. Come si aggiusta? Non è certo facile, visto che si tratta di sistemi che a loro modo sono efficienti proprio funzionando in questa maniera. Bisogna quindi operare un allineamento di valori e norme al loro funzionamento, rimuovendo dalla macchina certe tendenze, per così dire, devianti. Si tratta di insegnare con gli esempi cosa è accettabile e no, ma il sistema come detto non è intrinsecamente in grado di capire: è un palliativo”.

Di fronte a tutto questo l'atteggiamento da parte, per esempio, di educatori ed insegnanti nei confronti dell'Ia, è duplice: “Ho visto educatori decidere di proibire completamente strumenti come Chat Gpt – spiega Traverso – e altri, invece, stimolarne un utilizzo consapevole visto che, in futuro, sarà impossibile non interfacciarsi con queste tecnologie. Io, personalmente, sono convinto non sia giusto proibirli”. Piuttosto, aggiunge Cristianini: “Bisogna avere il coraggio culturale di identificare quale sia il vero problema. Cosa ci disturba veramente parlando di sistemi di Ia come Chat Gpt? Qualcuno, anche tra esperti che conosco e stimo, ha addirittura parlato di 'mitigare il rischio di estinzione della specie' ma è una follia. Non c'è nessuno rischio di estinzione, c'è il rischio però che le Ia vengano usate male da qualcuno. Quello che preoccupa molti per esempio è che il prossimo anno si voterà in Europa e negli Stati Uniti e non abbiamo alcun modo di fermare qualcuno che, per esempio, dovesse mettersi a generare immagini, notizie e filmati da un Paese ostile”. I rischi ci sono insomma ma, come spiega Traverso: “Usare bene o male queste tecnologie sta un po' a tutti noi, a chi fa norme, ai policymaker, a chi studia le norme stesse”. Ed in questo, dice in conclusione il professore dell'Università di Bath, un ruolo importante lo sta giocando l'Unione Europea.

“L'Ai Act è in preparazione dal 2019 ed è un esempio che l'Unione europea fornirà al mondo intero – dice Cristianini – come continente abbiamo i numeri, la ricchezza e la forza di far rispettare le nostre leggi a tutti gli operatori del mondo che vogliano avere scambi commerciali con noi, finendo quindi per modificare le norme anche in Paesi esterni. L'Ue ha un ruolo cruciale nel settore al giorno d'oggi”. Anche Traverso parla di un particolare “dinamismo” a livello normativo nel nostro Paese, sottolineando come il compito degli esperti sia proprio quello di rendere più comprensibile il rapidissimo sviluppo tecnologico al quale stiamo assistendo. “Da parte nostra però – aggiunge il professore – c'è bisogno di più ricerca. L'obiettivo posto dall'Ue è quello di proteggere i nostri valori e le nostre norme senza bloccare il progresso e l'Ai Act è strutturato bene, presentando quattro livelli di rischi per quanto riguarda l'uso della tecnologia: il quarto, il più alto, bloccherebbe in sostanza pratiche in grado di creare un danno inaccettabile ai valori europei (e quindi vietate), il terzo richiede una supervisione continua da parte delle autorità, il secondo dei minimi requisiti di trasparenza ed il primo non prevede azioni di nessun tipo. Lo stesso software (la stessa tecnologia quindi) potrebbe in sostanza ricevere il via libera per un uso a basso rischio (all'interno, magari, di un videogioco) e venire invece bloccato per quanto riguarda un utilizzo contrario ai valori europei (per esempio per particolari forme di sorveglianza). È un compromesso ragionevole, che sono convinto darà un esempio al mondo”.