L'Intelligenza Artificiale? Un pozzo che rischia di essere avvelenato: l'acqua è tantissima ma quella potabile scarseggia

Un proverbio spagnolo recita più o meno così: «Quando c’è un’inondazione, la prima cosa che manca è l’acqua potabile». Questo concetto ci restituisce un’immagine potente e, a un primo impatto, apparentemente paradossale: in un contesto nel quale l’acqua abbonda, quella utile e sicura scarseggia.

A me pare evidente la similitudine che caratterizza quest’epoca digitale, nella quale siamo sommersi di dati e informazioni, ma quelli davvero affidabili, precisi e significativi sono ormai merce rara. Ne ha trattato, assai più autorevolmente del sottoscritto, Yuval Noah Harari nel suo recente saggio «Nexus – Breve storia delle reti di informazione dall'età della pietra all'IA». Harari ha spazzato via, dati alla mano, il falso mito che vorrebbe una diretta correlazione tra la crescente sovrabbondanza di dati e la loro “qualità”. Al contrario, nostro malgrado è ormai piuttosto pacifico il fatto che valga l’effetto opposto.

Risulta facile estendere la riflessione ai sistemi di intelligenza artificiale (AI) e ai loro dataset, ossia i “contenitori” di dati dai quali tali sistemi attingono. Se i dataset sono contaminati da bias, da informazioni approssimative o, peggio ancora, scadenti o false, l’AI apprenderà in maniera distorta e l’output sarà a sua volta di pessima qualità. Nel mondo dell’informatica il concetto è così riassunto: “garbage in, garbage out” (“spazzatura dentro, spazzatura fuori”, il che mi sembra sufficientemente evocativo senza necessità di ulteriori spiegazioni).

Certo, è pur vero che nelle funzioni “deep research” (OpenAI e Google Gemini) e “deep search” (X), ossia proprio quelle in cui si richiede una navigazione più profonda della rete, viene teoricamente garantita un’attività di setaccio e selezione. Ciò detto, rimangono francamente forti dubbi circa la piena affidabilità di sistemi addestrati su dati tratti da una rete in cui, accanto a informazioni storicamente e scientificamente validate, ci si imbatte in tesi quali la natura vampiresca di Re Carlo d’Inghilterra, la correlazione tra vaccinazione e autismo e l’inesistenza dell’intero continente australiano.

L’AI Act, ossia il Regolamento emanato dalla UE per normare temi così complessi quali quelli dell’intelligenza artificiale (o meglio: delle intelligenze artificiali, ce ne sono ben più di una), ha provato ad arginare il pericolo ma le preoccupazioni rimangono. In particolare, per i sistemi ad alto rischio l’articolo 10 richiede che i dati siano rilevanti, rappresentativi e privi di errori; in aggiunta, è imposto che vengano condotte attività di esame volte ad evitare bias e discriminazioni specie in contesti sensibili (giustizia, salute, occupazione, etc.).

I principi sono corretti e gli intenti meritori ma la genericità dei principi contenuti nel Regolamento lascia ancora troppa incertezza, che si aggiunge ad una domanda di fondo che nel tempo non potrà che farsi sempre più ingombrante: siamo e saremo davvero in grado di discernere una risposta basata su dati imprecisi o falsi? È lecito attendersi che sistemi addestrati sulle nostre specifiche richieste siano portati a fornire risposte in linea con la nostra “storia” di utilizzo del sistema di AI, premiando alcuni dati e scartandone altri. Si rischia di restare avviluppati a un punto di vista distorto e non riemergere più.

In definitiva, leggo e condivido gli entusiasmi sulle potenzialità di uno strumento così dirompente e innovativo. Al contempo, nutro qualche preoccupazione. Non credo molto nello spettro della distruzione o riduzione del lavoro, si tratta degli stessi timori che in passato serpeggiavano con l’introduzione del lavoro animale nell’agricoltura o con l’avvento dell’industrializzazione. Personalmente trovo molto più pericolosi l’appiattimento delle capacità ragionative, il riduzionismo del pensiero ad una linea che va da A a B quando in realtà è bene ricordarsi l’utilità di ogni curva incerta e orbita eccentrica.

Questo vale tanto più se ricordiamo che la fonte da cui si abbeverano i sistemi di IA ha tutto l’aspetto di un pozzo avvelenato: acqua ce n’è, ma quella potabile scarseggia. E l’intossicazione non è solo informativa, è anche cognitiva.