categoria: Distruzione creativa
Intelligenza artificiale, ecco perché esiste il rischio “uno vale uno”
Post di Valter Fraccaro, Presidente Fondazione SAIHUB (Siena Artificial Intelligence HUB) –
Le culture dei popoli includono sovente tradizioni consolatorie che vedono il male scaturire dal diverso, da un altro che qualche preconcetto individua come non-simile, tanto differente da arrivare persino a considerarlo come non-umano. Ignoranza, superficialità e paura si assommano nel tempo, creando ideologie basate su una divisione in classi degli umani, su una scala gerarchica di importanza in cui le necessità di chi sta in alto sono considerate legittime cause di comportamenti vessatori rivolti a chi sta più in basso.
Per evitare che tutto questo si perpetui e magari peggiori, nel sempre più esteso dibattito su come allineare l’uso dell’Intelligenza Artificiale a valori condivisi e inclusivi, molta attenzione è posta nella definizione di regole e procedimenti che evitino di trasferire ad essa pregiudizi e discriminazioni.
Intelligenza artificiale e “uno vale uno”
Non è un percorso semplice, poiché taluni aspetti etici non sono comuni a tutte le società del pianeta e vi sono inoltre concetti che appaiono chiari e semplici solo fino a quando non li si esaminino con cura, essendo utilizzati verbalmente con tale frequenza che se ne dà per condiviso il senso senza che esso sia realmente esplicitato.
Si pensi, ad esempio, alla frase “uno vale uno”. Così lineare, sembra chiara e accettabile.
Se però sostituiamo “uno” con nomi di persona dicendo “Roberto vale Alice”, già percepiamo che qualcosa non suona tanto bene. All’istante “Roberto” e “Alice” non sono più termini apparentemente oggettivi ma diventano immediatamente riconoscibili come due diversi soggetti. Inoltre, il secondo è termine di paragone del primo: si sta affermando che Roberto vale quanto Alice, che dunque è l’unità di misura con cui si valuta Roberto. Sebbene i nomi appaiano intercambiabili (Alice vale Roberto), ciò non elimina il fatto che esiste un confronto in cui un elemento è quello di riferimento e l’altro quello misurato: se trasformiamo l’espressione in “Roberto vale due Alice”, ciò appare chiaro.
Dunque, l’attuazione come regola di “uno vale uno” è opportuno sia molto limitata. Ad esempio, si può dirlo appropriatamente quando tutti coloro che hanno diritto a partecipare ad una elezione hanno un voto a testa ed esso non ha un diverso valore in relazione a chi lo esprima.
Disconoscimento e omologazione
Se però si applica lo stesso significato in maniera estensiva considerare equivalenti Roberto e Alice implica la cancellazione di ogni differenza, in tal modo trasformando una presunta uguaglianza in negazione della loro identità: Roberto e Alice spariscono come esseri singolari, ognuno con le proprio caratteristiche, storia personale, gusti, pensieri, età, sesso, volontà… Insomma, l’accezione letterale di “uno vale uno” riferita alla persona è il disconoscimento del soggetto come unicum, dunque della sua specifica dignità, dello status da cui discendono i suoi diritti, a favore di una sua omologazione, di una sua indistinguibilità da ogni altro componente di una comunità, ingranaggio sociale scambiabile con qualsiasi altro, numero tra i numeri pur se si evita di marchiarglielo a fuoco sul polso.
Intelligenza artificiale, ecco come funziona veramente
L’Intelligenza Artificiale non ha proprie ragioni, intendimenti, volontà, comprensioni di alcun tipo. L’AI calcola e lo fa in forma numerica basandosi sulle informazioni che gli si sono fornite. In questo senso, non è niente di diverso da una calcolatrice elettronica tascabile di cinquanta anni fa. Solo che, a differenza di quest’ultima, può dare esiti significativi solo dopo essere stata foraggiata di contenuti dalle molte forme (testi, immagini, suoni, cifre) e messa in grado di analizzarli.
Al termine darà un “risultato”, la cui definizione come “risposta” sta all’umano che potrà applicarlo, sia che lo faccia dopo averlo valutato, sia che abbia impostato tutto il flusso lasciando all’automa il potere di procedere, appunto, automaticamente (cioè senza alcun vaglio di opportunità che non sia già insito nel sistema di calcolo seguito e coerente con l’obiettivo impostato).
Affidabilità etica vs. produzione di conclusioni errate
Quale risultato darà l’AI se gli si è trasmesso un concetto apparentemente ordinario eppure tanto pericoloso come “uno vale uno”?
L’affidabilità etica dell’uso dell’AI non passa solo per l’ampiezza dello spazio riservato alla valutazione umana di quanto da essa prodotto, ma anche dall’attenzione che si impiega nella selezione degli assunti con cui viene addestrata, consci che essa non ne capisce il senso ma solo la forma e la misura. Sbagliare farebbe dell’AI un formidabile produttore di distorsioni, di conclusioni errate i cui esiti una persona potrebbe infliggere ad altri inconsapevolmente, senza alcuna inquietudine dello spirito.
La sfida: sviluppo, istruzione e utilizzo dell’IA
La responsabilità è un amaro calice, la cui asprezza aumenta man mano che il mondo e la vita manifestano sempre maggiore complessità per cui diventa sempre più allettante la tentazione di spostarla su altre persone e istituzioni, soprattutto ora che è a disposizione uno strumento, l’AI, a cui è facile delegarla.
Fronteggiare quella seduzione e intanto porre costante attenzione a come l’AI viene sviluppata, istruita e utilizzata è la duplice sfida collettiva dei nostri tempi. In base al suo esito, l’Intelligenza Artificiale potrà diventare uno strumento di grande utilità sociale oppure ridurre fortemente ciò che chiamiamo “umanità”, di cui la responsabilità è fondamento.