L’intelligenza artificiale (IA) sta plasmando il nostro mondo a una velocità senza precedenti, aprendo scenari affascinanti ma sollevando al contempo interrogativi etici fondamentali. Il libro Unmasking AI di Joy Buolamwini, informatica e ricercatrice canadese-americana nata nel 1989, rappresenta una pietra miliare nello studio della giustizia algoritmica. Laureata al Georgia Institute of Technology e con un master al MIT Media Lab, l’autrice ha fondato la Algorithmic Justice League per combattere i pregiudizi nell’IA e sensibilizzare l’opinione pubblica.
Questo articolo esplora le tematiche chiave del libro, analizzando come la diffusione dell’IA debba necessariamente essere accompagnata da spirito critico e consapevolezza.
1. L’esplosione dell’IA Generativa: opportunità e zone d’ombra
Il punto di svolta per la consapevolezza pubblica sull’IA è avvenuto nel novembre del 2022, quando Open AI ha reso disponibile al pubblico Chat GPT.
Questo programma, progettato per simulare una conversazione umana, ha raggiunto cento milioni di utilizzatori in soli due mesi.
Chat GPT fa parte della cosiddetta Generative AI, una serie di modelli capaci di creare testi, immagini, codici e suoni.
La vera rivoluzione risiede nel fatto che non occorre più essere specialisti (fotografi, scrittori o musicisti) per ottenere contenuti di alta qualità.
Tuttavia, l’ingente flusso di capitali investiti in queste tecnologie (come i massicci investimenti di Microsoft in Open AI) rappresenta già di per sé un fattore di rischio. I risvolti legali ed etici sono pesanti:
In rete circolano immagini fake di personaggi famosi spacciate per vere.
L’agenzia fotografica Getty Images ha fatto causa a Stability AI, accusandola di aver utilizzato milioni di immagini protette da copyright presenti nel suo database per addestrare i propri modelli, senza riconoscere diritti o compensi.
Considerazione Didattica: L’innovazione tecnologica viaggia a una velocità nettamente superiore rispetto a quella della legislazione. Il caso Getty Images vs. Stability AI solleva un problema cruciale sul concetto di “diritto d’autore” nell’era dell’IA: se una macchina impara dall’arte umana per generare nuova arte, chi è il vero proprietario del risultato finale? Le istituzioni devono intervenire tempestivamente affinché l’utilizzo dell’IA non diventi dannoso per i creatori di contenuti.
2. Il caso DeepFace e l’illusione della neutralità tecnologica
Nel 2014, Facebook ha pubblicato un documento rivoluzionario presentando DeepFace, un sistema di riconoscimento facciale basato su reti neurali profonde, ovvero algoritmi ispirati al funzionamento del cervello umano.
L’obiettivo era migliorare le funzionalità di riconoscimento all’interno della piattaforma.
DeepFace ha raggiunto una precisione sbalorditiva del 97,45%, identificando correttamente i volti con un’accuratezza quasi totale.
Il successo è stato possibile grazie all’enorme database di miliardi di immagini caricate dagli utenti su Facebook (con diverse angolazioni, luci ed espressioni), che ha permesso di addestrare il sistema in modo eccellente.
Per testare DeepFace, i ricercatori hanno utilizzato LFW, un database standard per valutare gli algoritmi di riconoscimento facciale. Tuttavia, è emersa una criticità allarmante: uno studio del 2014 ha rivelato che il database LFW conteneva una sproporzione significativa di immagini di individui caucasici, sottorappresentando le altre etnie.
Considerazione Didattica: Questo evento dimostra che la tecnologia non è mai neutra. I sistemi di intelligenza artificiale riflettono intrinsecamente i pregiudizi di chi li crea o dei dati con cui vengono addestrati. Il successo di DeepFace ha spinto l’uso del riconoscimento facciale nella vita reale, ma ha anche stabilito un pericoloso precedente: misurare l’accuratezza su un campione non rappresentativo dell’intera umanità.
3. Il “Coded Gaze” e le discriminazioni nel mondo reale
Il riconoscimento facciale identifica l’identità di una persona analizzandone il volto tramite algoritmi che apprendono da grandi quantità di dati. Se progettati male, questi algoritmi amplificano i pregiudizi presenti nella società, penalizzando gruppi sottorappresentati, in particolare le donne e le persone di colore.
Joy Buolamwini definisce questo fenomeno “Coded Gaze” (sguardo codificato): lo sguardo di queste tecnologie è codificato con bias razziali, di genere o socioeconomici. Le conseguenze sulla vita reale sono devastanti:
Il caso Robert Williams: Nel 2020, questo cittadino afroamericano è stato arrestato per sbaglio dalla polizia di Detroit a causa di un software di riconoscimento facciale che lo aveva erroneamente identificato come sospettato di furto. Williams è stato trattenuto per trenta ore prima che un agente gli mostrasse la foto del sospettato, rivelando palesemente che non si trattava di lui. Il software era stato addestrato su un modello sbilanciato, con una quantità sproporzionata di immagini di afroamericani spesso associate a crimini.
Falsi positivi lesivi della dignità: Una donna in vacanza a Las Vegas è stata fermata dalla sicurezza di un casinò perché le telecamere l’avevano scambiata erroneamente per una sex worker.
Impatti sul sistema giudiziario: L’autrice ha persino ricevuto la lettera di un detenuto che la supplicava di studiare il suo caso, sostenendo di essere finito in carcere per un errore del sistema di riconoscimento facciale.
Non si tratta solo di casi individuali, ma di discriminazioni applicate su intere categorie. Uno studio di Harvard ha rivelato che The Princeton Review, un noto servizio di preparazione per il test universitario SAT, applicava tariffe più elevate per il tutoraggio online a seconda del codice postale inserito, penalizzando economicamente i quartieri con popolazioni di origine asiatica.
4. Dalla scoperta all’attivismo politico
Il percorso di sensibilizzazione di Buolamwini è iniziato nel 2013 al MIT Media Lab, durante lo sviluppo del progetto artistico UpBeat Walls.
L’installazione interattiva permetteva agli utenti di dipingere sugli schermi muovendo la testa, associando suoni a ogni tratto.
Durante i test, l’autrice si accorse che il tracciamento facciale funzionava meglio con le persone dalla pelle chiara e non era ottimizzato per le persone nere o dalla pelle più scura.
Questa scoperta l’ha spinta ad approfondire il tema, specialmente dopo che nel 2016 il Georgetown Law Center on Privacy and Technology rivelò l’uso massiccio e non regolamentato del riconoscimento facciale da parte delle forze di polizia americane. Nello stesso anno, ha tenuto un celebre TED Talk intitolato How I’m Fighting Bias in Algorithms, che ha aperto gli occhi a milioni di persone sui pregiudizi dell’IA.
Il culmine di questo attivismo si è materializzato nel giugno 2023, quando la Casa Bianca ha invitato Buolamwini e altri sette esperti a discutere di IA direttamente con il presidente Joe Biden e la consigliera scientifica Arati Prabhakar. In quell’occasione, l’autrice ha raccontato la storia di Robert Williams direttamente al Presidente, sottolineando la necessità di regolamentare l’uso di questi sistemi per garantirne l’imparzialità prima della loro implementazione.
Conclusione: un appello per un’IA etica
Il saggio Unmasking AI ci consegna un messaggio fondamentale: l’intelligenza artificiale non trascende l’umanità. Sostituire fallibili custodi umani con macchine imperfette—ma percepite come oggettive—fa sì che le conseguenze peggiori ricadano su chi ha meno risorse e minor accesso alle strutture di potere.
Come sottolinea l’autrice, la sfida odierna è duplice:
“Considerati i danni concreti dell’IA, come possiamo mettere al centro le vite delle persone comuni, specialmente quelle ai margini, quando pensiamo alla progettazione e all’implementazione dell’IA? Possiamo fare spazio al meglio che l’IA ha da offrire, resistendo al contempo ai suoi pericoli?”.
L’IA deve essere al servizio dell’umanità e non uno strumento per emarginare chi non ha gli strumenti per difendersi. Come cittadini e futuri professionisti del settore, è un nostro dovere civico esigere da governi e aziende lo sviluppo di politiche tecnologiche fondate sulla trasparenza, sull’equità e sulla giustizia sociale.
