Questa guida si basa sui concetti espressi in “Atlas of AI” , saggio scritto da Kate Crawford. L’autrice, ricercatrice di spicco a livello globale in materia di intelligenza artificiale (IA), esplora le implicazioni sociali, storiche, politiche e ambientali dei sistemi di dati su larga scala.
L’assunto fondamentale è che l’industria dell’intelligenza artificiale sia, a tutti gli effetti, un’industria estrattiva. Lungi dall’essere un’entità astratta e puramente tecnologica, l’IA è un costrutto politico ed economico che necessita di essere compreso attraverso un approccio “topografico”, osservando cioè tutte le infrastrutture invisibili che la tengono in vita.
I Miti dell’IA e il “Clever Hans effect”
In questo modulo analizzeremo la natura dell’IA, decostruendo le false credenze che la dipingono come un’entità autonoma e razionale.
Il mito dell’infallibilità e dell’autonomia: I sistemi di IA non sono analoghi alla mente umana. Credere che bastino risorse e allenamento per creare un’intelligenza umana artificiale ignora le complesse interazioni ambientali che formano l’intelligenza umana reale. Inoltre, l’intelligenza non è un concetto univoco capace di esistere indipendentemente dal suo contesto.
Il “Clever Hans effect”: Questo pregiudizio cognitivo prende il nome dal cavallo Hans, che sembrava saper fare calcoli matematici ma, in realtà, rispondeva semplicemente ai microscopici e involontari cambiamenti posturali del suo proprietario. Nel machine learning, questa storia ci ricorda che i modelli possono sembrare intelligenti ma fallire con dati nuovi; non possiamo mai essere del tutto certi di cosa un sistema abbia realmente “imparato” dai dati forniti.
Prodotto del potere: L’intelligenza artificiale dipende da enormi quantità di dati, regole stabilite a priori e ingenti risorse politiche ed economiche. Di conseguenza, è un prodotto del sistema di potere dominante progettato per mantenerne gli interessi.
L’estrazione delle risorse naturali
Il concetto di “Cloud” (nuvola) ci spinge a pensare all’IA come a una tecnologia eterea e sostenibile. In realtà, l’infrastruttura dell’IA è profondamente radicata nello sfruttamento del pianeta.
L’oro grigio e l’hardware: Il litio e altri minerali rari sono essenziali per il settore, in particolare per le batterie di smartphone e veicoli come le Tesla. Non a caso, la Tesla Gigafactory sorge a breve distanza dall’unica miniera di litio presente negli Stati Uniti, a Silver Peak in Nevada.
Costi ambientali taciuti: Estrarre questi materiali innesca meccanismi di potere che portano a impoverimento, carestie e guerre, mentre l’industria segue il motto “facciamolo subito e facciamolo in fretta”.
L’impronta ecologica: Per funzionare, i complessi sistemi cloud ubicati in tutto il mondo richiedono enormi quantità di energia, inquinano e generano grandi volumi di anidride carbonica. Il settore tech tende a minimizzare questi costi reali, presentandosi paradossalmente come alleato contro il cambiamento climatico.
Il lavoro invisibile e la “Mega-macchina”
L’IA rivoluziona il lavoro umano trasformandolo a sua volta in una risorsa da estrarre. Kate Crawford paragona questo sistema alla “mega-macchina” descritta dal teorico Lewis Mumford.
La Mega-macchina aziendale: Storicamente, entità come l’impero romano, i costruttori delle Piramidi o il progetto Manhattan funzionavano come mega-macchine: sistemi gerarchici basati sul lavoro coordinato di innumerevoli individui. L’IA moderna agisce allo stesso modo, imponendo ai lavoratori ritmi serrati, algoritmi di controllo e trattandoli sempre più come robot per massimizzare l’efficienza.
Il Taylorismo digitale e la sorveglianza: I dipendenti subiscono oggi un controllo che invade persino la sfera privata, un tempo esclusa. La classe dirigente monitora i movimenti dei dipendenti (incluse le pause in bagno), le mail e i profili social, usando i dati per stilare classifiche di produttività e individuare elementi non allineati.
I Crowdworkers e la Fauxtomation: Alla base del sistema ci sono lavoratori sottopagati chiamati crowdworkers, che eseguono micro-task essenziali per il funzionamento dell’IA, come etichettare dati e filtrare contenuti. Spesso questi individui compiono lavori massacranti per simulare i servizi dell’IA. Questo fenomeno prende il nome di fauxtomation (da “faux”, falso, e automazione), un esempio emblematico del quale è il servizio “Amazon Mechanical Turk”, ispirato a un finto automa scacchista del Settecento in cui si nascondeva un operatore umano.
I dati e il potere della classificazione
L’IA ha bisogno di alimentarsi costantemente di informazioni. I dati, lungi dall’essere neutri, portano con sé i pregiudizi sistemici della società.
Acquisizione predatoria: Internet ha fornito milioni di immagini, tra cui innumerevoli selfie e foto personali caricate liberamente, azzerando i costi di acquisizione. Spesso queste immagini vengono prese senza consenso, attingendo da piattaforme social o da archivi governativi (come le foto segnaletiche statunitensi del database MID).
Il colonialismo dei dati: I dati vengono considerati alla stregua di risorse naturali, prelevati in spirito colonialista senza rispetto per la privacy o l’etica, giustificando qualsiasi azione in nome della raccolta di questa nuova forma di “capitale”.
La classificazione come atto di potere: Etichettare dati per creare sistemi come ImageNet significa ridurre la complessità del mondo a categorie semplificate e approssimative. Questa schematizzazione porta a classificazioni in generi binari, stereotipi e offensivi raggruppamenti razziali. I sistemi automatici di riconoscimento delle emozioni, ad esempio, cercano forzatamente di convertire il caos dei sentimenti in schemi universali misurabili dalle macchine, simili alla rigida tassonomia di Linneo.
Sorveglianza, Stato e sistemi di potere
Per comprendere pienamente la natura politica dell’IA, bisogna guardare alle sue origini nel settore militare e dell’intelligence degli Stati Uniti.
Le rivelazioni di Snowden: L’archivio reso pubblico da Edward Snowden ha rivelato un uso massiccio dei metadati per tracciare comunicazioni, letture e movimenti dei cittadini, evidenziando l’esistenza di un settore segreto dell’IA sviluppato dallo stato per il controllo.
Le infrastrutture della guerra: Le istituzioni collaborano con attori privati per gestire l’estrazione e l’analisi dei dati. Un esempio lampante è Palantir Technologies. Questa società collabora con FBI, CIA, forze dell’ordine e grandi banche estraendo email, post social e foto segnaletiche per individuare comportamenti anomali (le cosiddette “mele marce”) basandosi sulla mera interpretazione dei dati.
Impatto sociale: L’impiego dei software predittivi e di sorveglianza da parte della polizia ha dimostrato un bias evidente, colpendo duramente e in modo sproporzionato le classi più povere e le minoranze latino-americane e afro-americane.
Conclusioni: verso una nuova direzione
“Per capire come l’IA sia fondamentalmente politica, dobbiamo andare oltre le reti neurali e il riconoscimento statistico dei modelli per chiederci cosa viene ottimizzato, per chi e chi decide.”
L’IA non ha nulla di neutrale o puramente computazionale; è progettata per discriminare e rafforzare le gerarchie in atto.
A differenza di settori come quello medico, manca una struttura etica e un protocollo normativo condiviso.
Il cambiamento non arriverà semplicemente migliorando la tecnologia. Richiede un’unione di intenti tra tutti i movimenti che lottano per la giustizia razziale, la protezione dei dati, la tutela dell’ambiente e i diritti del lavoro, opponendosi fermamente all’abuso di potere per porre le basi di una società realmente inclusiva ed equa.
Sponsored by
