Verso un’intelligenza artificiale benefica: sviluppi, rischi e il “problema del controllo”
Stuart Russell è professore emerito di informatiche presso l’Università della California a Berkeley, rinomato professore di Medicina di Precisione Computazionale presso Università della California di San Francisco, nonché direttore del Centre for Human-Compatible AI. Nel suo saggio “Human Compatible” , l’autore analizza il passato, il presente e il futuro del nostro tentativo di creare un’intelligenza artificiale (IA). La tesi fondamentale è che, se gli esseri umani dovessero avere successo nel creare un’intelligenza artificiale super intelligente, questo traguardo potrebbe rivelarsi l’evento più importante di tutta la storia umana, ma potenzialmente anche l’ultimo.
1. Che cos’è l’intelligenza? Dalla biologia alla razionalità matematica
Prima di poter analizzare le implicazioni dell’intelligenza artificiale, è necessario capire cosa si intenda per intelligenza. Una definizione basilare descrive l’intelligenza come la capacità di un’entità di raggiungere il proprio obiettivo interagendo con l’ambiente in cui è inserita. Per comprendere appieno comportamenti più complessi, entra in gioco il concetto matematico di “utilità”, introdotto dal matematico Daniel Bernoulli. Secondo questa visione, un essere razionale agisce in modo tale da massimizzare la propria utilità attesa.
Questi principi si applicano anche alle macchine: data la sua percezione, una macchina è intelligente nella misura in cui è probabile che raggiunga ciò che vuole tramite le proprie azioni. È interessante notare come l’architettura dell’IA abbia similitudini con la biologia umana: lo studio del sistema di ricompensa del cervello umano, basato sul rilascio di dopamina per collegare i comportamenti a stimoli positivi e negativi, mostra profonde somiglianze con il metodo dell’apprendimento per rinforzo utilizzato nell’intelligenza artificiale.
2. Evoluzione storica dell’IA: dagli esordi al deep learning
La ricerca nel campo dell’intelligenza artificiale ha vissuto un percorso costellato di alti e bassi.
Gli albori: Ufficialmente, il campo nasce nel 1956 durante il celebre incontro di Dartmouth, grazie all’iniziativa di pionieri come John McCarthy, Marvin Minsky, Claude Shannon e Nathaniel Rochester. Lo scopo ambizioso era dimostrare che ogni aspetto dell’intelligenza umana e dell’apprendimento potesse essere formalizzato e simulato da una macchina.
Le battute d’arresto: Alla fine degli anni Sessanta, e nuovamente dopo la metà degli anni Ottanta, si sono verificati pesanti periodi di arresto, dovuti alla constatazione che i risultati ottenuti non erano all’altezza delle grandi promesse fatte e che le macchine non erano sufficientemente intelligenti.
La rinascita contemporanea: Nel 2011, l’avvento e gli sviluppi del “deep learning” (apprendimento profondo) hanno riportato il settore in rapida ascesa. Tuttavia, i clamorosi successi odierni (come la vittoria del programma AlphaGo) rimangono circoscritti a condizioni osservabili e regolate da leggi precise. Applicare l’IA a contesti complessi, come governare un paese, è estremamente più difficile poiché implica innumerevoli variabili sconosciute.
3. I livelli dell’IA e l’allarme dei social media
Esistono tre stadi teorici di sviluppo per l’intelligenza artificiale:
Intelligenza artificiale ristretta: Macchine capaci di svolgere un singolo e specifico compito meglio o al pari degli umani.
Intelligenza artificiale generale: Macchine capaci di ragionare, astrarre e fare scelte con la stessa facilità e abilità del cervello umano.
Super intelligenza artificiale: Macchine capaci di superare in maniera netta l’intelligenza umana.
Sebbene quest’ultimo stadio non esista ancora, è imperativo ragionarci oggi per evitare di diventarne vittime. Quando si discute di IA, infatti, si tende spesso a sottovalutare la rapidità con cui le cose possono sfuggire di mano. L’esempio dei social media è lampante: gli algoritmi, pur non essendo particolarmente intelligenti, influenzano il mondo intero ottimizzando un unico obiettivo, ovvero massimizzare la probabilità che l’utente clicchi sui contenuti (click-through). Per raggiungere tale scopo, questi algoritmi modificano le preferenze degli utenti rendendoli prevedibili. Il risultato politico e sociale è drammatico, con la generazione di “echo chamber” che portano all’isolamento ideologico e alla polarizzazione estrema. Un’IA, per sua natura, è programmata per raggiungere il suo scopo costi quel che costi; se gli obiettivi finali non sono ben calibrati, c’è il rischio concreto di assistere a conseguenze catastrofiche.
4. Il “Problema del Gorilla” e la superintelligenza imprevedibile
Nonostante i recenti sondaggi mostrino che molti ricercatori collochino l’arrivo dell’intelligenza artificiale super intelligente intorno alla metà di questo secolo, Russell ritiene che tale arrivo sia intrinsecamente imprevedibile. Affinché una macchina raggiunga un’intelligenza sovrumana, necessita di scoperte fondamentali, come la reale comprensione del linguaggio umano e la capacità di astrazione, qualità in cui l’uomo eccelle ma di cui la macchina è ancora priva.
Il rischio maggiore dello sviluppo di queste capacità è quello che Russell definisce il “problema del gorilla”. Circa dieci milioni di anni fa, gli antenati dei gorilla generarono una linea evolutiva che portò all’homo sapiens; oggi, i gorilla sono stati soggiogati da quella stessa intelligenza superiore che hanno indirettamente generato. Saremo in grado di non subire la stessa sorte con le macchine? Russell ipotizza che, continuando nella direzione attuale, diverrà impossibile disattivare le macchine, in quanto queste considereranno la propria autoconservazione come un sotto-obiettivo strettamente logico e necessario per completare i loro incarichi principali.
5. La soluzione: tre nuovi principi per un’IA benefica
Per risolvere il “problema del controllo”, è necessario compiere un drastico cambio di paradigma rispetto alla tecnologia del XX secolo: dobbiamo smettere di creare macchine programmate unicamente per ottimizzare un obiettivo specifico. Russell propone la creazione di “macchine benefiche” regolate da tre rigidi principi:
Primo principio (Puro altruismo): Le macchine devono avere come unico scopo esclusivo la massimizzazione della realizzazione delle preferenze umane. Di conseguenza, non dovranno attribuire alcun tipo di valore alla propria sopravvivenza o benessere personale.
Secondo principio (Incertezza e umiltà): Le macchine devono essere strutturalmente incerte su quali siano esattamente le vere preferenze umane. Questa incertezza forzata impone alle macchine un comportamento umile: esse agiranno con cautela, chiederanno il permesso prima di compiere azioni drastiche e, soprattutto, non si ribelleranno qualora un operatore umano decidesse di spegnerle.
Terzo principio (Apprendimento per osservazione): Le macchine devono essere capaci di imparare a prevedere le preferenze dell’uomo osservandone il comportamento. Queste osservazioni non si baseranno solo sui sensori in tempo reale, ma anche sull’immenso bacino di dati indiretti prodotto dall’umanità, come libri, opere cinematografiche e le testimonianze storiche delle antiche civiltà.
Conclusione: La necessità di una governance globale
L’intelligenza artificiale super intelligente potrebbe essere benefica ed elevare incredibilmente la nostra civiltà, incrementando la produttività e innalzando il tenore di vita globale in modo sostenibile. Tuttavia, il pericolo di abusi sociali, manipolazione e perdita di posti di lavoro è dietro l’angolo. A causa delle enormi pressioni della competizione economica, vi è il forte rischio che le aziende riducano i necessari test di sicurezza pur di arrivare per prime sul mercato con prodotti iper-tecnologici.
Per questo motivo, la via d’uscita richiede non solo sfide ingegneristiche, ma anche l’istituzione di un robusto sistema di governance internazionale, che sia sicuro, condiviso e rigorosamente super partes rispetto agli interessi di investitori privati e singole nazioni. È fondamentale comprendere un assunto chiave espresso da Russell: nei classici scenari hollywoodiani le macchine sviluppano odio e coscienza di sé; nella realtà, ciò che conta ed è pericoloso non è la coscienza della macchina, ma la sua cieca e inarrestabile “competenza” nell’eseguire il proprio incarico. Se dovesse verificarsi un’esplosione di intelligenza incontrollabile, sarebbe ormai troppo tardi per implementare misure di sicurezza e il “gioco sarebbe finito”.
