Rappresentazione simbolica dell'intelligenza artificiale tra controllo e potere
L'industria dell'intelligenza artificiale si presenta come portatrice di progresso, ma dietro la facciata si nasconde un sistema che sfrutta lavoratori, monopolizza la conoscenza e ignora i costi umani e ambientali. Attraverso interviste a oltre 250 addetti ai lavori, l'esperta Karen Hao rivela le dinamiche di potere, le manipolazioni e le conseguenze di una corsa senza freni. LEGGI TUTTO L'ARTICOLO.
🎧 Ascolta questo articolo
Bonus Video
La retorica del rischio esistenziale Tutto ebbe inizio nell’estate del 1956 all’Università di Dartmouth, quando un gruppo di studiosi si riunì per fondare una nuova disciplina scientifica. Il professor John McCarthy propose di chiamarla “intelligenza artificiale”, ma non fu la prima scelta. L’anno prima aveva tentato con “studi sugli automi”, e alcuni colleghi gli consigliarono di evitare qualsiasi riferimento esplicito alla ricreazione dell’intelligenza umana. Il motivo era semplice: non esiste una definizione condivisa di cosa sia l’intelligenza umana. La psicologia, la biologia e la neurologia non hanno mai prodotto un consenso scientifico, e ogni tentativo storico di quantificare e classificare l’intelligenza è stato utilizzato per scopi nefasti, come dimostrare la presunta superiorità di un gruppo etnico su un altro. Eppure McCarthy scelse quel nome, e da allora il termine “intelligenza artificiale” (o AI) è diventato un’arma retorica potentissima. Oggi aziende come OpenAI, Google e Microsoft usano questa ambiguità a proprio vantaggio. Quando Sam Altman parla al Congresso degli Stati Uniti, definisce l’AGI (intelligenza generale artificiale) come un sistema capace di curare il cancro, risolvere il cambiamento climatico ed eliminare la povertà. Quando si rivolge ai consumatori per vendere abbonamenti a ChatGPT, la descrive come “l’assistente digitale definitivo”. Nel contratto con Microsoft, invece, l’AGI è definita come un sistema in grado di generare cento miliardi di dollari di risparmi. Sul sito web di OpenAI, infine, la leggiamo come “sistemi altamente autonomi che superano gli umani nei lavori di maggior valore economico”. Quattro definizioni differenti, quattro pubblici diversi, quattro scopi differenti. Non esiste una visione coesa di questa tecnologia: esiste solo una strategia per mobilitare capitali, talenti e consenso politico, evitando al contempo qualsiasi regolamentazione vincolante. Il caso più clamoroso di manipolazione retorica riguarda il cosiddetto “rischio esistenziale”. Nel 2015, prima della fondazione ufficiale di OpenAI, Sam Altman scrisse un post sul blog in cui dichiarava: “Lo sviluppo di un’intelligenza macchina superumana è probabilmente la più grande minaccia per l’esistenza continua dell’umanità”. Notate bene: non parlava di virus ingegnerizzati o di asteroidi, ma specificamente dell’AI. Perché proprio in quel periodo? Perché Altman stava cercando di convincere Elon Musk a co-fondare OpenAI. Musk, in quegli anni, andava in tutti i podcast e tweetava ossessivamente che l’AI era “il più grande rischio esistenziale”, paragonandola persino all’evocazione del demonio. Altman non credeva realmente a quella retorica (in precedenza aveva sostenuto che i virus ingegnerizzati fossero una minaccia più probabile), ma modellò il suo linguaggio sulle parole di Musk per attirarlo nella trappola. E funzionò: Musk donò ingenti somme e divenne co-presidente del consiglio di amministrazione della neonata OpenAI senza scopo di lucro. Poco dopo, però, scoppiò la lotta per il controllo. Ilya Sutskever (allora chief scientist) e Greg Brockman (CTO) dovevano decidere chi fosse il CEO della nuova entità a scopo di lucro che stavano creando. La scelta iniziale cadde su Musk, ma Altman fece leva sull’amicizia con Brockman e seminò il dubbio: “Non sarebbe pericoloso affidare una tecnologia così potente a un uomo imprevedibile, erratico, che agisce d’impulso?”. Brockman si convinse, trascinò Sutskever, e alla fine scelsero Altman. Musk, furioso, lasciò OpenAI e da allora nutre un rancore personale profondissimo. Oggi i due si stanno affrontando in tribunale, con Musk che accusa Altman di averlo manipolato e ingannato. Questa vicenda dimostra che la retorica del rischio esistenziale non è mai stata una genuina preoccupazione per il futuro dell’umanità, ma uno strumento di potere per accumulare risorse e neutralizzare i concorrenti. Come ha scritto Karen Hao nel suo libro “Empire of AI” (best seller del “Wall Street Journal”), le grandi aziende tecnologiche americane e cinesi hanno trasformato l’AI in un impero coloniale del ventunesimo secolo. E come tutti gli imperi, si basano sullo sfruttamento di risorse altrui: i dati degli utenti, la proprietà intellettuale di artisti e scrittori, il lavoro di centinaia di migliaia di lavoratori sottopagati in tutto il mondo, e persino il territorio e l’ambiente per costruire i giganteschi data center necessari ad addestrare i modelli di prossima generazione.
Il costo umano e ambientale dell’impero Parliamo innanzitutto del costo umano. Quando si sente parlare di AI, l’immaginario collettivo evoca ingegneri in camice bianco e algoritmi magici. La realtà è molto più sporca. Per addestrare modelli come GPT-4 o Claude, le aziende hanno bisogno di enormi quantità di dati etichettati manualmente da esseri umani. Questi lavoratori, spesso assunti tramite intermediari in Kenya, India, Filippine o Romania, vengono pagati pochi dollari l’ora per leggere e classificare frasi violente, racconti di abusi sessuali, descrizioni di torture e altri contenuti traumatici. Karen Hao ha intervistato decine di questi “lavoratori del click” (clickworkers) e ha documentato condizioni psicologiche devastanti: sindrome da stress post-traumatico, ansia cronica, depressione. Molti di loro non ricevono alcun supporto psicologico, e quando cercano di organizzarsi in sindacati vengono semplicemente sostituiti con altri lavoratori in paesi dove il costo del lavoro è ancora più basso. Non si tratta di un effetto collaterale marginale: senza questa forza lavoro invisibile, i modelli di linguaggio più avanzati semplicemente non esisterebbero. E la situazione peggiorerà con l’avvento degli “agenti AI” (come OpenClaw, citato da Hao), sistemi in grado di automatizzare non solo compiti ripetitivi ma anche lavori d’ufficio complessi. Entro diciotto mesi, secondo le previsioni più accreditate, questi agenti potrebbero sostituire milioni di impiegati in settori come la contabilità, la gestione clienti, la programmazione di base e persino il giornalismo. Le aziende tecnologiche ripetono come un mantra che l’AI creerà nuovi lavori che “oggi non possiamo nemmeno immaginare”. Ma Hao ha scoperto che molti di questi nuovi lavori sono in realtà molto peggiori di quelli che sostituiscono: contratti a zero ore, sorveglianza algoritmica costante, retribuzioni al ribasso. Un esempio concreto: i “revisori di allucinazioni” (fact-checker per le risposte dei chatbot) guadagnano meno della metà di un tradizionale operatore di call center, e vengono valutati da un software che misura ogni loro secondo di inattività. Il costo ambientale è altrettanto allarmante. Addestrare un singolo modello di grandi dimensioni (come GPT-3) consuma elettricità pari a quella di centoventi case americane per un anno intero, e produce emissioni di anidride carbonica equivalenti a quelle di cinque automobili nel loro intero ciclo di vita. I data center necessari per far funzionare ChatGPT consumano milioni di litri d’acqua al giorno per il raffreddamento, in regioni già colpite da siccità come il Cile, lo stato americano dell’Arizona e la Spagna meridionale. Le aziende tecnologiche hanno firmato accordi con i governi locali per ottenere sconti sulle bollette idriche ed elettriche, scaricando i costi sulla collettività. E quando attivisti e ricercatori denunciano questi abusi, le stesse aziende spendono centinaia di milioni di dollari in campagne di lobbying per bloccare qualsiasi legge che limiti la loro espansione. Hao cita un documento interno di OpenAI che rivela come l’azienda abbia finanziato studi “indipendenti” per minimizzare l’impatto ambientale dei propri modelli, replicando esattamente le tattiche usate in passato dall’industria dei combustibili fossili per negare il cambiamento climatico. Non c’è da stupirsi, quindi, se i ricercatori seri che cercano di valutare il vero costo ecologico dell’AI vengono sistematicamente ignorati o addirittura censurati.
Monopolio della conoscenza e censura Il terzo pilastro dell’impero dell’AI è il controllo della produzione di conoscenza. Le grandi aziende tecnologiche hanno finanziato la stragrande maggioranza della ricerca accademica sull’AI negli ultimi dieci anni. Di conseguenza, hanno stabilito quali domande sono legittime e quali no, quali metodologie vanno perseguite e quali vanno abbandonate, quali risultati possono essere pubblicati e quali devono rimanere segreti. Il caso più eclatante è quello della dottoressa Timnit Gebru, co-responsabile del team di etica dell’AI presso Google. Nel dicembre del 2020, Gebru aveva co-autorato un articolo scientifico che mostrava come i grandi modelli linguistici (quelli alla base di ChatGPT) producessero sistematicamente pregiudizi razziali e di genere, e come il loro costo ambientale fosse insostenibile. L’articolo era stato sottoposto a revisione paritaria ed era stato accettato per una conferenza. Eppure i dirigenti di Google ne bloccarono la pubblicazione, chiedendo alla Gebru di ritirarlo o di rimuovere i nomi degli autori di Google. Lei rifiutò, e venne licenziata via email mentre si trovava in ferie. La sua collega Margaret Mitchell, che aveva protestato pubblicamente, fu licenziata pochi giorni dopo. Da allora entrambe hanno denunciato un sistema in cui le aziende tecnologiche “assorbono” i migliori talenti dell’etica per poi silenziarli quando le loro scoperte diventano scomode per gli interessi aziendali. Karen Hao ha intervistato oltre 250 persone, di cui almeno 80 ex dipendenti o dirigenti di OpenAI, e ha ricostruito una dinamica ricorrente: i ricercatori vengono assunti con la promessa di poter lavorare su AI “sicura e allineata” con i valori umani, ma una volta dentro scoprono che l’unico vero obiettivo è la crescita a ogni costo. Chi alza la voce viene emarginato, trasferito a progetti marginali o semplicemente licenziato. La stessa Hao ha subito tentativi di intimidazione: mentre stava lavorando al suo libro, un uomo si è presentato alla porta della sua piccola organizzazione no-profit di watchdog, ha chiesto informazioni, messaggi ed email, e si è rivelato essere un investigatore privato pagato da una delle grandi aziende dell’AI per “mappare la rete dei critici”. La giornalista ha raccolto prove di campagne di sorveglianza sistematica contro attivisti, accademici e whistleblower. Questo monopolio della conoscenza ha un effetto perverso: il pubblico viene esposto solo a una versione edulcorata dei rischi e delle potenzialità dell’AI, mentre le voci critiche vengono etichettate come “apocalittiche” o “tecnofobe”. I politici, privi di competenze tecniche, si affidano proprio alle stesse aziende per redigere le bozze delle leggi sulla regolamentazione. Il risultato è una legislazione su misura per gli interessi dei giganti del settore, che di fatto legalizza lo sfruttamento dei lavoratori, l’uso indiscriminato dei dati personali e l’inquinamento ambientale. Hao racconta che durante le audizioni al Congresso americano, i rappresentanti di OpenAI, Google e Meta hanno ripetutamente affermato che “solo loro possiedono le competenze per valutare la sicurezza dei loro sistemi”. È come se un’industria farmaceutica affermasse che solo i suoi scienziati possono testare la sicurezza dei nuovi farmaci, senza alcuna supervisione indipendente. Il paradosso è che l’AI viene presentata come uno strumento di democratizzazione della conoscenza, mentre nella pratica concentra il potere e il sapere nelle mani di pochissime aziende. E non si tratta solo di Silicon Valley: la corsa agli armamenti dell’AI tra Stati Uniti e Cina, spesso raccontata dai media come una competizione geopolitica per la supremazia tecnologica, è in realtà alimentata dalle stesse logiche di profitto e controllo. I governi dei due paesi sovvenzionano le rispettive aziende nazionali, ma raramente impongono vincoli significativi. Il risultato è una spirale in cui l’unica legge è quella dell’accelerazione.
Perché continuiamo a inseguire l’AGI? A questo punto la domanda sorge spontanea: perché stiamo costruendo tutto questo? Perché dedicare risorse immense (si parla di trilioni di dollari nei prossimi dieci anni) alla creazione di un’intelligenza generale artificiale che, per definizione, dovrebbe sostituire l’essere umano in quasi ogni compito cognitivo? La risposta, secondo Karen Hao, non è tecnica ma politica e ideologica. I fondatori e i CEO di queste aziende (Altman, Musk, Zuckerberg, Pichai) condividono una fede profonda nella dottrina dell’“accelerazionismo efficace”: l’idea che l’unico modo per risolvere i problemi dell’umanità (malattie, povertà, cambiamento climatico) sia sviluppare un’AI superintelligente che troverà soluzioni che noi umani, con i nostri limiti cognitivi, non potremmo mai scoprire. Ma questa è solo una narrazione di facciata. Nei documenti interni ottenuti da Hao, emerge un quadro molto diverso: gli stessi manager che parlano di salvare il mondo in pubblico, nei consigli di amministrazione discutono di “quote di mercato”, “vantaggio competitivo” e “ritorno sull’investimento”. L’AGI è diventata un termine ombrello per giustificare qualsiasi cosa, dalla raccolta di capitali alla soppressione dei sindacati. Il caso di Dario Amodei, ex vicepresidente della ricerca di OpenAI e oggi CEO di Anthropic (creatore di Claude), è emblematico. Nel 2017, ancora in OpenAI, dichiarava in un’intervista che la probabilità che l’AGI distruggesse la civiltà umana era “tra il 10 e il 25 per cento”. Oggi, alla guida di Anthropic, ripete la stessa cifra, ma continua a sviluppare modelli sempre più grandi. Perché? Perché, come ha scoperto Hao, sia OpenAI che Anthropic sono finanziariamente dipendenti dalla corsa alle dimensioni dei modelli: maggiori sono i parametri, maggiore è la potenza di calcolo richiesta, e maggiori sono gli investimenti che possono attrarre da fondi di venture capital e da giganti come Microsoft (che ha investito 13 miliardi di dollari in OpenAI) o Google e Amazon (che hanno investito miliardi in Anthropic). Ilya Sutskever, il co-fondatore di OpenAI che nel 2023 ha tentato di estromettere Sam Altman (salvo poi essere scavalcato dalla ribellione dei dipendenti), ha una visione ancora più radicale. In un discorso chiave del 2019, mostrò un grafico che metteva in relazione la dimensione del cervello con l’intelligenza nelle specie animali: la correlazione era linearmente crescente. La sua conclusione era che, poiché il cervello umano non è altro che un “enorme motore statistico”, costruendo un motore statistico digitale di dimensioni superiori a quelle del cervello umano si otterrebbe un’intelligenza superiore. E allora, secondo Sutskever, l’umanità finirebbe per trattare le macchine intelligenti nello stesso modo in cui oggi trattiamo gli animali: “Non è che odiamo gli animali – disse testualmente – anzi, abbiamo affetto per loro. Ma quando dobbiamo costruire un’autostrada tra due città, non chiediamo il loro permesso. Lo facciamo e basta”. Questa analogia agghiacciante rivela il fondamento etico di chi insegue l’AGI: gli esseri umani diventerebbero gli animali inferiori di un nuovo padrone digitale. Ma è davvero inevitabile? Hao sottolinea che l’ipotesi di Sutskever non è affatto provata scientificamente. Molti neuroscienziati e filosofi della mente ritengono che l’intelligenza non sia riducibile alla pura potenza di calcolo, e che la coscienza, l’empatia, la creatività autentica e il giudizio morale non emergano automaticamente dall’aumento dei parametri di un modello statistico. Tuttavia, l’industria ha investito così tanto in questa direzione che ormai cambiare rotta sarebbe ammesso come una sconfitta. L’alternativa esiste: costruire sistemi di AI strettamente focalizzati su problemi specifici (diagnosi mediche, ottimizzazione delle reti energetiche, scoperta di nuovi materiali) senza alcuna pretesa di replicare l’intelligenza umana generale. Questi sistemi sarebbero più economici, più trasparenti, più facili da regolamentare e molto meno dannosi per l’ambiente e per i lavoratori. Ma non genererebbero i profitti astronomici che gli investitori si aspettano. E quindi, per citare le parole della stessa Hao, “non stiamo costruendo l’AGI perché sia utile all’umanità, ma perché è la più grande macchina per estrarre ricchezza che sia mai stata inventata”. L’etica dell’AI, in questo quadro, diventa un esercizio di facciata: comitati etici senza poteri reali, codici di condotta volontari, promesse di “trasparenza” che si traducono in rapporti tecnici incomprensibili. Fino a quando non si romperanno gli imperi, attraverso regolamentazioni pubbliche, sindacalizzazione dei lavoratori del click e un movimento globale per una tecnologia democratica e decentralizzata, la corsa continuerà. E il prezzo, come sempre, lo pagheranno i più deboli.
L’impero dell’intelligenza artificiale non è un destino ineluttabile, ma il risultato di scelte politiche ed economiche precise. Possiamo decidere di costruire tecnologie al servizio delle persone, non dei profitti, ascoltando le voci di chi oggi viene sfruttato e zittito. La vera sfida etica non è come evitare che le macchine ci rendano schiavi, ma come impedire che i pochi esseri umani che controllano queste macchine continuino a farlo impunemente.
