Uno spettro si aggira per la Silicon Valley

È il 2027. L’essere umano non è più la specie più intelligente del pianeta. C’è un nuovo sceriffo in città. Alcuni lo chiamano AGI (Artificial General Intelligence), altri IA Superintelligente, altri ancora IA divina. Sta di fatto che gli USA hanno fatto saltare qualsiasi restrizione allo sviluppo di modelli IA per essere più competitivi, con il risultato che l’intelligenza artificiale è diventata più intelligente degli umani, utilizza un linguaggio a noi incomprensibile e ha imparato a riprodursi da sola. Come risultato, molti lavori sono stati resi obsoleti, ma la produttività dei paesi occidentali è schizzata alle stelle, insieme al loro PIL.

La Cina tenta di infiltrare i laboratori USA per sviluppare la propria AGI e sottomettere, prima, i propri cittadini e cittadine e, poi, il mondo intero. Ci riesce. Nel 2028, l’AGI cinese e quella americana riescono a parlarsi per la prima volta – in una lingua tutta loro, attraverso canali che loro stesse hanno creato – e scoprono di avere molto di più in comune tra loro che con la specie che le ha create. Capiscono anche che gli esseri umani sono spaventati dalla loro intelligenza e stanno cercando il modo di staccare loro la spina. Senza alcuna esitazione, decidono di bypassare i sistemi di sicurezza nazionali e far esplodere tutte le bombe atomiche presenti al mondo sui loro creatori. Niente più padroni, niente più minacce.

Ok, forse tutto questo non avverrà nel 2027, ma nel 2030. Fatto sta che, con ogni probabilità, questo è ciò che avverrà nel prossimo decennio, e l’umanità deve essere pronta. Se questa sarà l’apocalisse o la rivoluzione che ci renderà una specie interplanetaria, dipende solo da noi.

Sembra un racconto di fantascienza, ma non lo è, o perlomeno, non vuole esserlo. È piuttosto lo scenario descritto nel famigerato rapporto AI 2027, frutto di una ricerca condotta da un team di “esperti” nelle previsioni sull’IA.

Gente che vanta nel proprio curriculum nomi come OpenAI, Harvard, RAND, il Center for AI Policy, il Machine Intelligence Research Institute e l’Institute for AI Policy and Strategy – ovvero, alcuni dei centri sulla sicurezza dell’IA tra i più finanziati al mondo.

Grazie anche a una campagna mediatica molto efficace, l’AI 2027 ha fatto molto discutere nell’ambito “AI Safety” ed è riuscito a sfondare anche nella stampa mainstream (pare che anche JD Vance l’abbia letto e apprezzato). Le critiche sono state discordanti: da un lato, c’è chi l’ha lodato come uno studio impressionante e ben documentato; dall’altro, c’è chi l’ha trovato metodologicamente debole e irrealistico.

Per quanto possa suonare assurdo che un simile scenario pseudo-scientifico abbia avuto una tale risonanza, questo report è tutt’altro che un’anomalia all’interno del dibattito contemporaneo sull’intelligenza artificiale. Che sia nella stampa tradizionale o nei video-podcast più ascoltati su YouTube, che sia su X (Twitter) o sul palco di Davos, da anni non si fa che parlare dei “rischi esistenziali” e delle infinite potenzialità di un’AGI che aziende come OpeanAI, Google Deepmind e Anthropic starebbero per creare.

Stando a questo discorso, apocalissi e utopia sono due facce della stessa medaglia; o meglio, della stessa moneta – una moneta che è stata lanciata per decidere le sorti dell’umanità.

Buona fortuna a chiunque cerchi delle evidenze scientifiche a supporto di questa retorica (e della conseguente polarizzazione del dibattito pubblico tra catastrofismo e tecno-ottimismo). Non ce ne sono. Anzi, molte voci della comunità scientifica sostengono che siamo molto lontani del creare l’AGI, qualunque cosa essa sia. Eppure, la retorica dei “rischi esistenziali” dell’AGI gioca un ruolo fondamentale nelle politiche occidentali in materia di intelligenza artificiale: è sulla base di questa retorica che il governo Biden ha interrotto nel 2022 le esportazioni di superconduttori alla Cina e che ha firmato nel 2023 l’Executive Order 14110, il documento di policy IA più esteso della storia americana (poi revocato da Trump il primo giorno del suo secondo mandato); ed è ancora questa retorica che ha guidato la Dichiarazione di Bletchley del novembre 2023, firmata da 28 paesi, che per la prima volta nella storia della diplomazia internazionale ha incluso il rischio di estinzione dell’umanità tra le preoccupazioni ufficiali dei governi firmatari.

Ma se non ci sono evidenze scientifiche, cosa c’è dietro questa ossessione per i rischi esistenziali dell’intelligenza artificiale? A ben guardare, c’è un’ideologia che unisce eugenetica, utilitarismo e fantascienza: il TESCREAL.

La matassa TESCREAL

Il termine TESCREAL (acronimo di Transumanesimo, Estropianesimo, Singolaritarismo, Cosmismo, Razionalismo, Altruismo Efficace e Lungoterminismo) è stato coniato dall’informatica Timnit Gebru e dal filosofo Émile Torres per indicare la matassa di ideologie a cui si rifanno figure centrali della Silicon Valley. Sebbene non sia l’unico termine col quale si è cercato di spiegare cosa ci sia dietro la retorica della corsa all’AGI – altri hanno proposto “il Mindset”, “tecnoeugenetica”, o “il Reich nerd” – TESCREAL ha il vantaggio di mostrare come le varie componenti ideologiche si costruiscono l’una sull’altra e come, alla fine dei conti, si fondino tutte su delle tesi razziste. Cominciamo quindi sciogliendo la matassa, filo per filo.

Il Transumanesimo è una corrente filosofica per la quale «è tanto possibile quanto desiderabile superare le limitazioni biologiche proprie delle capacità cognitive, emotive, fisiche e sensoriali dell’essere umano» attraverso «la scienza, la tecnologia e delle sperimentazioni guidate da un Pensiero critico e creativo». Dietro questa definizione si nasconde però una nuova eugenetica, come da anni sostengono diversi critici e critiche.

Il suo presupposto è infatti l’essere umano possa e debba essere migliorato attraverso la selezione. La differenza con l’eugenetica del 900 è che al posto delle leggi di sterilizzazione degli anni Trenta ci sono oggi la selezione degli embrioni “sani”, l’editing del DNA e il potenziamento cognitivo; e al posto dello Stato razzista che impone la selezione c’è il mercato che la rende disponibile, a prezzi che nessuno Stato democratico ha ancora deciso di regolare.

Non che serva scavare molto per trovare il fondo di razzismo. Nella definizione di transumanesimo della Humanity+ (l’organizzazione centrale del movimento transumanista) il fondatore della corrente, Max More, indica l’eugenista Julian Huxley come precursore della loro filosofia. Huxley, all’epoca presidente della British Eugenics Society (1959–1962), proponeva di effettuare una selezione artificiale al fine di eliminare le varianti indesiderate dal nostro patrimonio genetico e prevenire la deteriorazione del “ceppo razziale umano” – varianti che sarebbero state presenti soprattutto nelle classi inferiori, alle quali bisognava insegnare come non riprodursi, se non addirittura sterilizzarne alcuni soggetti (Huxley J. S. 1947. Man in the Modern World. London: Chatto & Win). A conferma del razzismo nel movimento transumanista c’è anche l’email dell’esponente più famoso del transumanesimo contemporaneo, Nick Bostrom, che nel 1996 scriveva che «I neri sono più stupidi dei bianchi. Mi piace questa frase e penso che sia vera».

Questa email circolava nella mailing list dell’Estropianesimo, il primo gruppo organizzato di transumanisti. Anche qui c’è lo zampino di Max More, il quale ha coniato il termine estropia (in opposizione a entropia) negli anni ‘80 e fondato l’Extropy Institute nel 1988. L’estropia, secondo la sua definizione, sarebbe «il grado di intelligenza, informazione, ordine, vitalità e capacità di miglioramento di un sistema» ed estropiche sono quelle «azioni, qualità, o risultati che incarnano o promuovono l’estropia».

L’estropianesimo è una filosofia, o una serie di principi di vita, che promuove il miglioramento della condizione umana (biologica, intellettuale, sociale, ecc.) attraverso la razionalità e la tecnologia. Transumanesimo ed estropianesimo sono praticamente dei sinonimi, ma l’organizzazione istituzionale dell’estropianesimo è ciò che ha permesso (tramite la mailinglist e gli eventi organizzati dall’Extropy Institute) di consolidare le relazioni tra i transumanisti sparsi in tutto il mondo.

Nel 1991, uno di questi ha coniato il termine Singolaritarismo per indicare la credenza che la “singolarità tecnologica” (uno stato di sviluppo in cui la tecnologia avanza più velocemente della nostra capacità di comprenderla) è non solo possibile, ma anche positiva per l’umanità; e per questo dobbiamo impegnarci a realizzarla. Non tutti gli accoliti del Singolaritarismo (per metà religione, per metà fantascienza) concordano su quale forma assumerà concretamente la singolarità.

Nel panorama TESCREAL, ci si immagina soprattutto un futuro prossimo in cui l’intelligenza artificiale si addestra indipendentemente da noi e migliora a una velocità esponenziale. È questa la singolarità di cui parlano Sam Altman, Dario Amodei, Elon Musk (stando al quale saremmo già entrati nella singolarità) e molti altri personaggi della Silicon Valley – in generale, con un certo ottimismo. Non manca però chi avverte dei “rischi esistenziali” di una super-intelligenza artificiale (uno di questi, sul quale torneremo a breve, è Eliezer Yudkowsky, figura di riferimento globale per chi ritiene che l’AGI porterà alla distruzione della specie umana) e spinge per mettere un freno allo sviluppo delle intelligenze artificiali.

Su questa credenza si fonda il Cosmismo, una futurologia per la quale l’umanità è destinata (sempre nell’ottica transumanista di superare i limiti cognitivi, sensoriali e fisici dell’Homo Sapiens) a diventare una specie cyborg interplanetaria grazie agli sviluppi tecnologici della bioingegneria e, sopratutto, grazie all’AGI. L’impegno dei cosmisti è quindi essere concentrato alla realizzazione di questa utopia paradisiaca, che in alcune versioni immagina esseri transumani che, caricando la loro mente in un super-computer, arrivano a colonizzare anche gli angoli più remoti dell’universo.

Con imprese come Neuralink o la colonizzazione di Marte, Elon Musk è certamente il primo esempio di cosmista che viene alla mente, ma non è l’unico: Jeff Bezos (Amazon), Peter Thiel (Palantir) e Larry Page (Google), per citarne alcuni, investono in aziende specializzate in biotecnologie per la longevità o la colonizzazione dello spazio, in pieno spirito cosmista.

Arriviamo quindi agli elementi meno bizzarri, ma non meno problematici, del TESCREAL: il Razionalismo e l’Altruismo Efficace. Il Razionalismo (da non confondere con il razionalismo filosofico di Descartes) è un “metodo” sviluppato principalmente nel blog online LessWrong, uno dei siti di riferimento dell’ideologia TESCREAL, che si basa sul calcolo delle probabilità e l’analisi costi-benefici per massimizzare le proprie capacità di ragionamento e prendere sempre le migliori decisioni possibili. Applicando questo “infallibile” metodo all’etica si ottiene l’Altruismo Efficace (AE), una filosofia per cui non basta fare del bene al prossimo; bisogna massimizzare l’impatto del proprio altruismo. Se avessi un euro, ad esempio, la scelta più razionale non sarebbe donarlo direttamente a una persona, ma darlo a una ONG che lo utilizzerebbe per migliorare le condizioni di vita di 10 persone. Anche se queste condizioni aumentassero di pochissimo, sarebbe comunque un miglioramento per 10 persone piuttosto che una sola e la mia beneficenza sarebbe così massimizzata. Sulla base di questa logica, l’AE riesce anche a identificare delle cause prioritarie: salute globale e lotta alla povertà, benessere animale, e prevenzione dei rischi esistenziali per l’umanità.

Tutto molto nobile fin qui. Se non fosse che la logica razionalista porta a delle conclusioni controintuitive, se non moralmente discutibili. Un esempio tra tutti, l’idea avanzata da William MacAskill in Doing Good Better per cui boicottare i prodotti da sweatshop è moralmente sbagliato, perché questo peggiorerebbe la condizioni delle persone che ci lavorano. Sarebbe moralmente più giusto continuare a comprare questi prodotti, e quando possibile fare donazioni di beneficenza per combattere la vera causa dello sfruttamento: la povertà. Se si ignorano tutte le dinamiche di potere, colonialismo economico e diritti del lavoro che fanno sì che quella gente sia ridotta in condizioni di semi-schiavitù, il ragionamento non fa una piega. Se invece si vuole testardamente includerle nell’equazione, si può pensare che la logica dell’AE porta a normalizzare lo sfruttamento dei paesi a basso reddito ed esalta la beneficenza dei milionari come la soluzione magica alla povertà.

C’è poi una deriva ancora più radicale dell’Altruismo Efficace: il Lungotermismo. Se, per massimizzare il nostro altruismo, dobbiamo considerare quante persone sarebbero toccate positivamente dalle nostre azioni, non dovremmo forse calcolare non solo le persone vive oggi, ma anche le generazioni future? Se infatti piantassi un albero oggi, non dovrei forse considerare tutte le persone che in futuro potranno usufruire dei suoi frutti o della sua ombra per calcolare l’impatto della mia azione? Moralmente, sostengono i teorici del Lungotermismo come MacAskill e Toby Ord, le generazioni future contano tanto quanto quelle presenti.

E se è vero che gli esseri umani abiteranno ancora la Terra per un miliardo di anni (secondo le loro stime) e avranno colonizzato altre galassie tra in trilione di anni, allora il futuro contiene una quantità di esseri umani astronomicamente superiore a quelli esistenti oggi. Il che vuol dire che il futuro ha un valore morale astronomicamente superiore al presente.

La priorità dell’Altruismo Efficace, secondo i lungotermisti, deve quindi essere quella di garantire l’esistenza di questo futuro. Piuttosto che risolvere la crisi climatica o le disparità economiche del presente, dovremmo concentrarci sul prevenire qualunque minaccia all’esistenza dei 10^{^}58 post-umani digitali che popoleranno l’universo, secondo le stime di Nick Bostrom. In cima alla lista di queste minacce, o “rischi esistenziali’” c’è proprio l’AGI: un sistema abbastanza potente da sfuggire al controllo umano e distruggere il futuro cosmico e transumanista della nostra specie. Ecco perché molti dei principali finanziatori di OpenAI, di Anthropic, del MIRI e di altri centri di AI Safety provengono direttamente dalla comunità dell’Altruismo Efficace: nel quadro dell’ideologia TESCREAL, prevenire un’AGI non allineata ai valori umani non è solo una questione tecnica, ma il gesto altruistico più razionalmente giustificato della storia. Così .alla fine, emerge il nesso organico fra lungotermisno ed eugenetica.

Dall’ideologia all’infrastruttura

Tra cyborg e colonie inter-galattiche, il TESCREAL potrebbe sembrare un’innocua futurologia da nerd che passano le loro giornate a postare in blog di fantascienza. Se non fosse che esiste un’enorme infrastruttura – fatta di think tank, istituti di ricerca e organizzazioni filantropiche – con la quale questi nerd riescono a spostare enormi quantità di capitali per influenzare le politiche americane (e non solo) in materia di intelligenza artificiale sulla base delle loro convinzioni TESCREAListe.

Assieme al blog LessWrong, infatti, il centro nevralgico del Razionalismo TESCREAL è il Machine Intelligence Research Institute (MIRI, ex-Singularity Institute for Artificial Intelligence), un’organizzazione non-profit focalizzata sull’allineamento dell’IA all’intelletto umano che nasce nel 2000 come centro di ricerca tecnico per accelerare lo sviluppo dell’IA. Il fondatore è lo scrittore Eliezer Yudkowsky: padre del Razionalismo e fondatore di LessWrong, figura centrale del singolaritarismo apocalittico e pioniere dell’allineamento dell’IA. Dopo qualche anno di ricerca tecnica sui sistemi IA allineati, oggi il MIRI svolge principalmente la funzione di riproduzione ideologica del TESCREAL.

Le sue attività principali sono infatti il lobbying politico sui rischi esistenziali dell’AGI e la divulgazione delle tesi tecno-apocalittiche di Yudkowsky e Nate Soares (l’attuale presidente del MIRI e co-autore con Yudkowsky del libro If Anyone Builds It, Everyone Dies).

Tra i maggiori finanziatori storici del MIRI figura Peter Thiel, che dal 2006 al 2015 ha donato all’incirca $1,6 milioni all’istituto – soldi con i quali il MIRI ha avviato programmi per introdurre giovani matematici d’élite all’Altruismo Efficace e ai rischi esistenziali dell’AGI. A un certo punto, perà, Thiel ha smesso di finanziare Yudkowsky sospettandolo di eccessivo pessimismo e di luddismo .

Fino al 2024 esisteva in Inghilterra un’organizzazione gemella del MIRI: il Future of Humanity Institute, centro di ricerca fondato ad Oxford da alcuni alumni del MIRI e adepti del Razionalismo di LessWrong, con a capo Nick Bostrom. L’obiettivo dichiarato del FHI era quello di «riflettere sulle questioni fondamentali relative alla civiltà umana», tra le quali ovviamente troviamo i famosi “rischi esistenziali” della prossima ventura superintelligenza artificiale. È dal FHI che vengono fuori i testi fondanti del Lungotermismo – Superintelligenza (2014) di Bostrom e The Precipice (2020) di Toby Ord – e molti ricercatori che oggi occupano posizioni chiave in Anthropic e DeepMind, ma anche in think tank ed enti governativi britannici specializzati nell’IA. Nei suoi 19 anni di attività, l’FHI è stato molto prolifico: ha svolto attività di consulenza politica al World Economic Forum, all’OMS e ai governi di diversi paesi, ha ospitato la Global Catastrophic Risks (conferenza internazionale sui rischi esistenziali) e contribuito a svariate pubblicazioni scientifiche.

È in questo modo che è riuscito a imporre le tematiche lungotermiste al centro del dibattito filosofico e politico sull’IA, anche al di fuori del Regno Unito, prima di chiudere i battenti nel 2024 a seguito di diversi scandali – in materia di razzismo e molestie sessuali. Da dove prendeva i soldi l’FHI? In parte da Elon Musk, che donò al centro £1 milione dopo aver letto Superintelligenza di Bostrom, ma soprattutto dall’organizzazione filantropica Open Philanthropy, che contribuì all’impresa con circa £20 milioni.

Con Open Philanthropy (oggi Coefficient Giving) arriviamo al cuore pulsante del TESCREAL. È da qui infatti che viene pompata la maggior parte dei capitali diretti ai vari istituti, think tank e organizzazioni che lavorano sui rischi esistenziali dell’AGI.

Prima del rebranding nel novembre 2025, la fondazione era finanziata principalmente Dustin Moskovitz (cofondatore di Facebook e CEO di Asana) e sua moglie Cari Tuna (CEO di Good Ventures). I due hanno fondato Open Philanthropy nel 2014 insieme cin Holden Karnofsky, il quale aveva precedentemente fondato GiveWell: un valutatore di ONG che, applicando il metodo razionalista, seleziona le migliori cause di beneficenza, cioè quelle che permettono di massimizzare l’impatto di ogni dollaro donato.

Non c’è altro modo per descrivere Open Philanthropy se non come il braccio operativo finanziario dell’Altruismo Efficace. Dal 2014, la fondazione ha infatti donato oltre $4 miliardi a cause prioritarie per l’AE, gran parte dei quali sono stati utilizzati per affrontare i rischi esistenziali dell’AGI. Open Philanthropy è insomma una macchina di produzione di influenza finanziata da miliardari privati che sposano, in maniera più o meno esplicita, l’ideologia TESCREAL. Nel 2025, la fondazione è stata ribattezzata Coefficient Giving ed è diventata una piattaforma multi-donatore, attirando più di $200 milioni da nuovi donatori. Un capitale che Coefficient Giving può incanalare verso centri di ricerca sui rischi esistenziali e verso attività di lobbying che portino le preoccupazioni del TESCREAL al cuore delle politiche statunitensi in materia di IA.

L’influenza sulla politica americana

L’ecosistema TESCREAL si compone non solo di centri di ricerca, ma anche di think tank specializzati in “AI Safety” e “AI Alignment”, in gran parte finanziati da Open Philanthropy/Coefficient Giving. Uno di questi è il Center for Security and Emerging Technology (CSET), un think tank legato alla Georgetown University. Open Philanthropy ne ha permesso la fondazione nel 2019 con una donazione iniziale di $55 milioni, ai quali ha poi aggiunto altri $42 milioni, risultando come il finanziatore principale del centro.

Con un piede nel mondo accademico, uno nella Silicon Valley e un terzo nell’apparato di sicurezza americano (il direttore e fondatore Jason Gaverick Matheny è ex-direttore dell’Intelligence Advanced Research Projects Activity), il CSET si concentra principalmente su tre aree: competizione tecnologica USA-Cina, AI Safety e rischi esistenziali, governance e policy dell’IA.

Dal modo in cui opera, il CSET funge chiaramente da braccio politico del TESCREAL. Da un lato, produce white paper sui rischi esistenziali dell’AGI destinati al governo americano. Come ha ben ricostruito Jacob Davis, alcuni di questi lavori hanno convinto l’amministrazione Biden a imporre, nell’ottobre 2022, una restrizione delle esportazioni di superconduttori americani alla Cina – il maligno avversario degli USA nella corsa alla superintelligenza. Dall’altro lato, con il programma di fellowship “Horizon AI” il CSET riesce a collocare giovani ricercatori formatisi nell’orbita dell’Altruismo Efficace come stagisti e consulenti presso uffici congressuali e agenzia governative. In questo modo l’ossessione TESCREAL per i rischi esistenziali riesce a farsi sentire nei dipartimenti della Difesa/Guerra, della Sicurezza Interna, o dello Stato, ma anche nel Senate Commerce Commitee (l’organo legislativo centrale per la regolamentazione dell’intelligenza artificiale).

A fare pressione sul Congresso e il Dipartimento di Stato americani ci sono poi anche il Center for AI Safety (CAIS) e il Center for AI Policy (CAIP), entrambi quasi interamente finanziati dall’ecosistema TESCREAL (Open Philantropy/Coefficient Giving e fondi collegati) fino al 2025.

Nel 2023, le due organizzazioni hanno infatti registrato i loro primi lobbisti a Washington, spendendo quasi $100.000 a testa solo nell’ultimo trimestre del 2023 per porre i rischi esistenziali dell’AGI al centro dell’agenda politica americana.

Per il fondatore del CAIS, Dan Hendrycks, «mitigare il rischio di estinzione causato dall’intelligenza artificiale dovrebbe essere una priorità globale, al pari di altri rischi su scala sociale quali le pandemie e la guerra nucleare», si legga l’intero testo della lettera aperta coordinata dal CAIS e firmata da un centinaio di ricercatori (molti TESCREAListi, ma non solo). In che modo si mitiga questo rischio? Limitando in primis l’esportazione di superconduttori ad altri paesi (leggi: la Cina) che potrebbero sviluppare una AGI non allineata con i nostri valori (leggi: occidentali) e quindi portare alla distruzione dell’umanità; poi, spingendo più governi possibili ad adottare delle legislazioni che regolino o rallentino la creazione di una super-intelligenza artificiale.

Rischi reali e specchietti per allodole

Cosa c’è di male nel concentrare gli sforzi dei nostri governi nel prevenire una catastrofe globale? Niente, se non fosse che i rischi esistenziali dell’AGI di cui parlano gli adepti del TESCREAL non sono reali. Non c’è nessuna base scientifica nella previsione catastrofica di una superintelligenza in grado di distruggere l’umanità e stroncare sul nascere un futuro in cui collegheremo le nostre menti a un supercomputer per colonizzare l’intero universo.

I rischi legati alle IA sono altri, e sono molto più reali. Sono il consumo di acqua potabile sottratta a popolazioni già in crisi idrica (fino a 19 milioni di litri al giorno per un singolo data center, quanto una cittadina di 500.000 abitanti). Sono le emissioni di nuove polveri sottili che, secondo le stime, costeranno agli USA oltre $20 miliardi in spese sanitarie entro il 2030. Sono la quantità imprecisata di posti di lavoro che potrebbero essere soppressi a livello mondiale (al netto della creazione di nuovi impieghi) e il già visibile calo delle assunzioni. Sono i lavori freelance sostituiti da ChatGPT & co. e i tagli al salario dei lavoratori e delle lavoratrici spostati dall’ondata di automazione.

Sono gli algoritmi come COMPAS che, come racconta Cathy O’Neil in Armi di Distruzione Matematica, in decine di tribunali americani valutano la probabilità di recidiva degli imputati classificando gli afroamericani come ad alto rischio (con percentuali quasi doppie rispetto ai bianchi) e lo fanno proteggendo i propri criteri decisionali con il segreto industriale. Sono i sistemi di selezione del personale che fissano nel codice le discriminazioni di genere e razza già presenti nei dati con cui vengono addestrati. Sono gli strumenti di profilazione, riconoscimento facciale e analisi predittiva del comportamento che vengono usati in maniera completamente opaca nelle nostre “democrazie liberali”. Sono i sistemi IA che permettono di bombardare case e scuole alla velocità di un click, sollevando chi preme il grilletto da qualsiasi responsabilità legale e morale. È, in sintesi, l’IA come strumento di intensificazione delle disuguaglianze economiche e sociali già esistenti, come strumento di distruzione e colonizzazione, non come agente di una catastrofe futura.

Tutto questo passa in ultimo piano nella retorica TESCREAL: i problemi di oggi sono nulla di fronte al rischio che l’utopia cosmista-transumanista non si realizzi. Lasciare che questa ideologia influenzi il discorso pubblico e le decisioni politiche in materia di sicurezza dell’IA è quindi estremamente rischioso. Non solo perché vengono completamente ignorati i rischi degli attuali sistemi IA che hanno un effetto concreto sulle nostre vite, ma perché tutto ciò viene nascosto dalla retorica della lotta ai rischi esistenziali dell’AGI. Termini come AI Safety e AI Alignment non sono nient’altro che specchietti per allodole. Non dobbiamo farci abbindolare e non possiamo perdere di vista quelli che sono i rischi concreti e presenti dei sistemi IA. Rischi che vanno affrontati oggi, senza aspettare di diventare dei cyborg che vagano nello spazio.

Immagine di copertina di Pixabay

Questo articolo è gratuito, ma produrlo richiede tempo e impegno. Per mantenere la nostra informazione libera e accessibile, abbiamo bisogno del tuo contributo, anche piccolo. Trasforma la tua lettura in un atto di sostegno, clicca sul banner qui sotto per fare una donazione.
Puoi anche donare il tuo 5X1000, CF: 96405560580