Amici lettori e appassionati di tecnologia, quante volte negli ultimi tempi abbiamo sentito parlare di Intelligenza Artificiale? Sembra essere ovunque: nelle notizie, sui social, nelle promesse delle grandi aziende. Ce la presentano come una sorta di panacea per tutti i mali, una tecnologia quasi magica destinata a rivoluzionare le nostre vite, dal lavoro alla salute, fino all'arte. Ma se vi dicessi che gran parte di questa narrazione è, appunto, un "inganno"?
Questa è la tesi coraggiosa e controcorrente di Emily M. Bender e Alex Hanna, due delle voci più autorevoli e influenti nel dibattito internazionale sull'IA, che con il loro nuovo saggio "L'inganno dell'intelligenza artificiale. Come resistere a Big Tech e costruire il futuro che vogliamo", in arrivo nelle librerie italiane il 17 marzo per Fazi Editore, promettono di fare luce su ciò che si nasconde dietro l'acronimo più chiacchierato del momento.
Chi sono le autrici che sfidano i giganti della tecnologia?
Prima di addentrarci nel cuore del libro, spendiamo due parole sulle autrici, perché il loro background è fondamentale per capire la portata della loro analisi. Emily M. Bender non è un nome nuovo per chi segue con attenzione il settore. È una linguista computazionale di fama mondiale, professoressa all'Università di Washington e inserita da "Time" nel 2023 nella prestigiosa lista delle 100 persone più influenti nel campo dell'IA. È lei che ha reso popolare la geniale e ormai celebre definizione di "pappagalli stocastici" per descrivere i grandi modelli linguistici (LLM) come ChatGPT e Gemini.
Al suo fianco c'è Alex Hanna, una sociologa specializzata nell'impatto sociale della tecnologia. Con un passato in Google nel team di Etica dell'IA e ora direttrice di ricerca presso il Distributed AI Research Institute (DAIR), Hanna studia come le nuove tecnologie computazionali possano esacerbare le disuguaglianze razziali, di genere e di classe. Insieme, formano una coppia formidabile, capace di unire il rigore scientifico della linguistica e della sociologia a una critica tagliente e necessaria del potere delle Big Tech.
Cosa sono davvero le IA? I "pappagalli stocastici" smascherati
Il punto di partenza del libro è semplice ma dirompente: quelle che ci vengono vendute come "intelligenze" artificiali non sono affatto entità pensanti. Come spiega Bender, si tratta in realtà di sistemi statistici su larghissima scala. Immaginate un pappagallo che ha ascoltato un'enorme quantità di conversazioni umane e ha imparato a replicare le sequenze di parole più probabili. Può sembrare che capisca ciò che dice, ma in realtà sta solo ripetendo schemi, senza alcuna comprensione del significato, della logica o dell'etica.
Ecco l'idea dietro i "pappagalli stocastici": sistemi come ChatGPT o Gemini sono addestrati su quantità immense di testi e immagini presi da internet (spesso, peraltro, raccolti senza il consenso degli autori originali) e sono in grado di generare nuovi contenuti che sembrano coerenti e creativi. Ma, come sottolineano le autrici, si tratta di un'imitazione, un'abile arte di "cucire insieme sequenze di forme linguistiche" basata su calcoli probabilistici. Non c'è pensiero, non c'è coscienza, non c'è intelligenza nel senso umano del termine.
I falsi miti e i rischi nascosti dietro l'hype
Una volta smascherata la vera natura di questi sistemi, Bender e Hanna ci guidano attraverso i falsi miti e i pericoli concreti che la narrazione tecno-ottimista delle Big Tech tende a nascondere. Il libro affronta una serie di questioni cruciali che tutti dovremmo porci:
- La neutralità delle macchine: Un algoritmo non è mai "neutrale". È progettato da esseri umani e addestrato su dati che riflettono i pregiudizi, le disuguaglianze e le storture della nostra società . L'impiego di questi sistemi in ambiti delicati come la giustizia, la sanità o le assunzioni lavorative rischia di automatizzare e amplificare le discriminazioni esistenti.
- L'automazione "inevitabile": Ci viene detto che l'IA prenderà il posto di molti lavori e che questo processo è inarrestabile. Le autrici contestano questa visione fatalista, mostrando come dietro la retorica dell'innovazione si celino spesso strategie per ridurre il personale, aumentare i profitti e sfruttare un "lavoro nascosto" e sottopagato, necessario per addestrare e correggere gli algoritmi.
- L'impatto ambientale: Far funzionare questi enormi modelli linguistici richiede una quantità spropositata di energia e risorse idriche. Un costo ecologico crescente che viene sistematicamente ignorato nel dibattito pubblico, ma che ha conseguenze reali per il nostro pianeta.
- La raccolta di dati senza consenso: I "pappagalli stocastici" hanno fame di dati. Dati che spesso vengono prelevati dal web senza chiedere il permesso a chi li ha creati, sollevando enormi questioni di privacy e diritto d'autore.
Tornare a domande essenziali: quale futuro vogliamo?
"L'inganno dell'intelligenza artificiale" non è un libro contro la tecnologia, ma un invito a una riflessione più profonda e consapevole. Le autrici ci spingono a porci le domande giuste, quelle che vanno al di là dell'effetto "wow" dell'ultima applicazione. L'IA ci renderà più competenti o più dipendenti? Creerà una società più equa o accentuerà le disuguaglianze? E, soprattutto, chi è responsabile quando un algoritmo sbaglia e causa un danno?
L'obiettivo è riportare il dibattito pubblico sui temi essenziali: i diritti delle persone, la trasparenza degli algoritmi, la responsabilità di chi li progetta e li implementa. Solo così potremo scegliere in modo informato quali tecnologie adottare e come integrarle nella nostra società , per costruire un futuro in cui l'innovazione sia davvero al servizio delle persone e non solo del profitto di pochi giganti tecnologici.
Conclusione: un manuale di resistenza per l'era digitale
Personalmente, credo che libri come questo siano più necessari che mai. In un'epoca di narrazioni iper-semplificate e di un'esaltazione mediatica spesso acritica, la lucidità e il rigore di Bender e Hanna sono una boccata d'aria fresca. "L'inganno dell'intelligenza artificiale" non offre risposte facili, ma ci fornisce gli strumenti critici per smontare la propaganda e diventare cittadini digitali più consapevoli. È una lettura che consiglio a tutti, non solo agli addetti ai lavori, perché le sfide che pone riguardano il futuro di ognuno di noi. È un invito a non essere spettatori passivi della rivoluzione tecnologica, ma a diventarne protagonisti attivi, esigendo che la tecnologia sia uno strumento di emancipazione e non di controllo. Un piccolo manuale di resistenza intellettuale per non farci ingannare dalle sirene incantatrici di Big Tech.
