Qualche settimana fa il Corriere della Sera ha inaugurato una nuova collana intitolata “Il lato umano della tecnologia” a cura dello Humane Technology Lab dell’Università Cattolica del Sacro Cuore. La nota editoriale che apre il volume ci informa che lo Humane Technology Lab “unisce le menti migliori da diverse facoltà dell’Università Cattolica del Sacro Cuore. Questi esperti  stanno esplorando una vasta gamma di temi, dall’intelligenza artificiale al mondo dei social media, dalla robotica al futuro del lavoro.”

Il direttore del laboratorio è Giuseppe Riva, docente di psicologia della Comunicazione e presidente dell’Associazione internazionale di Cyberpsicologia “che raduna oltre duecento ricercatori  provenienti da ogni ancolo del globo impegnati nella valutazione dell’impatto dei media digitali sui nostri comportamenti e sulla nostra mente.”

La collana si articola in tre libri:
Né intelligente né artificiale. Il lato oscuro dell’IA di Kate Crawford (già pubbblicato da l Mulino nel 2021),
Macchine ingannevoli. Comunicazione, tecnologia, intelligenza artificiale di Simone Natale
I social network di Giuseppe Riva.

I primi due sono già giunti in edicola. Testimoniano quanto il tema dell’Intelligenza artificiale stia allargandosi molto oltre la cerchia degli addetti ai lavori superando –almeno in questo caso- i limiti del sensazionalismo. Il tema dell’intelligenza delle macchine riscuote infatti speranze e paure: ci emoziona, ci coinvolge e questo aspetto disturbante si riflette sulla comprensione del fenomeno concreto e tende a renderlo di difficile individuazione se non misterioso.

Da tempo transform-italia.it è attenta agli sviluppi dell’IA i temi soprattutto attraverso gli articoli di Roberto Rosso;  e così ci è sembrato opportuno iniziare a recensire il primo di questi volumi.

Il titolo originale de Né intelligente né artificiale è Atlas of AI. Powers, Politics, and the Planetary Costs of Artificial Intelligence (Yale University Press, New Haven and London, 2021) e corrisponde molto meglio del titolo italiano al contenuto del libro. Eppure la scelta è proprio dell’autrice, di Kate Crawford,¹ studiosa dell’impatto sociale dell’IA, ricercatrice, scrittrice, compositrice, produttrice e accademica. Di origini australiane,vive a New York e lavora come Senior principal reseacher alla Microsoft Research (Social Media Collective), inoltre è co-fondatrice del AI Now Institute alla New York University, visiting professor al MIT Center for Civic Media, senior fellow al Information Law Institute della NYU, e professoressa associata nel Journalism and Media Research Centre alla University of New South Wales. Ancora, è membro del WEF‘s Global Agenda Council on Data-Driven Development. Non ci siamo soffermati su queste informazioni per amor di curriculum: esse sono importanti perché ci consentono di collocare l’esperienza dell’autrice nel cuore anglosassone dell’IA e nel periodo del suo recente, tumultuoso sviluppo. Sono coordinate importanti se si desidera approcciare il fenomeno dell’IA come un processo storico, concreto, oltre le suggestioni e le interpretazioni più o meno interessate che per lo più oscillano tra l’entusiasmo ottimistico e le previsioni catastrofiche.

Quelle di Kate Crawford sono dunque credenziali di tutto rispetto -e piuttosto impressionanti se si considera il genio poliedrico dell’autrice. Si tratta soprattutto di una competenza non disgiunta da un deciso impegno civile che si traduce in un testo comprensibile e forte nonostante la complessità che gli deriva sia dalla quantità di informazioni che ci vengono fornite (la bibliografia consta di centinaia di testi) che da quella dell’argomento che tratta. Anzi, la complessità è decisamente la sua cifra. Daltronde il termine “complessità” in questo come in altri contesti è ben noto ai lettori e alle lettrici di transform-italia perchè da tempo ricorre con insistenza nei numerosi articoli di Roberto Rosso. ²

L’autrice articola e riarticola su più piani il suo approccio, uno dei più efficaci è quello topografico. L’autrice dichiara che nel titolo Atlas of AI. Powers, Politics, and the Planetary Costs of Artificial Intelligence il termine atlante si riferisce al fatto che il saggio consiste in “una raccolta di parti disparate, con mappe che variano in termini di risoluzione da una vista satellitare del pianeta a un dettaglio ingrandito di un arcipelago.”. Questa caratteristica non è casuale poichè, citando Ursula Franklin, “le mappe rappresentano sforzi mirati: sono pensate per essere utili, per assistere il viaggiatore e colmare il divario tra ciò che è noto e ciò che è ancora sconosciuto; sono testamenti di conoscenza collettiva e intuizione”. Ma, potremmo aggiungere da parte nostra che il carattere di atlante dato a questa ricostruzione dell’IA deriva anche dalla vastità dell’argomento: vastità di risvolti, di piani, di nessi e anche vastità topologica nella misura in cui è su tutto il pianeta e oltre che i lettori sono chiamati a seguire il viaggio di ricostruzione e di conoscenza.

Dunque l’approccio che ci viene proposto è del tutto concreto l’IA è uno spazio storico, sociale, economico, tecnico… ma reale da esplorare e l’AI di cui si parla –questa AI- è l’intelligenza artificiale del 2021, è essenzialmente statunitense, ed è descrivibile a partire dai suoi aspetti tangibili.

Così veniamo condotti dagli Stati Uniti alla Mongolia a constatare i tangibili, enormi danni che l’estrazione del litio e delle terre rare infliggono all’ambiente e subito dopo siamo messi davanti al consumo di energia e di acqua per il raffreddamento che le enormi distese dei computer necessari a questa IA richiedono soprattutto dal momento che si è trovato conveniente moltiplicare i processori piuttosto che lavorare a finalizzare meglio gli algoritmi di calcolo.

Per qualificare una valorizzazione del capitale che nasconde i costi e li scarica sui beni comuni la Crawford propone i termini di estrattivismo e colonialismo e i passaggi successivi del libro svilupperanno questo concetto e ritroveremo la brutalità del profitto immediato e irresponsabile nelle relazioni che IA per come si è andata configurando in questi anni trattiene con il lavoro umano.

Non si tratta solo degli innumerevoli lavoratori crowdworker³ a disposizione sulla rete, completamente privi di diritti e sottopagati il cui compito consiste nell’alimentare i sistemi esperti etichettando, categorizzando e in definitiva istruendo i programmi di IA: Né intelligente né artificiale ci racconta di Amazon e di come l’estrazione del tempo di lavoro venga  infatti che l’IA costituisce anche un sistema per regolamentare, controllare, sfruttare il lavoro perchè ogni categoria di lavoratori “è esposta alle infrastrutture tecniche estrattive con le quali si cerca di controllare e di analizzare il tempo fin nei minimi dettagli, sebbene molte non abbiano alcuna attinenza con il settore tecnologico o con il lavoro tecnologico.”

Il libro prosegue con una analisi del rapporto falsificante che le tecniche estrattive costruiscono su e con i dati, con quell’immensità di materiale grezzo di cui si nutrono non solo i sistemi esperti ma soprattutto le aspirazioni di potere che vengono affidate alla IA. Questo rapporto è passato sopra i diritti di privacy, proprietà dell’immagine e riservatezza in modo tale che vien detto “L’industria dell’IA ha promosso una sorta di pragmatismo spietato, le cui pratiche di gestionedei dati sono appena sfiorate da preoccupazioni riguardo al contesto, alla prudenza o al consenso, promuovendo nel contempo l’idea che la raccolta in massa di dati sia giustificata e necessaria per creare redditizi  sistemi di <<intelligenza>> computazionale… e si pensa che i fini giustifichino i mezzi.” Sia riguardo al riconoscimento del testo, della traduzione automatica, del riconoscimento la storia della raccolta dei set di dati dimostra come la bulimia indifferente che viene descritta abbia delle conseguenze anche sugli esiti della sua attività, dal momento che il “modo in cui i dati vengono interpretati, raccolti, classificati e denominati è fondalmentalmente un atto di creazione e di perimeytrazione del mondo, che ha enormi ramificazioni sul modo in cui l’intelligenza artificiale agisce sul mondo e sulle comunità che ne sono più colpoite. Il mito della raccolta di dati come pratica benevola nell’informatica ha oscurato le sue operazioni di potere, proteggendo coloro che ne traggono il maggior profitto ed evitando loro la responsabilità delle sue conseguenze”.

E così, arrivati a circa metà della lettura del libro, arriviamo  alla classificazione dei dati, ai sistemi di logica circolare in essa presenti, all’impossibilità di sradicare il pregiudizio dai sistemi, alla storia dei set di addestramento come motori di classificazione… tutti aspetti di un potere di definire le persone che questa intelligenza artificiale non può non arrogarsi. Un potere che sfocia nella costruzione della razza e del genere, e a questo proposito queste righe che Kate Crawford riprende da Ian Hacking ci sembrano attualissime: “una classificazione delle persone che è un <<imperativo imperiale>> dal momento che “i sudditi venivano classificati dagli imperi al momento della conquista, e poi ordinati in <<tipi di popolo>> da istituzioni ed esperti. Questi atti di denominazione erano manifestazioni di potere e controllo coloniali, e gli effetti negativi di queste classificazioni possono sopravvivere agli imperi stessi”. ⁴

Con il quinto capitolo viene fatto un ulteriore passo avanti all’inseguimento degli sviluppi dell’IA perché “per l’esercito, le imprese, i servizi segreti e le forze di polizia di tutto il mondo l’idea del riconoscimento automatico delle emozioni è tanto avvincente quanto redditizia. Promette di distinguere in modo affidabile l’amico dal nemico, le bugie dalla verità e di utilizzare gli strumenti della scienza per scrutare nei mondi interiori.”⁵ Questo campo di azione dell’IA si basa su premesse scientifiche molto discutibili; ma, nella misura in cui viene implementata, ha già assunto un ruolo nel plasmare il comportamento delle persone e nel fornire strumenti niente affatto neutri alle istituzioni.

Ed ecco che il viaggio ci porta a New Yor, al decimo piano di un magazzino in cui l’autrice ha ottenuto l’accesso all’archivio di Edward Snowden e “i documenti rivelano come la comunità dell’intelligence abbia contribuito allo sviluppo di molte delle tecnologie che ora chiamiamo intelligenza artificiale.”

A questo punto l’autrice connette le linee di critica precedenti che potremmo all’ingrosso sintetizzare in ambientale, sociale e epistemologica con la dimensione civile e politica. Infatti nel capitolo intitolato esplicitamente “Stato” vengono dipanati i fili che legano l’IA al controllo antiterrorismo, a quello dell’affidabilità sociale e alla sua vera madre e cioè la dimensione militare e strategica. Con l’accesso agli archivi di Snowden, la analisi critica ripercorre alcuni passaggi fondamentali dell’intreccio tra i temi della sicurezza, della guerra e della IA, ma anche momenti di crisi e di resistenza. Troviamo la ribellione dei dipendenti Google che ha determinato l’abbandono da parte dell’azienda della lavoro sul progetto Maven⁶ e la rinuncia alla competizione per il contratto JEDI ⁷ trascura nessun elemento importante.  E sempre qui troviamo gli esiti del processo di esternalizzazione dello stato e le sue ricadute sulle attività delle forze dell’ordine. Ancora più significativo per determinare il senso del libro è il fatto che gli aspetti dei reciproci intrecci tra azienda, esercito, governance sono collocati dall’autrice nell’ambito geostrategico di un mondo imperiale in cui gli stati come le nazioni incarnano solo uno dei livelli della competizione (del conflitto, dell’espressione del conflitto di classe) e non sempre il più importante dal momento che le strategie si intrecciano talvolta in modi sorprendenti e  gli attori che siamo abituati a considerare alternativi, ad esempio gli USA e la Cina, nel contesto degli sviluppi tecnologici e produttivi di cui l’IA fa parte sembrano agire il reciproco confronto con modalità e ruoli inaspettati. Infatti “le griglie sovrapposte del calcolo planetario sono logiche aziendali e statali complesse e reciprocamente feconde, che superano i tradizionali confini statali e i limiti della governance, e sono assai più disordinate di quanto possa implicare il concetto del vincitore che prende tutto”. E se forse quest’ultima affermazione possa supporre un pubblico di lettori e lettrici troppo ingenuo, la citazione di Benjamin Bratton ci sembra solida: “ l’armatura del calcolo su scala planetaria possiede una logica determinante che si autorinforxa se non si autoavvera addirittura, e che attraversol’automazione delle proprie operazioni infrastrutturali travalica qualsiasi progetto nazionale benché venga utilizzata anche a tali scopi”. ⁸

E l’autrice prosegue “”gli stati stringono accordi  con società tecnologiche che essi non sono in grado di controllare o nemmeno comprendono aoppieno , e le società tecnologiche assumono funzioni statali e extrastatali che non sono idonee a svolgere e delle quali, in un qualsiasi momento futuro, potrebbero essere ritenute responsabili”.  Si tratta di osservazioni forse troppo astratte o semplificate ma il cui approfondimento gioverebbe alle rappresentazioni per così dire bidimensionali del complesso conflitto in corso. ⁹

Arriviamo così all’epilogo dell’atlante, alla relazione tra IA e potere. Se “i sistemi di IA sono espressioni di potere che discendono da forze economiche e politiche più ampie, creati per aumentare i profitti e centralizzare il controllo nelle mani di coloro che li detengono“¹⁰, Kate Crawford si dichiara pessimista sulla possibilità di democratizzare l’IA ¹¹ ma rifiuta la prospettiva distopica che è un luogo comune quando la paura dell’innovazione prevale sulla cooptazione verso il progresso. Infatti “scorgo una grande speranza nei crescenti movimenti per la giustizia che si dedicano all’interrelazione tra capitalismo, calcolo e controllo, armonizzando questioni di giustizia climatica, diritti del lavoro, giustizia razziale, protezione dei dati e superamento del potere delle forze di polizia e dei militari. Rifiutando i sistemi che amplificano la disuguaglianza e la violenza, sfidiamo el strutture di potere che l’IA attualmente rafforza e creiamo le basi per una società diversa”.

Ma l’epilogo non è ancara l’ultimo capitolo perché Kate Crowford chiude con una “Coda” che in poche facciate ci ricorda l’ultima frontiera di quell’estrattivismo che l’intelligenza artificiale incarna e assieme contribuisce a rendere possibile e cioè lo spazio.

Il libro si chiude dunque su una strada a sud di Albuquerque, nel Nuovo Messico, che costeggia lo spaziodromo da dove partono e atterrano i razzi suborbitali della Blue Origin.; giacché “lo spazio è diventato l’ambizione imperiale estrema, simbolo di un’evasione dai limiti posti dalla Terra, dai corpi e dalla regolamentazione… un invito a diventare Superuomini, a oltrepassare ogni confine: biologico, sociale, etico e ecologico. Ma sotto sotto, queste visioni di mondi nuovi sembrano guidate soprattutto dalla paura: paura della morte –individuale e collettiva- e paura che il tempo stia davvero scadendo.” ¹²

Giancarlo Scotoni

1. https://nextfest2022-milano.wired.it/speaker/kate-crawford/?refresh_ce=
   https://en.wikipedia.org/wiki/Kate_Crawford[↩]
2. [↩]
3. https://sindacato-networkers.it/2016/04/crowd-working-luci-ombre-su-sharing-economy-crowd-sourcing/[↩]
4. p. 184[↩]
5. p. 189[↩]
6. “un sistema di intelligenza artificiale che consentisse agli analisti di selezionare un obiettivo e quindi di reperire ogni clip esistente di filmati realizzati con droni in cui fosse presente la stessa persona o lo stesso veicolo”.[↩]
7. Joint Enterprise Defense Infrastructure Cloud Project, “una radicale riprogettazione dell’intera infrastruttura informatica del Dipartimento della difesa” che ha visto poi Microsoft battere Amazon nella gara per l’aggiudicazione del contratto.[↩]
8. p. 246-247 dal capitolo intitolato Il pagliaio aggrovigliato.[↩]
9. p. 247[↩]
10. p. 257[↩]
11. “suggerire di democratizzare l’IA per ridurre le asimmetrie di potere è un po’ come come sostenere la democratizzazione di armi al servizio della pace.”[↩]
12. p.281[↩]