articoli

Pandemia, crisi della ragione e Intelligenza Artificiale

di Roberto
Rosso

Il rapporto della task-force di Colao, un pretesto per ragionare

Nel lungo elenco delle schede di lavoro (Iniziative per il rilancio “Italia 2020-2022”) elaborate dal gruppo di ‘esperti’ guidato da Vittorio Colao non potevano mancare i riferimenti all’innovazione tecnologica ed in particolare alle tecnologie ICT (Information and Communication Technology) e del trattamento delle informazioni in senso lato. Diverse sono le schede distribuite nelle diverse sezioni: Piano Fibra Nazionale, Cablaggio PA, Sviluppo Reti 5G, Sussidio Digital Divide, e-Procurement, Dati per la statistica e ricerca scientifica, Piano Digitalizzazione PA, Progetto CloudPA, Rafforzamento cyberdifesa, Piano di Digital Health nazionale.

In realtà a ben guardare una buona parte delle attività previste implicano un uso massiccio delle tecnologie ICT, il cui utilizzo informa ormai in modo trasversale e pervasivo ogni attività o costruzione e gestione di infrastrutture, soprattutto quando si parla di ‘razionalizzare e semplificare’.

Possiamo vedere le azioni previste dalla scheda 59 – Trasparenza sulle prestazioni della PA[1].

In generale l’insieme delle azioni proposte pretende di intervenire su tutto il complesso dei rapporti della formazione sociale italiana. La logica soggiacente alla proposta è quella di modellizzare un sistema complesso (cosa di più complesso di una formazione sociale?) rappresentandone, suddividendoli in sottosistemi, livelli, reti e componenti. Una condizione necessaria per il raggiungimento degli obiettivi indicati, dal punto di vista organizzativo e gestionale, non è solo l’incremento della potenza di calcolo e l’adeguamento dell’architettura complessiva dei sistemi di elaborazioni dei dati – parte essi stessi degli obiettivi- ma anche l’utilizzo di quell’insieme di tecnologie che vanno sotto il nome di Intelligenza Artificiale (acronimo A.I. Artificial Intelligence), in grado di gestire e integrare quei sistemi in un attività di modellizzazione, gestione e controllo.

Secondo la società Accenture: “L’AI è un aggregato di tecnologie—dal Machine Learning al Natural Language Processing—che permettono alle macchine di percepire, comprendere, agire e imparare.”

Si tratta quindi di ‘programmi’, ‘algoritmi’ che non si limitano semplicemente a eseguire il proprio compito in modo procedurale secondo cicli e condizioni (“finché vale questa condizione esegui questa azione “ , “se vale questa condizione allora esegui questa azione”), ma di algoritmi che ‘apprendono’ dal contesto in cui operano e modificano il proprio comportamento, aggiornano i propri obiettivi.

Lo sviluppo di questo insieme di tecnologie è andato di pari passo con la crescita della potenza di calcolo disponibile, permettendo di creare modelli di sistemi di complessità mai affrontata in precedenza, ciò vale per la modellizzazione del clima in termini di andamento meteorologico nel breve periodo a livello locale e globale o in termini di previsione del cambiamento climatico dovuto ai fattori che generano il riscaldamento globale. Lo stesso accade per la costruzione di modelli dei fenomeni biologici, dalla genetica alla fisiologia degli organismi viventi. Allo studio del comportamento del virus Sars-Cov-2 sono impiegati reti di calcolo distribuite ed i centri di calcolo più potenti[2].

L’utopia digitale

La capacità di simulazione di sistemi complessi, il controllo in tempo reale dei flussi di dati che innervano l’attuale modo di produzione globale, senza soluzioni di continuità ( salvo trascurabili tentativi ad opera di governi più o meno autoritari) hanno fatto parlare di un ‘New Deal dei dati’, l’equivalente tecnologico nella visione del mondo liberale del Green New Deal[3].

Una sorta di utopia tecnologica, citata nello stesso articolo di Morozov è quella di una sorta di ‘socialismo dei dati’, di una superiore capacità di coordinamento sociale delle tecnologie digitali. Si ipotizza che i sistemi di Machine Learning possano coordinare preferenze, bisogni necessità e produzione, governare i movimenti finanziari, una sorta di salvezza del sistema capitalistico attraverso i dati[4]. Delle società che governano il mercato mondiale dei dati ed il flusso delle merci viene sottolineata la capacità di pianificazione in tempo reale.

Distopia digitale

La realtà sembra essere invece distopica, la gestione di una quota rilevante degli scambi in borsa, con un sistema di algoritmi che operano e fanno previsioni in frazioni di secondo, esalta la polarizzazione e l’instabilità dei mercati, mentre la crescita esponenziale degli acquisti on-line opera come un agente di dissoluzione del legame sociale, del tessuto comunitario.

Condizione necessaria per la creazione di quel mondo utopico delle intelligenze artificiali e dei robot tutto fare, è la condivisione dei dati delle informazioni, esattamente il contrario quanto accade nella realtà dove i social network si fondano sulla capacità di acquisire e trattare moli di dati che crescono ad un ritmo esponenziale, cosa che li mette in grado di profilare comportamenti individuali e collettivi.

Non è un caso che da un po’ di tempo si parli della saldatura tra l’equivalente generale del nostro tempo l’informazione con l’equivalente generale più antico il denaro, che nel frattempo si è fatto sempre più astratto nei suoi circuiti globali informatizzati, attraverso la creazione della nuova cripto valuta Libra da parte di Facebook, il cui progetto -dal primo annuncio del giugno 2019- si è modificato per l’opposizione delle banche centrali, di fronte alla ‘potenza di fuoco’ della rete di 2,5 miliardi di potenziali utenti data dagli iscritti a Facebook[5].

Tecnologie per una competizione globale

Il contesto in cui si collocano i progetti di innovazione digitale del nostro paese è quello di una competizione feroce innanzitutto tra Cina e Stati Uniti. Il 25 aprile la Cina ha mosso un’altra pedina per assicurarsi il primato tecnologico a livello globale. Quel sabato è stato ufficialmente lanciato il Blockchain-based service network[6] (Bsn). Ossia una piattaforma commerciale per sviluppare servizi basati sulla tecnologia dei registri distribuiti[7], su cui Pechino ha messo al lavoro ministeri e grandi colossi di stato da sei mesi. Un sistema creato con i caratteri peculiari della società cinese[8].

Una tecnologia, una struttura di rete distribuita su cui si potranno basare le applicazioni e le basi dati prodotte dall’intreccio di intelligenza artificiale, Internet delle cose(conosciuta come IOT, Internet of Things, consiste nella messa in rete di ‘oggetti intelligenti’) e 5G.

Innovazione e selezione

La proposta del gruppo di lavoro diretto da Vittorio Colao, al quale non mancano certo le conoscenze personali di quell’universo fatto di tecnologie e finanza, quindi tiene conto di questo contesto globale quando progetta e suggerisce l’intervento sulla realtà italiana, intervento nel più puro stile neo-liberista.

Come si può leggere più o meno chiaramente nelle diverse schede, il proposito è quello di praticare l’innovazione ridisegnando innanzitutto il sistema delle imprese attraverso processi di aggregazione, orientando i flussi di credito e di liquidità verso i soggetti più forti, lasciando fallire velocemente i più deboli, ciò che implica una sorta di selezione darwiniana, mentre per le partecipate che gestiscono servizi vanno verso la privatizzazione (vedi la scheda sul servizio idrico).

Come abbiamo detto in un precedente articolo gli effetti della pandemia da Sars-Cov-2 sono una acutizzazione dei conflitti e della competizione su scala globale ed una accelerazione dei processi di innovazione. Si aggiungono al diffondersi delle crisi ecologiche e della rottura degli equilibri ambientali come effetto del riscaldamento globale, l’uso delle tecniche dell’A.I. è sempre più necessario per governare un contesto sociale ed ambientale sempre più critico.

Se da un lato c’è una critica all’attuale modello di sviluppo che punta ad invertirne le tendenze, il riferimento più ovvio è quello della decrescita di Latouche, Pallante e altri. Dall’altro c’è una visione definita come accelerazionismo[9], come scrivono Alex Williams e Nick Srnicek nel ‘Manifesto per una politica accelerazionista

“Gli accelerazionisti intendono liberare le forze produttive latenti. In questo progetto, la piattaforma materiale del neoliberismo non ha bisogno di essere distrutta. Ha bisogno di essere riconvertita verso obiettivi comuni. L’infrastruttura esistente non è una fase del capitalismo da distruggere, ma un trampolino di lancio verso il post-capitalismo. (…)

Vogliamo accelerare il processo dell’evoluzione tecnologica. Ma ciò di cui argomentiamo non è tecno-utopismo. Mai credere che la tecnologia sia sufficiente a salvarci. Necessaria sì, ma mai sufficiente senza azione socio-politica. La tecnologia e il sociale sono intimamente legati l’uno all’altra, e il mutamento dell’uno potenzia e rinforza il mutamento dell’altra. Laddove i tecno-utopisti sostengono che l’accelerazione automaticamente eliminerà il conflitto sociale, la nostra posizione è che la tecnologia debba essere accelerata proprio perché necessaria per vincere i conflitti sociali stessi”.

I conflitti non corrono abbastanza

La dialettica che ha accompagnato tutto lo sviluppo capitalistico tra lotta operaia, delle classi subordinate e sviluppo tecnologico ha subito un mutamento radicale: lo sviluppo tecnologico sembra aver sopravanzato di gran lunga ogni forma di conflitto sociale.

Quali nuove forme di condivisione della conoscenza e di organizzazione sociale e politica si debbono realizzare per impattare e riorientare lo sviluppo tecnologico, mutare i rapporti di potere che ne derivano?

Saperi critici si sono sviluppati legando movimenti di cittadini, lavoratori e ricercatori, le pratiche critiche e conflittuali hanno prodotto reti di collaborazione e condivisione della conoscenza. Le analisi della composizione di classe, che puntano sulle figure sociali coinvolte nella produzione e gestione della conoscenza, nonostante rilevanti capacità descrittive, purtroppo non hanno prodotto strategie, concrete forme di lotta ed organizzazione capaci di intervenire efficacemente sui rapporti di forza.

Il modo di produzione di Odisseo

Lo sviluppo delle diverse forme di A.I. e del complesso apparato di trattamento dell’informazione, non sembra stiano portando ad una strategia dell’accelerazione vincente tanto meno in quella della decrescita, complessivamente il sistema sembra mantenere sempre la stessa deriva.

Le capacità delle tecnologie della vita, nel loro complesso, offrono l’illusione di garantire la sopravvivenza e contemporaneamente una buona qualità della vita – beninteso solo ad una frazione del genere umano – sino a che l’intreccio di catastrofi ecologiche e pandemia sfiderà la produzione di un vaccino. C‘è una rincorsa, una accelerazione tra il degrado delle relazioni del vivente e lo sviluppo delle scienze di trattamento delle informazioni e della vita, ma non è un accelerazione vincente guidata da movimenti conflittuali, almeno sino ad ora.

L’appropriazione privata del prodotto di ogni relazione sociale, sino al più intimo dei sentimenti -del mondo della vita- pone il problema del superamento della dicotomia pubblico-privato nella direzione della definizione puntuale dei beni comuni. Certo non è una riflessione nuova, ma una svolta è necessaria, nel senso di cogliere il fatto che il bene comune minacciato è la vita stessa, in tutte le sue manifestazioni, salvo che la forma di vita più minacciata è l’essere umano, nonostante il genere umano nel suo attuale ‘modo di produzione’ faccia il possibile per portarsi nella tomba quante più altre forme di vita.

Siamo nell’antropocene – che qualcuno propone di chiamare Capitalocene- quell’era definita in base al fatto che l’assetto attuale delle pratiche umane produce estinzioni di massa, cambiamento climatico e contaminazione diffusa delle matrici ambientali e pare proprio che nonostante l’intelligenza artificiale non siamo in grado trovare una rotta.

Note finali

Abbiamo chiuso il ragionamento, ma aggiungiamo alcuni esempi a suo corollario.

Nel documento ‘The militarization of Artificial Intelligence[10], che da solo meriterebbe una articolo a sé e di cui si consiglia la lettura, si descrivono gli utilizzi attuali e le prospettive dell’uso dell’A.I. nello sviluppo degli armamenti e nella realizzazione dei processi decisionali sul campo di battaglia: due punti vale la pena rilevare.

Il primo è l’effetto ‘scatola nera’: il modo di operare dei sistemi di A.I. con cui giungono ad una conclusione spesso non è trasparente, non è ricostruibile il ‘ragionamento’ che ha portato a una determinata conclusione. La velocità con cui le decisioni vengono prese nel campo militare come in quello finanziario e borsistico  è essenziale ed ancora una volta la possibilità di intervento umano si riduce praticamente a zero. Infine i sistemi di A.I. vengono ‘addestrati’ e in quell’addestramento, dove interviene l’uomo, si possono indurre dei bias cognitivi, derivanti dalle particolari inclinazioni proprie del soggetto addestratore.

Un esempio  significativo è riportato da Arturo di Corino nel suo articolo sul Manifesto “Che succede quando la tecnologia è razzista”. Un ricercatore del MIT, Joy Buolamwini, di recente ha scoperto che quando le foto di donne di colore come Oprah Winfrey e Michelle Obama vengono scansionate dalla tecnologia di riconoscimento facciale di Amazon, vengono scambiate per uomini, Il dato emerge da uno studio del MIT Media Lab sugli errori di identificazione dei volti dalla pelle scura. La società IBM a sua volta si rifiuta di offrire la propria tecnologia di riconoscimento facciale per realizzare azioni di sorveglianza di massa e profilazione su base ‘razziale’ (racial profiling).

Il dilemma primario è se i sistemi di A.I. debbono accompagnare i processi decisionali umani oppure sostituirli, un tipico esempio è quello dell’uso delle armi nucleari, pensiamo alla crisi dei missili di Cuba.

L’ultimo esempio riguarda i social network, i quali fanno un uso crescente dell’A.I. per ricavare conoscenze più intime e articolate dei sentimenti e delle inclinazioni di ognuno di noi. Quando parliamo di ‘profilazione’ forse non ci rendiamo conto della profondità dell’indagine a cui le nostre vita sono sottoposte.

Dobbiamo discernere quanto la tecnologia possa essere la peste e quanto la cura e come parte della la cura della peste debba essere comunque la rivolta.


[1] a. Prevedere sulla piattaforma aperta della PA esistente (dati.gov.it) il tracciamento obbligatorio di indicatori chiave della performance delle singole amministrazioni come, ad esempio, i tempi di attraversamento dei principali use case (ad es., rilascio Carta di identità, rilascio autorizzazioni)

b. Garantire trasparenza, pubblicità e comparabilità e aggiornamento periodico (ad es., ogni mese) delle informazioni, per incentivare comportamenti virtuosi da parte delle amministrazioni con performance negative, in particolare:

– Obbligare le amministrazioni a pubblicare il proprio ranking sui canali ufficiali (oltre che sulla piattaforma aperta della P.A.)

– Pubblicare annualmente un report di sintesi della performance

c. Incentivare l’adozione rapida dei meccanismi di monitoraggio:

– Vincolando gli incentivi diretti al miglioramento del servizio

– Lavorando a una campagna di comunicazione al cittadino sulla disponibilità di questi dati e sulle modalità di fruizione (digitale vs tradiz.) dei principali servizi nel suo comune

d. Prevedere l’attività di controllo dei dati, utilizzando anche verifiche a campione, in capo ad un ente centrale in grado di applicare penali in caso di non conformità.

[2] https://www.ilsole24ore.com/art/il-supercervellone-cineca-testa-cure-anti-covid-19-AD15DaI; https://www.ilfattoquotidiano.it/2020/04/21/coronavirus-al-via-un-nuovo-progetto-di-calcolo-distribuito-per-sconfiggere-il-covid-19/5777076/.

[3] Evgeny Morozov ‘The Calculation Debate in the Age of Big Data’ new left review 116/117 mar jun 2019.

[4] Mayer-Schönberger’s Reinventing Capitalism in the Age of Big Data.

[5] https://forbes.it/2020/04/18/libra-la-criptovaluta-di-facebook-cambia-strategia/.

[6] https://www.wired.it/economia/finanza/2020/05/01/cina-blockchain/.

[7] https://www.wired.it/scienza/lab/2018/03/26/futuro-blockchain/.

[8] https://ilmanifesto.it/anche-la-blockchain-avra-caratteristiche-cinesi/.

[9] http://www.euronomade.info/wp-content/uploads/2013/12/ManifestoAccelerazionista.pdf.

[10] https://www.un.org/disarmament/the-militarization-of-artificial-intelligence/.

, , ,
Montanari a La cultura che cura
Zingaretti e D’Amato…

Lascia un commento

Il tuo indirizzo email non sarà pubblicato.

Compila questo campo
Compila questo campo
Inserisci un indirizzo email valido.

Menu