L’analisi dei processi trasformazione sociale e ambientale, i processivi produttivi ad alto contenuto di conoscenza richiedono il trattamento di basi informative caratterizzate da una complessità e da moli di dati crescenti i cosiddetti ‘big data’, il cuore di questi sistemi è quel complesso di tecnologie che va sotto il nome di Intelligenza Artificiale. Diventa cruciale l’affidabilità, la rispondenza a principi di eticità e di equità di questi sistemi, l’attribuzione di responsabilità nella loro creazione e conduzione. Il recovery plan del governo italiano è adeguato a questa realtà, ne tiene conto nelle sue linee strategiche?

Gli investimenti ‘verdi’ e ‘digitali’ costituiscono i due pilastri nella strategia indicata dalla Commissione Europea sull’uso dei fondi del Next Generation EU (NGEU).  Ciò non deve stupire poiché qualunque strategia si deve muovere tra l’orizzonte catastrofico conseguenza del riscaldamento globale e la considerazione delle tecnologie del digitale come motore e agente pervasivo di qualsiasi evoluzione della società globale. Del resto l’agente della pandemia Covid-19 il virus Sars-Cov-2 è ormai riconosciuto come il prodotto di un processo di zoonosi (migrazione di una agente patogeno da una specie animale all’uomo) a sua volta causato dalla devastazione ambientale che hanno fatto saltare le relazioni tra le specie e la circolazione degli agenti virali. La creazione dei vaccini a sua volta è il prodotto di uno sviluppo tecnologico dell’industria biomedicale che trova nelle tecnologie digitali il supporto fondamentale, oltre ad uno straordinario sforzo finanziario. In generale l’analisi dei processi trasformazione sociale e ambientale, i processivi produttivi ad alto contenuto di conoscenza richiedono il trattamento di basi informative caratterizzate da una complessità e da moli di dati crescenti. Due termini vengono alla mente anche ai non esperti che si media cultura i ‘big data’ e l’intelligenza artificiale, identificata dell’acronimo A.I.

Sotto la denominazione generica di intelligenza artificiale è compreso un sistema di tecnologie diverse tra loro che contribuiscono alla possibilità di trattare moli di dati, tipiche ad esempio dei sistemi metereologici e climatici o dei sistemi biologici e delle reti ecologiche. I sistemi di relazioni digitali, i social network coinvolgono le relazioni tra centinaia di milioni di persone, e raccolgono dati in tempo reale delle loro interazioni, il cui ordine di grandezza è una funzione esponenziale numero dei partecipanti. L’A.I. per il trattamento dei big data prodotti è una condizione necessaria ed è intuitivo pensare alla quantità di informazione che ne derivano, ai modelli di relazione su più dimensioni che vengono realizzati. Non a caso si è pensato all’uso di quel patrimonio conoscitivo per tracciare i contatti e le relazioni che favoriscono il propagarsi della pandemia. Quest’ultima ipotesi di lavoro, che non ci risulta abbia avuto un seguito, ci fa capire come questo patrimonio informativo costituisca una componente essenziale della realtà sociale in cui viviamo e produciamo, sia da annoverare nel patrimonio dei beni comuni, nella accezione di beni naturali e sociali¹.

Da queste brevi considerazioni è facile comprendere come le tecnologie digitali in particola quelle che compongono il sistema dell’A.I. giochino un ruolo cruciale nei processi decisionali, organizzativi e produttivi essenziali per la conduzione e la riproduzione delle nostre società. Dobbiamo renderci conto del fatto che non stiamo trattando di processi di automazione il cui funzionamento è determinato in modo trasparente da uno schema predeterminato che regola la sua azione in un contesto e su oggetti ben definiti, i sistemi di A.I. invece apprendono, quindi si evolvono e prendono decisioni sulla base di algoritmi che incorporano le credenze di chi li ha costruiti; nei processi in cui sono coinvolti questi sistemi di A.I.  possono agire in totale autonomia od essere di supporto a decisori umani. In ogni caso si pone il problema della responsabilità di costruttori e conduttori di questi sistemi rispetto alle conseguenze della loro azione, si pone addirittura il problema della eticità dei sistemi stessi per l’alto grado di autonomia e la rilevanza delle loro ‘decisioni’ su questo c’è un’ampia letteratura che testimonia di quanto sia cruciali gli interrogativi che solleva.

La commissione Europea ha istituito il cosiddetto ‘High-Level Expert Group on Artificial Intelligence’ che nell’aprile 2019 ha emesso le Ethics Guidelines for Trustworthy AI² ossia Linee guida etiche per una A.I. affidabile, sulla base di un sistema di definizioni dell’A.I.³. E’ possibile consultare la pagina sull’A.I. nel portale del Consiglio d’Europa. Consiglio che ha realizzato nel febbraio 2019 una conferenza dal titolo “Governare una tecnologia rivoluzionaria: l’impatto dello sviluppo dell’intelligenza artificiale su diritti umani, democrazia e Stato di diritto” di cui può essere interessante la sintesi delle conclusioni. Anche l’OECD ha adottato nel maggio del 2019 una raccomandazione⁴ ed ha istituito un osservatorio sull’A.I.⁵.

Sui pregiudizi che influenzano l’operato dell’A.I. è interessante quanto scrive Arturo di Corinto nell’articolo “Che succede quando la tecnologia è razzista?”.

“La tecnologia di riconoscimento facciale, in particolare utilizzata dalla polizia, è stata usata per minare i diritti umani e per danneggiare specificamente i neri, così come gli indigeni e gli altri popoli di colore”, ha affermato Buolamwini, che è anche il fondatore della Algorithmic Justice League. (…) Qualche giorno fa in una lettera al Congresso, Arvind Krishna, il suo amministratore delegato ha scritto che IBM “Non fornirà più tecnologie di riconoscimento facciale ai dipartimenti di polizia per la sorveglianza di massa e la profilazione razziale” – perché, dice – “potrebbe essere utilizzata dalla polizia per violare i diritti umani e le libertà fondamentali”. E ha aggiunto: “Riteniamo che sia giunto il momento di avviare un dialogo nazionale sul se e come la tecnologia di riconoscimento facciale dovrebbe essere impiegata dalle forze dell’ordine.”

Significativo il motto del sito della Algorithmic Justice League⁶ è “Join the Algorithmic Justice League in the movement towards equitable and accountable AI”. Nella sempre più ampia letteratura relativa all’impatto dell’A.I. e relative considerazioni in termini di etica e responsabilità vale la pena di leggere “ The interrelation between data and AI ethics in the context of impact assessment” – AI and Big Data: A blueprint for a human rights, social and ethical impact assessment.

In un precedente articolo abbiamo evidenziato i conflitti che insorgono tra le mega corporation del digitale   (in occidente i 5 big elencate nell’acronimo GAFAM) e gli stai in Europa negli Usa ed in Cina, sia pure con caratteri e sviluppi ovviamente diversi. Un conflitto cruciale per lo sviluppo dei sistemi politici e sociali nei prossimi anni. Il cuore dei network digitali e dei singoli dispositivi è sempre più ‘intelligente’, sempre più fitta e diffusa è la connessione. La rete globale di Internet connette un numero di dispositivi superiore a quello delle persone. Il sistema finanziario globale sua volta con la virtualizzazione del denaro e della sua circolazione si è diversificato ed espanso in modo esponenziale, con gli scambi e le quotazioni che si giocano su differenze di millesimi di secondo. Oggi siamo vicini ad una svolta con la sperimentazione più o meno avanzata da parte delle banche centrali di una moneta digitale in particolare da parte della Cina⁷.

Dalle brevi considerazioni fatte nelle righe precedenti, assieme agli articoli già pubblicati sul sito di Transform-Italia, si ricava facilmente che non è possibile pensare, progettare costruire e mantenere la digitalizzazione di una formazione sociale nelle sue diverse articolazioni senza una visione complessiva delle tecnologie da utilizzare e della loro evoluzione, senza una visione delle funzioni che sulle reti ed i dispositivi vengono implementate. La natura delle tecnologie digitali permette la connessione delle diverse funzioni e delle diverse stratificazioni dei sistemi di governo, anzi diventa quasi impossibile separare i diversi sistemi, da ciò derivano essenzialmente potenzialità, le opportunità ed i rischi. Non è positiva la incomunicabilità tra sistemi quando questa è dovuta alla eterogeneità delle tecnologie utilizzate, cosa che purtroppo caratterizza l’apparato amministrativo del nostro paese e quello sanitario in particolare. In sintesi il governo di un sistema interconnesso profondamente radicato nei rapporti sociali richiede una architettura profondamente stratificata e differenziata dal punto di vista funzionale, con l’uso dell’A.I. nei centri di controllo. Possiamo appena immaginare quali competenze siano necessarie per realizzare questa nuova architettura digitale del paese, a tutti i livelli, dove i diversi livelli di governo politico ed amministrativi devono poter comprendere il funzionamento degli strumenti digitali a loro disposizione, ne devono poter cogliere tutti gli aspetti operativi e strategici. Possiamo capire quali problemi si pongano.  di trasparenza di possibilità di accesso alle informazioni ed alle procedure che le generano, un problema di condivisione di conoscenza a tutti i livelli, un problema di formazione ed educazione permanente.

Il processo che rende la condivisione delle conoscenze attraverso la traduzione delle informazioni -dal livello più specialistico a quello della comprensione da parte della generalità dei cittadini educati e motivati a sapere e comprendere- richiede una molteplicità di funzioni ed attori che peraltro in questi anni hanno cominciato a costituirsi attorno alla parola d’ordine degli ‘open data’.

Alcuni equivoci devono essere subito chiarito, non si tratta di diventare tutti dei super esperti in campo digitale, ma di comprendere il modo con cui il digitale trasforma il nostro modo di operare, relazionarci ed esprimerci. Il mondo digitale, nella sua duplice caratteristica di rappresentazione e componente della realtà stessa, non certo una strumentazione neutrale, può essere strumento di espropriazione, di alienazione o di riappropriazione dei rapporti sociali, di incremento o di riduzione delle diseguaglianze sociali, di incremento o riduzione della crisi climatica ed ambientale. In proposito la costruzione dei grandi sistemi di elaborazione in crescita esponenziale ha un impatto non indifferente sul consumo di energia, sulle conseguenti emissioni climalteranti; il virtuale ha una consistenza materiale più che importante. Se la conoscenza si incrementa condividendola, non è caratterizzata necessariamente da escludibilità e rivalità, non conosce limiti alla sua espansione; la sua realizzazione, conservazione e trasmissione -in termini di reti e dispositivi digitali- costituisce un sistema fisico compreso nei limiti   dell’ambiente globale, incide sui suoi equilibri e già contribuisce alla loro alterazione⁸.

Di sicuro come si usa dire, nulla sarà come prima, purtroppo o per fortuna si vedrà.

Abbiamo iniziato citando le indicazioni della Commissione Europea ai paesi europei per usufruire del NGEU ed in rifermento agli investimenti sul digitale abbiamo sviluppato alcune considerazioni in merito alla gerarchia ed alla architettura delle applicazioni delle reti e dei dispositivi. In base queste brevi note, assieme agli articoli sul digitale pubblicati su questo sito, possiamo abbozzare un giudizio sul cosiddetto recovery plan con cui il governo italiano si propone di utilizzare le risorse del NGEU. Lo faremo più in un prossimo articolo analizzando singole proposte -le schede- e le linee strategiche del documento, se esistono. Possiamo anticipare l’impressione che non ci sia nessuna corrispondenza con il quadro che abbiamo delineato e ci sia una visione riduttiva dell’uso delle tecnologie digitale in termini di interventi settoriali.

1. non ci stancheremo mai di insistere e sottolineare questo carattere di bene comune della conoscenza prodotta dai sistemi digitalizzati di relazione, regolazione e controllo sociale[↩]
2. https://ec.europa.eu/futurium/en/ai-alliance-consultation[↩]
3.   A definition of AI: Main capabilities and scientific disciplines [↩]
4. ‘Recommendation of the Council on Artificial Intelligence’ [↩]
5. https://oecd.ai/)) in cui ritroviamo un pagina dedicata ad un panoramica sui principi relativi((https://oecd.ai/ai-principles [↩]
6. della Algorithmic Justice League[↩]
7. https://it.insideover.com/economia/nuovo-strumento-monetario-digitale-pechino.html[↩]
8. AI for climate: freedom, justice, and other ethical and political challenges – https://link.springer.com/article/10.1007%2Fs43681-020-00007-2  [↩]