Analizziamo un ulteriore passaggio nel tentativo delle istituzioni europee di governare le tecnologie del digitale, dell’Intelligenza Artificiale in particolare. Purtroppo il dispositivo digitale globale costruisce una rappresentazione universale astratta del mondo mentre ne alimenta le contraddizioni.

Il 21 aprile scorso la Commissione Europea ha pubblicato una proposta di regolamento per i sistemi di Intelligenza Artificiale (IA) il cosiddetto ‘Artificial Intelligence Act’¹ (A.I.A.) che offre un quadro legislativo generale per questo insieme di tecnologie. Questo avviene dopo aver pubblicato il ’ Data Governance Act’ strettamente correlato poiché i sistemi di I.A. hanno bisogno di essere alimentati, addestrati con una mole enorme di dati e contemporaneamente la produzione di moli crescenti di dati nelle filiere produttive e nei social media richiede lo sviluppo di algoritmi di I.A. per poterne estrarre informazioni utili, modelli della realtà da cui originano. E’ stato preceduto dal Libro Bianco sull’Intelligenza Artificiale² di cui abbiamo parlato nell’articolo ‘La norma insegue l’algoritmo’³.

 

Il cuore del documento è costituito dall’analisi dei rischi definita in quattro livelli: rischi inaccettabili, sistemi ad alto rischio, a rischio limitato o a rischio minimo; a differenza del Libro Bianco che si dilungava sulle opportunità offerte dall’A.I. e proponeva una ‘umanizzazione delle tecnologie, una visione dell’A.I. antropocentrica⁴. Risponde alla risoluzione del parlamento Europeo che peraltro esprimeva assieme alla richiesta di regolamentazione dell’A.I.  la preoccupazione di offrire tutte le risorse necessarie e lasciare tutto lo spazio necessario al suo sviluppo nella competizione con Cina e Stati Uniti.

Questo doppio registro che fonda la produzione della norma si legge nella premessa della Commissione “To achieve those objectives, this proposal presents a balanced and proportionate horizontal regulatory approach to AI that is limited to the minimum necessary requirements to address the risks and problems linked to AI, without unduly constraining or hindering technological development or otherwise disproportionately increasing the cost of placing AI solutions on the market.”

A fondamento della classificazione dei rischi e degli interventi concretamente previsti sta la preoccupazione che ben conosciamo di non imporre costi eccessivi alla produzione di prodotti e servizi competitivi sul mercato; a questo dobbiamo aggiungere il loro straordinario ritmo di sviluppo e diversificazione -che ne fa un oggetto mobile e sfuggente, caratterizzato spesso da una opacità dei processi interni. Il legislatore europeo non ignora questa realtà e si premura di dire “At the same time, the legal framework includes flexible mechanisms that enable it to be dynamically adapted as the technology evolves and new concerning situations emerge.”

Si parla del carattere ‘orizzontale’ della norma per il carattere pervasivo dell’uso dell’A.I. della sua penetrazione in ogni ambito produttivo, sociale o relazionale da cui a necessità di armonizzazione con tutte le norme europee sulla prevenzione dei rischi in tutti gli ambiti produttivi e la legislazione sui diritti fondamentale del cittadino; vale a dire complessità che si aggiunge a complessità.

Nello stesso giorno dell’uscita del A.I.A. il Parlamento ed il Consiglio hanno proposto un regolamento “ Regulation of the European Parliament and of the Council on machinery products” un regolamento sui macchinari in generale⁵. Il collegamento tra le due proposte non è solo temporale, quest’ultimo non ha solo l’obiettivo  di armonizzare le 27 legislazioni nazionali, ma è reso necessario  dall’obsolescenza delle norme vigenti a causa della trasformazione che i macchinari i sistemi tecnologici subiscono con l’introduzione di tecnologie digitali sempre più sofisticate, in particolare quelle che appartengono all’ambito dell’I.A. le quali, quando applicate ad un macchinario, lo rendono molto più autonomo dal controllo umano. Come si riporta nella relazione introduttiva relazionando sulla consultazione che ha preceduto la promulgazione del regolamento  “Some stakeholder’s views have evolved following discussions in the machinery Working Group and bilateral meetings, in particular on the need to address explicitly the new risks stemming from digital emerging technologies.  Specific objective 1: Cover new risks related to digital emerging technologies .

While most stakeholders consider that the MD takes innovations sufficiently into account, some expressed concerns over the potential impacts of emerging digital technologies on safety.

Specific objective 2: Ensure coherent interpretation of the scope and definitions and improve safety for traditional technologies “.

Obiettivo fondamentale è quello di garantire  il funzionamento dell’Unione come mercato unico al cui interno il peso della regolazione è giustificato solo per i sistemi ad alto rischio⁶; è  stata fatta la scelta di non imporre norme cogenti a  tutti i sistemi di A.I. indipendentemente dalla valutazione sul grado di rischio, negli altri casi ai fornitori dei sistemi si raccomanda di darsi dei codici di autoregolazione.

Il regolamento bandisce la possibilità che negli spazi pubblici sia possibile raccogliere in modo massiccio e indiscriminato dati biometrici in tempo reale ai fini di esercitare la tutela dell’ordine pubblico. In realtà le eccezioni finalizzate all’intercettazione di specifici comportamenti e minacce lasciano ampi margini di discrezionalità, ne è un esempio la scelta come parametro -in base al quale definire comportamenti sorvegliabili- della pena che può essere applicata al reato(3 anni come massimo della pena): basta poco per autorizzare la sorveglianza< il minimo del massimo. Certo è un inizio positivo rispetto all’uso che se ne fa negli USA o in Cina. Tuttavia il livello reale della sorveglianza è realizzato dall’uso integrato delle informazioni, dalla loro messa in relazione e trattamento algoritmico che permette l’estrazione di informazioni che vanno oltre il singolo dato.

Sono definiti ad alto rischio gli apparati che si occupano di infrastrutture, le attività connesse all’educazione (sia nella valutazione che nella selezione degli studenti e nell’organizzazione delle attività didattiche), i dispositivi che hanno un ruolo salvavita come gli strumenti robotici chirurgici, procedure per il reclutamento del personale, algoritmi che intervengono nei processi decisionali nel contesto della giustizia, i metodi di predictive policing.  La complessità e variabilità dei comportamenti sociali unita alla complessità e versatilità delle tecnologie che evolvono molto rapidamente produce una materia sfuggente, di difficile definizione nonostante la ricerca di schemi interpretativi di fondo.

 

Come ha scritto Teresa Numerico sul Manifesto⁷ “La complessità di questi metodi ‘intelligenti’ meriterebbe l’intervento di un soggetto terzo per dimostrarne la correttezza, così da evitare l’ambivalenza implicita di un’autovalutazione. Se non saranno previsti adeguati sistemi di audit esterno, sarà altamente probabile che le richieste si traducano in una grande produzione burocratica di documenti, privi di efficacia rispetto ad affidabilità e adeguatezza.”

Come abbiamo già avuto modo di dire è la totalità dei rapporti sociali che viene ad essere investigata, sorvegliata, analizzata, mediata da dispositivi digitali che producono dati; produzione che di conseguenza cresce esponenzialmente, l’unità di misura è lo zettabyte (Lo zettabyte corrisponde a 1 seguito da 21 zeri). Diventa un compito impervio scalare questa montagna di dati, si uniscono l’opacità dei processi di A.I. con l’opacità non solo delle organizzazioni private ma anche delle istituzioni pubbliche, la cui azione è legittimata da ogni sorta di allarme sociale.

Per governare la produzione e l’uso dei dati è stato proposto il Regolamento del Parlamento Europeo e del Consiglio relativo alla governance europea dei dati (Data Governance Act -DGA). Il regolamento arriva a conclusione di una lunga elaborazione che ha prodotto i contributi tra i quali la Comunicazione della Commissione al Parlamento Europeo, al Consiglio, al Comitato Economico e Sociale Europeo e al Comitato delle Regioni Una strategia europea per i dati (COM/2020/66 final)

Così vengono definite le situazioni a cui si applica.

• messa a disposizione dei dati del settore pubblico per il riutilizzo qualora tali dati siano oggetto di diritti di terzi;
• condivisione dei dati tra le imprese, dietro compenso in qualsiasi forma;
• consenso all’utilizzo di dati personali con l’aiuto di un “intermediario per la condivisione dei dati personali”, il cui compito consiste nell’aiutare i singoli individui a esercitare i propri diritti a norma del regolamento generale sulla protezione dei dati (RGPD);
• consenso all’utilizzo dei dati per scopi altruistici.

L’obiettivo è quello di favorire e regolare la circolazione dei dati: “Un mercato unico per i dati dovrebbe garantire che i dati provenienti dal settore pubblico, dalle imprese e dai cittadini possano essere accessibili e utilizzati nel modo più efficace e responsabile, mentre le imprese e i cittadini manterrebbero il controllo dei dati che generano e gli investimenti effettuati per la relativa raccolta sarebbero tutelati. Un maggiore accesso ai dati porterebbe le imprese e gli organismi di ricerca a compiere progressi in termini di sviluppi scientifici rappresentativi e innovazione sul mercato in tutta l’UE, il che è particolarmente importante in situazioni in cui è necessaria un’azione coordinata dell’UE come la crisi COVID-19.”

La questione della protezione brevettuale dei vaccini contro il Covid-19, prodotti con abbondanti fondi pubblici , bene la situazione reale (Pfizer prevede di ricavare 27 miliardi di euro dalla vendita del vaccino) d’altra parte si parla ‘sviluppi scientifici rappresentativi e innovazione (sottolineiamo ndr) sul mercato.’ La produzione dei vaccini, oltre all’iniezione di fondi pubblici; è parte di un gigantesco lavoro di ricerca e sperimentazione a livello globale di cui si alimenta; la produzione e brevettazione dei vaccini è la conclusione di un processo di produzione di conoscenze globale e condiviso, che continua ad alimentare il processo di aggiornamento necessario del farmaco rispetto alle evoluzione del virus ed alla rilevazione della sua azione sulla scala di centinaia di milioni di persone rispetto alle decine di migliaia della fase 3 di test. La vicenda dei vaccini per il Covid-19 è esemplare nell’illustrare il carattere sociale, integrate e continuo di produzione della conoscenza dove non è il mercato a costruire dal nulla il legame sociale, ma al contrario costituisce un vincolo alla sua piena espressione; la ricerca scientifica, fatto sociale di per sé – non recintabile nei confini aziendali- è parte di un processo che comprende gli assetti sociali, le forme del governo della società  e delle strutture sanitarie.

Il regolamento assolve allo scopo di definire i diversi ruoli e funzioni che si sono costituiti in un mercato dati in continua espansione, compresa la figura dell’intermediario dei dati. Sui dati personali vigila il ‘Regolamento generale sulla protezione dei dati’ anche noto come GDPR (General Data Protection Regulation) approvato con Regolamento UE 2016/679 del Parlamento Europeo e del Consiglio del 27 aprile 2016 e applicabile a decorrere dal 25 maggio 2018.

Cruciale è la messa a disposizione dei dati prodotti dalle istituzioni pubbliche, la definizione di politiche degli ‘open data (dati aperti) che escludono solo categorie definite come dati sensibili, regolate dalla

DIRETTIVA (UE) 2019/1024 DEL PARLAMENTO EUROPEO E DEL CONSIGLIO del 20 giugno 2019 relativa all’apertura dei dati e al riutilizzo dell’informazione del settore pubblico. La messa a disposizione di questi dati è in grado di alimentare un rilevante settore di elaborazione e riutilizzo  il cui valore cresce in base alla possibilità di incrociarli con altre categorie di dati, andando ad arricchire l’offerta di servizi e prodotti basati sui dati e non solo: è materia prima per qualsiasi forma di cooperazione sociale quindi la messa a disposizione dei dati prodotti dal settore pubblico è uno strumento essenziale per costruire partecipazione, cooperazione e salutare conflitto sociale.

Il settore pubblico quindi dovrebbe essere in grado di svolgere alcune funzioni primarie.

Definire la struttura dei dati (i metadati, i vocabolari, le ontologie) prodotti, produrre in prima persona i servizi che rendono i dati leggibili ed utilizzabili da tutti. La definizione della struttura dei dati  è una  funzione essenziale  per costruire norme, forme di  governo e di autogoverno della società da parte delle istituzioni; il pubblico dovrebbe contribuire alla realizzazione di una strategia per la definizione di strutture dati ‘regionali’ per i singoli settori di attività e relazione scoiale. Si tratta di una funziona da esercitare a livello globale.

Ogni attività umana richiede una definizione puntuale dei suoi oggetti e dee sue modalità. Pensiamo al settore delle apparecchiature biomedicali o dei prodotti farmaceutici, una qualsiasi imprecisione o ambiguità nei termini utilizzati potrebbe avere conseguenze catastrofiche. D’altra parte la formalizzazione delle ontologie applicate ai diversi aspetti della realtà permette lo sviluppo di procedure di ‘ragionamento automatico’, è la precondizione per lo sviluppo di sistemi di intelligenza artificiale che richiedono una descrizione univoca e completa del mondo in cui operano, di una ontologia che descrive oggetti e relazioni di quella ‘regione’ del mondo.

L’intelligenza artificiale richiede infatti non solo una mole crescente di dati, ma ovviamente una loro organizzazione e definizione esaustive ed univoche per quanto sia possibile; i Sistemi di I.A. sulla base di una definizione dell’oggetto e del contesto della propria attività in realtà sono chiamati ad allargare il proprio mondo, a definirne nuovi oggetti e relazioni, altrimenti sarebbero semplici processi automatici, per quanto complicati, ma privi di complessità. Essi contribuiscono ad una propria rappresentazione del realtà.

Qui sta il punto, questa fantasmagorica produzione di dati   ed algoritmi, genesi di modelli, simulazioni del mondo, si realizza una giustapposizione di ‘ontologie regionali’ di mappe parziali ognuna orientata alla descrizione di una parte del mondo. La potenza di calcolo sembra avvicinare la mappa al territorio, la capacità della prima di riprodurre la complessità del secondo, in effetti le mappe si riferiscono a sezioni del territorio, della realtà. Certo cresce la capacità di mettere in relazione mappe diverse di regioni, livelli, sezioni diverse del mondo, ma contemporaneamente si configurano nuovi rapporti di potere, nel disporre delle mappe e dei dispositivi che le producono, nuove diseguaglianze nel disporre di queste conoscenze.

Il tentativo di costruire una ragione astratta del mondo, una ragione artificiale della sua esistenza prodotta dall’intelligenza artificiale si traduce in una evidente crescita dell’irrazionalità del sistema. Non esiste un pilota automatico in grado di guidare, di determinarne i destini di noi tutti, dell’umanità, nonostante si percepiscano gli orizzonti catastrofici del cambiamento climatico e le condizioni di vita nelle megalopoli che racchiudono una parte crescente della popolazione.

L’intelligenza artificiale è sempre più usata per definire i parametri dei rischi locali e globali che costituiscono l’orizzonte dell’evoluzione delle nostre società e che man mano prendono corpo, come la pandemia da Sars-Cov-2 che da incubo descritto nelle simulazioni è diventata una tragica realtà. Non mancano tentativi di costruire strategie globali di affrontamento dei rischi, ma prevale la logica dei rapporti dominanti che porta alla concentrazione dei poteri e delle ricchezze, del potere di disposizione su risorse rese scarse, dal modo di produzione, come l’acqua, la terra fertile, la biodiversità, le preziose porzioni di matrici ambientali non contaminate.

Si realizza un circolo vizioso nel quale la stessa potenza tecnologica che devasta il mondo è chiamata a sanarlo, la seconda fase purtroppo agisce su una porzione di realtà ridotta rispetto alla prima, secondo un principio entropico. La vita si realizza lontana dall’equilibrio termodinamico, alimentata dal flusso costante di energia che ci viene dal sole, ma la riduzione di complessità del vivente operata dal modo di produzione nell’epoca che chiamiamo antropocene o capitalocene è irreversibile e porta il sistema globale ecologico e climatico verso altri equilibri, diversi da quelli in cui si è sviluppata la società umana.

La risposta differenziata di governi e classi dirigenti al dilagare della pandemia Covid-19 dimostra come la distribuzione diseguale delle conoscenze -la mancanza di una ontologia essenziale della società umana, che abbia come riferimento lo sviluppo onnilaterale dell’individuo  sociale, propria delle classi dirigenti medesime- si traduce in politiche dissennate connotate dall’ignoranza e dall’egoismo, dalla difesa dei privilegi sostenute e legittimate tanto con la violenza quanto con l’imbonimento delle masse tramite una ricostruzione fantasiosa degli eventi veicolate dai media sociali. Quanto accade in India ed in Brasile ne è la manifestazione clamorosa, anche se qualche segno di reazione sociale e rivolgimento politico si comincia ad osservare.

All’orizzonte c’è un potenziamento della circolazione e della produzione della moneta tramite il dispositivo digitale, sia nei termini delle criptomonete che delle monete digitali erogate dalle banche centrali di cui abbiamo descritto varie esperienze; questa sezione della realtà, della moneta e della finanza è soggetta ad una sua evoluzione accelerata. Il connubio, tra le tecnologie del digitale e della finanza  esalta  il rischio -ben noto ma in forme nuove-di entrare in contraddizione con le altre parti dei rapporti sociali, su cui esercita un sostanziale dominio, esercitando un comando che si fonda sulla parcellizzazione del mondo, la ragione universale astratta, digitale in buona sostanza porta ad un nuovo livello l’universalità del denaro, opera sul reale cercando ricucire parti del mondo separate tra loro come nella ricostruzione del mostro con arti di cadavere da parte del dottor Frankenstein.

1. https://digital-strategy.ec.europa.eu/en/library/proposal-regulation-laying-down-harmonised-rules-artificial-intelligence-artificial-intelligence [↩]
2.  Bruxelles, 19.2.2020 COM(2020) 65 final LIBRO BIANCO sull’intelligenza artificiale – Un approccio europeo all’eccellenza e alla fiducia  [↩]
3. https://transform-italia.it/la-norma-insegue-lalgoritmo/ [↩]
4. Comunicazione della Commissione: Creare fiducia nell’intelligenza artificiale antropocentrica   Bruxelles, 8.4.2019 COM(2019) 168 final[↩]
5. https://ec.europa.eu/docsroom/documents/45508 [↩]
6. The proposal builds on existing legal frameworks and is proportionate and necessary to achieve its objectives, since it follows a risk-based approach and imposes regulatory burdens only when an AI system is likely to pose high risks to fundamental rights and safety [↩]
7. Intelligenza Artificiale, potenzialità e limiti

   del regolamento Ue – Teresa Numerico, 01.05.2021[↩]