Le tecnologie che vanno sotto la denominazione di Intelligenza Artificiale (A.I.) forniscono sin da oggi prestazioni con effetti nei più diversi settori della produzione e riproduzione sociale tali da essere considerate un fattore di trasformazione radicale, se non di rottura, degli equilibri esistenti. Gli sviluppi prevedibili mostrano un loro operare in modo sempre più profondo e pervasivo, mostrano una capacità di modificare il senso di concetti fondamentali, delle ontologie in base alle quali noi descriviamo, definiamo i sistemi sociali, il mondo della vita, le forme di consapevolezza, intelligenza ed autocoscienza. I fondamenti etici dello sviluppo dei sistemi di I.A. e delle loro conseguenze costituiscono un campo di indagine sempre più esteso ed articolato.  Da un parte dei protagonisti dello sviluppo dell’I.A. si sono levati a più riprese allarmi¹ sui rischi cui l’umanità andrebbe incontro se non si ponessero dei limiti  al processo di innovazione esponenziale che li caratterizza; mentre l’Unione Europea si è dotata di un sistema di norme L’ Artificial Intelligence Act focalizzato sulla definizione della rischiosità delle diverse applicazione e quindi sui livelli di interdizione e di controllo a cui vanno soggette, a livello globale dominante è la competizione tra le principali potenze tecnologiche, economiche e finanziarie. I protagonisti di questa competizione sono la Cina e gli Stati Uniti, l’Europa nonostante l’elaborazione normativa non è certamente al livello dei due protagonisti della competizione. Negli USA il presidente Biden a suo tempo ha incontrato i protagonisti dello sviluppo dell’I.A. ed ha emesso un ordine esecutivo² su uno sviluppo, sano, sicuro ed affidabile dell’IA.  Affidando alle diverse articolazione delle pubbliche amministrazioni il compito di investigare e vigilare, senza aver emesso alcuna norma tassativa, ma nel contesto di una serie di azioni³ miranti a seguire e tenere sotto controllo lo sviluppo di queste tecnologie; tra queste -tutte dotate di una loro funzione e rilevanza- è importate citare il Blueprint for an AI Bill of Rights⁴  “Lo schema per una Carta dei diritti dell’IA è un insieme di cinque principi e pratiche associate per aiutare a guidare la progettazione, utilizzo e implementazione di sistemi automatizzati per proteggere i diritti del pubblico americano nell’era dell’IA”.

Il NIST AI Risk Management Framework⁵

“Il National Institute of Standards and Technology (NIST) AI Risk Management è un quadro di riferimento per gestire meglio i rischi per gli individui, le organizzazioni e la società associati con l’IA. Il profilo generativo dell’IA si basa sul quadro e individua i rischi unici posti dall’IA generativa, nonché le azioni per mitigare i rischi di tale attività.”

Nell’ordine esecutivo è importante leggere nella terza sezione, quella della definizione dei termini utilizzati nel testo, la definizione dei campi di applicazione da tenere sotto osservazione dei diritti messi a rischio, con le norme precedenti di riferimento, ad esempio quella della criticità delle tecnologie emergenti⁶.

Ciò che emerge soprattutto dall’ordine esecutivo e degli altri documenti che guidano le azioni del governo Usa nei confronti dell’intero campo di sviluppo del’ I.A. è la consapevolezza della dinamicità, se non dell’imprevedibilità, dello sviluppo e delle trasformazioni a cui è soggetto quell’ecosistema tecnologico, la fluidità delle definizioni, le sovrapposizioni dei campi di applicazione. La pretesa di regolazione normativa si traduce in una sorta di inseguimento di una preda mutevole che si trasforma, si moltiplica e cambia costantemente traiettoria. Allo stato delle cose nonostante il proliferare di analisi e proiezioni futuribili non si è ancora evidenziato uno schema   semplificato di beni e diritti fondamentali messi a rischio dall’I.A. e di definizione delle modalità con cui questi rischi si sostanziano, una nuova ontologia dell’essere sociale ai tempi dell’IA.

La tecnologia dell’I.A. è contestuale ad una crescita verticale, della produzione di dati, costituisce lo strumento necessario per trattarli, per estrarne valore, determinando modifiche sostanziali nei rapporti di potere, nella concentrazione della ricchezza. L’asimmetria crescente nel potere di disposizione sui flussi di informazione prodotti socialmente fornisce un formidabile contributo alla crescita delle diseguaglianze, alla concentrazione del potere a livello globale.

Nella  conferenza organizzata dalla Fondazione Di Vittorio ‘HO VISTO COSE CHE…L’INTELLIGENZA ARTIFICIALE E IL LAVORO METALMECCANICO’ del 15 luglio, si sono espresse le molteplici ipotesi in campo sugli effetti dell’introduzione delle tecnologie dell’I.A. su lavoro e democrazia, come abbiamo avuto modo di evidenziare nell’articolo Intelligenza artificiale, lavoro democrazia⁷.

“Il quesito [la conseguenza sull’occupazione in termini di trasformazione dei profili lavorativi, nuova creazione o loro scomparsa] è cruciale, esso implica l’analisi di tutti i processi scatenati dall’introduzione dell’ecosistema tecnologico dell’I.A. nella struttura dell’intero sistema economico e produttivo, alla stratificazione del mercato del lavoro in termini di funzioni e qualità, dal salario, all’orario alla durata del rapporto, ai suoi effetti sulla salute dei lavoratori, infine dal ruolo che in questa trasformazione è in grado di giocare il conflitto sociale, la lotta dei lavoratori. Proprio perché la questione coinvolge la totalità dei processi in atto, risposte di una qualche solidità possono scaturire da un lavoro di analisi straordinario che coinvolga tutti i soggetti coinvolti, da un punto di vista di critica degli attuali rapporti sociali di produzione; un lavoro di analisi nella carne viva dei processi sociali, secondo la metodologia della ‘ricerca azione’, laddove l’analista è assieme osservatore e partecipe del processo e i soggetti attivi nel processo non solo oggetti dell’osservazione, ma ne vengono influenzati acquisendo conoscenza e consapevolezza della propria condizione.”

In sintesi di fronte ad un orizzonte di totale incertezza, entro un processo di straordinaria complessità nel quale utenti dei sistemi, cittadini e lavoratori sono sempre più spossessati del potere di conoscere, di decidere, di governare la transizione. L’impatto dell’innovazione tecnologico-digitale opera a ondate successive sin dai suoi inizi, il contesto attuale è il pieno manifestarsi della rottura definitiva del modello, della vigenza della logica, dei rapporti di forza espressi dalla globalizzazione neoliberista. La trasformazione dei rapporti sociali di produzione si è espressa tanto nella configurazione dei rapporti globali quanto nei regimi politici. Ormai da decenni la fine del modello fordista interrotto quel ciclo economico che coniugava innovazione tecnologica, con il conflitto sociale, con la capacità del movimento operaio di imporre le proprie piattaforme, di far avanzare il confine delle mediazioni, le forme di partecipazione a livello sociale e politico. Le trasformazioni dei cicli produttivi -nei paesi sviluppati, del primo mondo- della composizione sociale con la riduzione percentuale degli occupati nel settore industriali e la crescita nei servizi assieme alla riduzione ai minimi termini dell’occupazione in agricoltura, è continuata oltre la fine di quel ciclo, con una diffusione globale delle filiere produttive, sino ad oggi passando per la disgregazione della configurazione neoliberista.

Alle radicali trasformazioni socio-economiche, alla trasformazione della composizione sociale ha corrisposto una trasformazione della composizione politica nei diversi paesi; la distribuzione delle filiere produttive e delle catene logistiche e di approvvigionamento  –rese possibili dai processi di automazione, di coordinamento digitale della produzione diffusa e della standardizzazione della logistica grazie all’uso dei container– ha esteso i confini della estrazione di valore a tutte le regioni del globo, integrando le forme più avanzate di produzione con l’estensione delle forme di schiavitù, entro i più diversi  contesti e regimi politici.

Le dinamiche della storia dei decenni passata ci appaiono ormai del tutto evidenti, con alcuni passaggi ormai passati alla storia -come la dichiarazione di inconvertibilità del dollaro, la quadruplicazione del prezzo del petrolio, l’innalzamento del tasso di sconto sul dollaro del 1979 da parte del governatore della FED Volcker, che scatenò la crisi finanziaria dei paesi più indebitati, la rivalsa conservatrice con Reagan e la Thatcher, aprendo la via ad un processo di finanziarizzazione dell’economia mondiale di dimensioni, mai sperimentate prima, grazie al progredire delle tecnologie digitali applicate ai mercati finanziari, rendendoli sempre più integrati, attraversati e sorretti da flussi di informazioni in crescita esponenziale.

Il crollo dello schema neoliberista, peraltro fondato sull’integrazione tra il dominio tecnologico, finanziario e militare degli USA e la capacità produttiva della Cina come fabbrica mondo –segnata dalla rottura operata dalla crisi dei subprime e l’esplosione dei debiti sovrani -ha aperto all’attuale congiuntura, che semplice congiuntura non è, come appare chiaro agli occhi di chiunque. In questo contesto l’instabilità e le trasformazioni dei regimi politici interni ai diversi paesi sono strettamente correlate all’instabilità dei rapporti globali, al manifestarsi in essi di configurazioni a geometria variabile negli schieramenti economici, politici e strategici.

L’instabilità si esprime non solo nell’alternarsi di maggioranze politiche diverse, ma nella crisi dei fondamenti costituzionali, laddove questi esistono; crisi dei fondamenti che quando non toccano la loro espressione formale intervengono nelle loro dinamiche sostanziali, nella cosiddetta ‘costituzione materiale’. Se in ogni paese si esprimono forme particolari di questa  instabilità istituzionale  e sociale, è il convergere dei processi di crisi -la policrisi-  e delle transizioni gemelle climatico-energetica e tecnologico-digitale che rende ogni assetto sempre più instabile a livello globale, concetto che abbiamo provato ad introdurre nell’articolo Transizione e costituzione; la situazione dell’Unione Europea da questo punto di vista è paradigmatica, con l’ invasione dell’Ucraina da parte della Federazione Russa si sono dissolte le condizioni  che rendevano possibile un certo equilibrio economico basato sull’egemonia tedesca, l’assetto istituzionale tripartito non appare in grado di governare questa fase di transizione assieme radicale e di lunga durata, nonostante ne sia avvertita tutta quanta la criticità, mentre con qualche palliativo ricompare all’orizzonte dei prossimi anni la gestione depressiva affidata al poco rinnovato patto di stabilità, vedi per questo alcune osservazioni presenti nell’articolo Unione Europea, il vuoto strategico nel pieno della tendenza alla guerra; in attesa che il rapporto di Mario Draghi sulla competitività proponga una svolta radicale nella governance dell’UE, nella sua costituzione formale, per portare alla luce una nuova coalizione di poteri a fondamento di una nuova costituzione materiale.

L’incapacità di intervenire in questo quadro di instabilità, fondato su diseguaglianze crescenti, si manifesta anche nei lavori in corso per la preparazione del G20⁸ che si terrà il prossimo novembre a Rio de Janeiro, dove  è stata rigettata l’ipotesi presentata dalla presidenza brasiliana⁹ di una tassa globale del 2% sui redditi maggiori. Si conferma l’incapacità di decidere, cambiamenti se non inversioni, di rotta già manifestata nelle conferenze sul clima.

Nel frattempo la specifica condizione delle popolazioni in diversi paesi, compresa anche la composizione demografica, porta ad una serie di rivolte su cui sviluppa uno sforzo di analisi su questa rivista Alessandro Scassellati (vedi, per esempio il recente Le proteste degli studenti e la violenta repressione governativa in Bangladesh ed in questo numero  https://transform-italia.it/le-rivolte-della-generazione-z-in-kenya-uganda-e-nigeria/ ).

Il diffondersi delle tecnologie di I.A. opera profondamente nei rapporti sociali di produzione, nella composizione sociale e quindi nella composizione politica delle popolazioni, entro il quadro di instabilità e diseguaglianze crescenti sommariamente descritto, sui cui peraltro esiste una letteratura sterminata in costante aggiornamento.

Una riflessione sugli effetti dell’I.A. sul funzionamento delle democrazie è proposto da Bruce Shneier nel testo Rethinking democracy for the age of AI che trascrive un suo discorso.

Nell’introduzione al testo afferma. “In questo discorso, voglio che si pensi sia alla democrazia che al capitalismo come sistemi di informazione. Sistemi di informazione socio-tecnici. Protocolli per prendere decisioni di gruppo. Quelli in cui diversi attori hanno incentivi diversi. Questi sistemi sono vulnerabili agli attacchi informatici e devono essere protetti contro tali attacchi.”

Il concetto di incentivo è centrale nella sua analisi sul funzionamento della società e della democrazia, sulle  cause quindi dei comportamenti sociali e delle dinamiche istituzionali.

Nella sua analisi sulla instabilità degli attuali sistemi democratici afferma. “Sappiamo tutti della disinformazione e di come essa influisce sulla democrazia. E di come i propagandisti l’abbiano usata per promuovere le loro agende. Questo è un problema antico, amplificato dalle tecnologie dell’informazione. Piattaforme di social media che danno la priorità all’impegno. Segmentazione operata con la ‘Filter bubble’¹⁰ assieme alle  tecnologie per la messa a punto di messaggi persuasivi

Il problema deriva in ultima analisi dal modo in cui le democrazie utilizzano l’informazione per prendere decisioni politiche. La democrazia è un sistema di informazione che sfrutta l’intelligenza collettiva per risolvere i problemi politici. E poi per raccogliere feedback su come funzionano queste soluzioni. Questo è diverso dalle autocrazie che non sfruttano l’intelligenza collettiva per prendere decisioni politiche. Oppure disporre di meccanismi affidabili per raccogliere informazioni dalle loro popolazioni.

I nostri attuali sistemi di governance sfruttano il conflitto [la competizione] per prendere decisioni. L’idea di base è che il coordinamento sia inefficiente e costoso. L’interesse personale individuale porta a ottimizzazioni locali, che si traducono in decisioni di gruppo ottimali. Ma questo è anche inefficiente e costoso. Gli U.S.A hanno speso 14,5 miliardi di dollari per le elezioni presidenziali, senatoriali e congressuali del 2020. Non so nemmeno come calcolare il costo in termini di attenzione. Sembra un sacco di soldi, ma fai un passo indietro e pensa a come funziona il sistema. Il valore economico di vincere quelle elezioni è così grande perché è così che si impone la propria struttura di incentivi nel complesso.

(…)

Più in generale, il costo della nostra economia di mercato è enorme. Per esempio, ogni anno vengono spesi 780 miliardi di dollari a livello mondiale per la pubblicità. (…)

La democrazia è un sistema socio-tecnico. E tutti i sistemi socio-tecnici possono essere hackerati. Con questo intendo dire che le regole sono incomplete o incoerenti o obsolete – hanno scappatoie. E questi possono essere utilizzati per sovvertire le regole. (…)

Ora, aggiungere a questo mix i rischi che derivano da nuove e pericolose tecnologie come internet o AI o biologia sintetica. O nanotecnologie molecolari, o armi nucleari. Qui incentivi disallineati e hacking possono avere conseguenze catastrofiche per la società. Questo è il problema n. 3: I nostri sistemi di governance non sono adatti al nostro livello di potere. Tendono ad essere basati sui diritti, non sulle autorizzazioni. Sono progettati per essere reattivi, perché tradizionalmente si prendeva in esame solo il danno che una singola persona poteva fare.”

Quest’ultima affermazione ovviamente fa riferimento al tradizionale mascheramento delle reali dinamiche sociali, fondate sullo sfruttamento, operate dal diritto, sul quale peraltro la lotta di classe e la lotta contro la distruzione dell’ambiente operata dal sistema capitalistico hanno fatto piena luce e trasformato il diritto stesso. Tuttavia oggi i rischi sistemici sono enormemente aumentati, questo è il succo.

“E l’IA sovraccaricherà l’hacking. Abbiamo creato una serie di sistemi non interoperabili che interagiscono e l’IA sarà in grado di capire come sfruttare più di quelle interazioni: trovare nuove scappatoie fiscali o nuovi modi per eludere le normative finanziarie. (…)

Nel mondo di oggi, mediato dalla tecnologia, stiamo sostituendo i rituali e i comportamenti della cooperazione con meccanismi di sicurezza che impongono la conformità. E fiducia innata nelle persone con la fiducia forzata nei processi e nelle istituzioni. Che scala meglio, ma perdiamo il collegamento umano. È anche costoso, e diventa ancora più costoso man mano che il nostro potere cresce. Abbiamo bisogno di maggiore sicurezza per questi sistemi. E i risultati sono molto più facili da hackerare. Ma ecco il punto: i nostri sistemi informali di fiducia sono intrinsecamente non scalabili. Quindi forse dobbiamo ripensare la scala. (…)

Infine, anche l’agilità è importante. Tornando alla teoria dei sistemi, la governance è un tentativo di controllare i sistemi complessi con sistemi complicati. Questo diventa più difficile come i sistemi diventano più grandi e più complessi. E come rischio catastrofico aumenta il costo di sbagliare. (…)

Molte persone hanno scritto sulla velocità della tecnologia rispetto alla velocità delle politiche. Per collegarlo a questo discorso: I nostri sistemi umani di governance devono essere compatibili con le tecnologie che dovrebbero governare. Se non lo sono, alla fine i sistemi tecnologici sostituiranno i sistemi di governance.”

L’autore si pone infine una domanda inquietante, che adombra un futuro distopico, ma non impossibile a fronte appunto dell’attuale crisi della democrazia.

“Pensate alla democrazia come a un sistema di informazione. Le tecniche di IA possono essere utilizzate per scoprire le nostre preferenze politiche e trasformarle in risultati politici, ottenere feedback e quindi iterare? Questo sarebbe più accurato di un sondaggio. E forse anche le elezioni. Può un’IA agire come nostro rappresentante? Potrebbe fare un lavoro migliore di un essere umano nel votare le preferenze dei suoi elettori?”

Dallo sviluppo esponenziale dei dispositivi di manipolazione delle coscienze, delle conoscenze, della comunicazione sociale, delle rappresentazioni della realtà alla interpretazione via I.A. dei meccanismi più profondi di manifestazione della soggettività.

“Non ho pensato nemmeno un attimo a come arrivare da qui a lì. Tutto ciò di cui ho parlato – incentivi, hacking, potere, complessità – si applica anche a qualsiasi sistema di transizione. Ma penso che abbiamo bisogno di avere discussioni senza vincoli su ciò che stiamo mirando. Se per nessun altro motivo che mettere in discussione le nostre ipotesi. E per immaginare le possibilità. E mentre molte delle parti di AI sono ancora fantascienza, non sono fantascienza così lontane dalla realtà.”

Queste ultime citazioni sono particolarmente significative e ci avvertono di un salto di qualità possibile nella crisi della democrazia i cui esiti si saldano con le evoluzioni possibili dei cosiddetti sistemi autocratici, che conoscono una crisi non meno rilevante dei primi. Si tratta di un testo che va letto nella sua interezza, che se riflette un dibattito aperto soprattutto negli USA, anche  nei suoi punti di riferimento concettuali, impone di ragionare sugli esiti possibili della crisi delle attuali forme di governo delle società, crisi che si fa sempre più profonda man mano che si entra nel pieno di una transizione a più dimensioni, affrontata dalle diverse componenti della formazione sociale globale in modo sempre più competitivo e lontano dai livelli di coordinamento e  solidarietà necessari per operare a favore di gran parte dell’umanità.

Roberto Rosso

1. https://www.avvenire.it/economia/pagine/appello-rischio-estinzione-ai.[↩]
2. https://www.whitehouse.gov/briefing-room/presidential-actions/2023/10/30/executive-order-on-the-safe-secure-and-trustworthy-development-and-use-of-artificial-intelligence/.[↩]
3. https://ai.gov/actions/.[↩]
4. https://www.whitehouse.gov/ostp/ai-bill-of-rights/.[↩]
5. https://www.nist.gov/itl/ai-risk-management-framework.[↩]
6. The term “critical and emerging technologies” means those technologies listed in the February 2022 Critical and Emerging Technologies List Update issued by the National Science and Technology Council (NSTC), as amended by subsequent updates to the list issued by the NSTC.[↩]
7. https://transform-italia.it/intelligenza-artificiale-lavoro-democrazia/.[↩]
8. https://www.g20.org/en/about-the-g20/summit-rio-2024.[↩]
9. https://valori.it/g20-rio-de-janeiro-tasse-ricchi/;  https://www.avvenire.it/economia/pagine/g20-e-tassa-sui-ricchi.[↩]
10. L’espressione Filter bubble fa riferimento a una condizione di isolamento intellettuale che sarebbe conseguenza, oggi, dell’utilizzo di sistemi algoritmici in grado di filtrare le informazioni a disposizione degli utenti a partire dalle preferenze espresse in precedenza, dalle azioni già compiute in Rete.[↩]