Le note che seguono non pretendono di essere un resoconto o una sintesi del dibattito svolto nella conferenza, quanto una serie di annotazioni, su alcuni suoi limiti da cui mergono delle indicazioni per la terza conferenza che dovrebbe svolgersi nel mese di ottobre.

Una prima impressione sul confronto che il 28 giugno si è svolto sul tema del rapporto tra Intelligenza artificiale e democrazia¹, che fa seguito alla prima conferenza del 30 marzo². Alla complessità del tema dell’I.A. si aggiunge quella del tema della democrazia. Se il primo tratta di un sistema di tecnologie digitali che entrano in modo profondo e pervasivo entro tutti i processi di gestione dell’informazione, produzione di conoscenza, strutturazione dei processi decisionali, in buona sostanza entro ambito relazionale, conoscitivo e decisionale; il secondo tratta della modalità di governo delle società nelle quali, almeno formalmente i cittadini scelgono con diverse forme partecipative e rappresentative, gli organi di governo.

Un tema, quello della democrazia, di una complessità straordinaria, in costante evoluzione nella trattazione storica delle sue trasformazioni, nella sua definizione teorica, nelle sue attuali espressioni. A seconda della definizione che noi ne diamo, il campo delle società democratiche si allarga o si restringe; il grado di democraticità di una società è oggetto di costante contesa. I reali rapporti di forza, di potere e partecipazione, la reale forma dei processi decisionali è strettamente correlata   alla struttura ed alle dinamiche sociali, economiche e culturali. La condizione di un singolo paese è a sua volta fortemente condizionata dalla sua collocazione nei rapporti globali, la formazione sociale del singolo paese è parte di una formazione sociale globale, interna a tutte le sue dinamiche. Sono considerazioni ovvie oltre che sommarie. Ciò nonostante, nel confronto sui nessi tra I.A e democrazia è stato carente in gran parte il confronto che avrebbe dovuto approfondire lo stato dell’arte della democrazia, su cui il processo di sviluppo travolgente delle tecnologie di l’A.I. va ad incidere.

Vi sono stati dei riferimenti in particolare nell’intervento della dott.ssa Trenta alla posta in gioco definibile nei termini di  ‘difesa della struttura costituzionale, costituzioni liberali, democrazia, diritti umani, stato di diritto’; La stessa Trenta ha parlato nella sua risposta al bisogno di sicurezza come bisogno su cui agiscono tutte le forme di potere  (detto con parole mie) ed ha citato l’esperimento cinese sui crediti che il cittadino  guadagna in termini di diritti di cittadinanza a seconda del proprio comportamento.  Esperimento che, si è fatto notare in un intervento a commento, non è stato generalizzato all’intero paese, ma costituisce indubbiamente un precedente, una sperimentazione che apre a futuri sviluppi; Un orizzonte distopico che si fonda su tecnologie di sorveglianza pervasive, che si avvale di tutte le forme di identificazione possibili e sull’integrazione dell’insieme delle tracce digitali sempre più fitto in termini individuali e collettivi.

Per una analisi più approfondita ed un confronto sui contenuti della conferenza attendiamo la pubblicazione dei materiali, mentre è opportuno ascoltare la registrazione del dibattito dell’incontro della prima conferenza del 30 marzo³  leggerne i materiali preparatori⁴; di questa seconda conferenza sono disponibili i materiali preparatori⁵, molto focalizzati sul tema.

L’uso delle tecnologie che vanno sotto la definizione di I.A. non è certo di questi mesi, ma è di questi mesi l’allarme per il salto di qualità introdotto dal tecnologia che va sotto il nome di transformers,  una tipologia di deep learning, machine learning ,realizzato da reti neurali,  su cui si è aperto uno straordinario dibattito pubblico con l’annuncio delle prestazioni di ChatGPT-4 di OpenAI, a cui ha fatto seguito una serie ininterrotta di annunci, in particolare quello di Google con il proprio prodotto Bard⁶, con la proposta di sempre nuovi campi di applicazioni nuove specializzazioni funzionali; nel frattempo si attendono ulteriori incrementi nella potenza di elaborazione, aggiungendo miliardi di nodi e connessioni alle reti neurali. L’orizzonte di crescita è ben rappresentato dall’investimento di 10 miliardi di dollari da parte di Microsoft nella tecnologia di OpenAi, la quale a sua volta ha investito 540 milioni di dollari per giungere a ChatGPT-4. Sul piano della competizione globale assistiamo in questi giorni ad una vera e propria guerra tra Cina da una e USA dall’altra, assieme ad altri paesi dello schieramento ‘occidentale’, nella quale i contendenti bloccano o limitano l’accesso di materie prime strategiche per il settore digitale o l’accesso a tecnologie e servizi come l’I.A. o il cloud.

Come abbiamo sottolineato altre volte gli stati si muovono tra due necessità contraddittorie, quella di tenere sotto controllo lo strapotere degli oligopoli che producono tecnologie in grado di influenzare i processi economici, sociali e culturali, i processi decisionali ad ogni livello, di contro essere vincenti nella concorrenza nel mercato mondiale, garantirsi il controllo di tecnologie decisive per lo sviluppo economico e soprattutto garantirsi un vantaggio nella competizione strategica dove l’aspetto civile e quello militare sono inestricabilmente connessi. È del tutto evidente come un tale processo porti ad una concentrazione del potere economico e politico, laddove le relazioni, i rapporti di forza, tra potere statuale e potere degli oligopoli dipendono dai regimi politici dei diversi stati. Abbiamo già evidenziato come l’UE sia all’avanguardia con la legislazione che riguarda i servizi digitali (Digital services Act), le società che dominano il mercato decine se non centinaia di tanti/clienti (Digital Corporate Act) e in specifico l’Intelligenza Artificiale con il Artificial Intelligence Act.  Un insieme di norme che dovrebbe garantire proteggere i cittadini dallo strapotere degli oligopoli, garantire i loro diritti digitali, tenere sotto controllo o proibire le pratiche rese possibili dall’intelligenza artificiale, in base ai rischi prodotti ad ogni livello, in ogni articolazione della formazione sociale. Il problema di fondo di questa produzione normativa da un lato è costituito dalla marginalità dell’Europa nel suo complesso rispetto allo sviluppo dei servizi, dei prodotti e delle tecnologie digitali, dall’altro più in generale la straordinaria velocità dell’innovazione rispetto alla produzione normativa, la disparità di risorse a disposizione assieme alla pervasività e profondità della penetrazione di queste tecnologie nella riproduzione sociale. Nella prima conferenza erano state analizzate le conseguenze nelle diverse dimensioni della riproduzione sociale, in parte questa analisi è stata ripresa, ma è manata una focalizzazione, forse più presente nei materiali preparatori, proprio su ciò che accade nelle forme di governo delle società.

Una considerazione fondamentale è che nel dibattitto è stato espunto il conflitto come carattere fondate della trasformazione sociale e delle forme di governo della società, conflitto, la rete dei conflitti nella quale e sulla quale operano le tecnologie digitali e l’I.A. in particolare. Conflitto, contraddizioni e soggettività sociali che caratterizzano le dinamiche delle società.

I pericoli sono stati evidenziati sulla possibilità in buona sostanza di manipolare la produzione, gestione e diffusione dell’informazione, di selezionare le conoscenze attraverso filtri impliciti nell’elaborazione dei dispositivi di I.A. oltre alla mancanza di trasparenza dei processi dell’I.A. e l’imprevedibilità di alcuni esiti anche per gli stessi creatori e gestori dei dispositivi e dei servizi. È stato evidenziato, da Sergio Bellucci se sono corretti gli appunti, un certo carattere buonista delle risposte di ChatGPT, una sorta di moderazione che fa presumere l’esistenza di filtri nell’elaborazione delle risposte.

In generale si dibatte sulla necessità prima, ma in effetti sulla possibilità fare un uso controllato dell’I.A. come di una utenza generica. In realtà i problemi si pongono nella realtà concreta dei rapporti di potere economici e sociali, sulla possibilità di accesso a queste tecnologie, sulle possibilità diverse di utilizzo ed infine sugli interessi, i bisogni che ne guidano l’uso che sostanzialmente possono porre linee di discrimine diverse tra rischi e opportunità, tra chi gode delle opportunità e chi si accolla i rischi.

Il dibattito si è svolto tra soggetti che sono intervenuti in base alla propria competenza maturata entro specifici campi di applicazione ed infatti ognuno giungeva, come è ovvio, a considerazioni di ordine generale attraverso il proprio specifico d percorso di analisi ed esperienza; ciò che è mancato è forse una messa in comune di una analisi delle condizioni di profonda disuguaglianza in cui si trovano le nostre società ed il riferimento a prassi sociali conflittuali, quantomeno trasformative, a soggetti chiamati a prendere posizione a reagire nei confronti di una vera e  propria rivoluzione degli assetti sociali già avviata ed in corso di accelerazione progressiva.  I rapporti di forza, le possibilità di accesso all’informazione sono sin da ora profondamente squilibrati, il sogno, l’ideale secondo cui attraverso la rete si sarebbe giunti ad una straordinaria condivisione delle conoscenze e con essa una riduzione sostanziale delle diseguaglianze ed una maggiore democraticità, non pare proprio che si sia realizzata, nonostante la crescita delle pratiche dei movimenti dell’open access.

L’intervento del dott. Del Papa, che si trova nei materiali preparatori della seconda conferenza, segnala i limiti del processo di regolazione messo in atto in particolare con l’A.I. Act proprio nei confronti dei processi democratici.

Assodata la crisi di rappresentanza reale dei sistemi democratici, l’emergere di quella che abbiamo chiamato la ‘democratura’, Del Papa riprende la considerazione della commissione AIDA.

La questione è già stata oggetto di attenzione da parte UE, o meglio della commissione

speciale AIDA varata nel 2021 dal Parlamento Europeo.

In tema di AI e futuro della democrazia sono emerse le seguenti considerazioni:

• Il futuro della democrazia dipenderà dal mantenimento della pluralità dei media, dallapossibilità del dissenso e da un discorso pubblico incentrato sulla persona;

• L’obiettivo di ridurre o rimuovere i contenuti incivili e divisivi sembra quindi essere indiretto conflitto con i modelli di business delle piattaforme orientati allamassimizzazione del coinvolgimento degli utenti. Mentre il mondo offline si è spostato online, le leggi e gli standard offline non sono stati aggiornati di conseguenza;

• Le informazioni fondamentali per la sopravvivenza delle democrazie non possono competere con la disinformazione motivata alimentata da piattaforme sempre piùinfluenti e algoritmi basati sull’intelligenza artificiale;

• Insieme alla disintermediazione, stanno emergendo una crisi di verità e una crisi dipercezione, amplificate dal potere persuasivo delle nuove applicazioni di intelligenzaartificiale che possono portare a un’asimmetria informativa paralizzante che minacciale democrazie,

• La protezione dei valori democratici fondamentali come la libertà di espressione e la dignità umana non può più essere garantita e i modelli di governance democraticisono sempre più in competizione con l’autoritarismo digitale che sta emergendo come un modello alternativo percorribile;

• utilizzare la tecnologia per ottimizzare i contenuti e colmare le lacune nellapercezione che spesso portano alla divisione e alla polarizzazione.

Risulta del tutto evidente da queste note la drammaticità della situazione, sia pure esposta in un linguaggio neutro, stante la crisi dei cosiddetti ‘modelli di governance democratici’ e quindi la mancanza di ogni forma di protagonismo sociale, la situazione di fronte ai rischi segnalati appare priva di difese sostanziali. In diversi interventi è stato indicato lo stravolgimento dell’organizzazione del lavoro prodotta dall’introduzione dell’I.A. con la messa a rischio di centinaia di milioni di posti lavoro a livello globale; a questo tipo di previsioni, che sia pure approssimative sono prodotte da più parti, non si oppone alcuna pratica sociale, culturale politica in grado di confrontarsi con quello stravolgimento, stanti gli attuali rapporti di forza a livello sociale, attraverso tutti i regimi politici e le condizioni socio-economiche delle diverse regioni del globo. Il paragone che Agostinelli ha proposto con l’incapacità di affrontare il cambiamento climatico prodotto dal riscaldamento globale è assolutamente pertinente.

Nella prossima conferenza, di cui dovremmo collettivamente definire l’oggetto del confronto, dovremmo forse approfondire il nesso tra innovazione tecnologica, trasformazione sociale e nascita di nuove soggettività, facendo tesoro delle riflessioni delle prime due conferenze nel contesto di un confronto globale in pieno sviluppo, ponendo il focus su tema della soggettività, uscendo dal ruolo di semplici osservatori.

Al di là dei tentativi di regolamentazione o di irreggimentazione dell’implementazione della tecnologia dell’I.A. la struttura profonda delle società viene ad essere modificata in maniera progressiva e c’è forse da chiedersi se non si debba aspettare l’attuarsi di questo stravolgimento in modo sostanziale per vedere il nascere di una nuova soggettività sociale e politica, viste le condizioni, diciamo di partenza, su cui il processo di trasformazione radicale opera, e la sua radicalità, profondità e velocità. Qualcuno dice che toccato il fondo tocca ancora scavare, noi ottimisticamente pensiamo che un giorno diremo ben ‘scavato vecchia talpa’.

P.S. Il tema dell’Intelligenza Artificiale è sterminato nelle sue articolazioni concrete, nel flusso quotidiano delle notizie e delle analisi. Per affrontarlo intediamo costituire un gruppo di lavoro nella redazione, allargato ad una rete di collaborazioni. Intendiamo anche fornire una formazione di base che permetta di comprendere, anche ai non addetti ai non specialisti, i caratteri fondamentali di questo straordinario processo di innovazione tecnologica.  Se il nostro sforzo andrà a buon fine, struttureremo uno spazio adeguato nel sito, aspettatevi importanti novità.

Roberto Rosso

1. https://www.other-news.info/italia/simposio-27-giugno/  [↩]
2. https://www.other-news.info/italia/simposio/ [↩]
3. https://www.other-news.info/italia/registrazione-simposio/ [↩]
4. https://www.other-news.info/italia/background-papers/ [↩]
5. https://www.other-news.info/italia/background-papers-2-simposio/ [↩]
6. https://www.punto-informatico.it/google-ai-bard-guida-e-test/  https://www.wired.it/article/google-bard-intelligenza-artificiale-chatbot-europa-ritardo/ [↩]