Le tecnologie del digitale alimentano l’ideale distopico di una riproducibilità tecnica della vita di fronte alla distruzione delle sue stesse basi biologiche e sociali. Nuove soggettività sociali politiche e culturali sono necessarie per combattere questo stato di cose.
Negli articoli precedenti, nell’ultimo in particolare1 abbiamo cominciato ad analizzare il ruolo della scienza e della tecnologie nella trasformazione sociale, il grado irrazionalità insito nel rapporto sociale di capitale.
Possiamo riprendere da una citazione del report dell’Institute for advanced sustainability studies (Iass) di Potsdam “Changing the scientific approach to fast transitions to a sustainable world. Improving knowledge production for sustainable policy and practice”2 dove viene messa in evidenza la contraddizione insita nello sviluppo tecnologico; da un lato l’aumento delle disparità sociali ed i molteplici rischi per l’ambiente dall’altra lo sviluppo delle scoperte in campo medico che hanno aumentato le aspettative di vita in molti paesi e l’uso delle tecnologie stesse per mitigare se non invertire gli effetti sul clima ed i sistemi ecologici. Siamo di fronte ad una sorte di ‘fatica di Sisifo’ -le cui vicende sono spesso richiamate per descrivere i progressi dell’umanità- il cui esito appare sempre più orientato verso la rottura definitiva degli equilibri in cui si è riprodotta la vita e si è sviluppata la società umana. Lo sviluppo della medicina, delle tecnologie di manipolazione della vita – lo si sta vedendo nel trattamento della pandemia Covid-19- si basano su una logica estrattiva nei confronti del patrimonio genetico e biologico dei sistemi ecologici e dello sviluppo oligopolistico del sistema produttivo.
Vandana Shiva scrive sul Manifesto3 “Al culmine della pandemia del Coronavirus, Microsoft ha ottenuto il brevetto internazionale n. WO 2020/060606 dall’Ompi – l’Organizzazione Mondiale della Proprietà Intellettuale. Il brevetto recita: «L’attività del corpo umano associata a un compito fornito a un utente può essere utilizzata nel processo di estrazione di un sistema di cripto valute. Un server può fornire un compito a un dispositivo di un utente che è accoppiato in modo comunicativo al server. Un sensore collegato o compreso nel dispositivo dell’utente può percepire l’attività corporea dell’utente. I dati sull’attività corporea possono essere generati sulla base dell’attività corporea percepita dell’utente». L’«attività corporea» che Microsoft vuole estrarre senza il nostro permesso, include anche: «Le radiazioni emesse dal corpo umano, le attività cerebrali, il flusso di fluidi corporei (ad esempio il flusso di sangue), l’attività o il movimento degli organi, il movimento del corpo, e qualsiasi altra attività che possa essere percepita e rappresentata tramite immagini, onde, segnali, testi, numeri, gradi, o qualsiasi altra forma di informazione o dati».”4. I dati della attività corporea sono utilizzati per la generazione di cripto valute; siamo allo sviluppo parossistico delle cosiddette ‘disruptives technologies’.
Lo sforzo forse più importante al livello globale per governare lo sviluppo delle tecnologie che vanno sotto l’etichetta di Intelligenza Artificiale è quello fatto dall’Unione Europea; il giudizio che abbiamo già espresso è che siamo di fronte ad un altro esempio di fatica di Sisifo ovvero lo sforzo di produzione di studi e norme per regolare lo sviluppo di quel sistema tecnologico è in perenne ritardo rispetto al processo che cerca di governare. La società iper-tecnologizzata avverte il pericolo insito in un sistema costituito da moduli sempre meno trasparenti nel loro funzionamento -vere e proprie scatole nere- che diventa come sistema nella sua complessità del tutto imprevedibile. Colpisce la sproporzione tra lo sforzo di governare il digitale e l’incapacità di frenare il fenomeno della biopirateria che rastrella le risorse genetiche e biologiche in giro per il mondo ed il monopolio sulle tecnologie della vita: questo è un punto su cui ritornare.
L’ I.A. è lo strumento fondamentale per governare il processo complessivo di riconversione dei sistemi sociali, finanziari e produttivi, è al centro dei conflitti strategici a livello globale e di quelli che insorgono nelle singole formazioni sociali per il controllo sui poteri emergenti e sui nuovi processi di valorizzazione e di controllo sociale.
La Commissione Europea ha costituito High-Level Expert Group on AI (HLEGAI) che ha prodotto linee guida e raccomandazioni destinate a tradursi in strumenti normativi5.
Il 21 aprile 2021 la Commissione ha pubblicato il nuovo EU Artificial Intelligence Act (d’ora in poi AIA)6. L’AIA è un regolamento non una direttiva quindi come il GDPR entrerà in vigore ad una data determinata in tutti i 27 paesi dell’unione e come per il GDPR, essendo una proposta ci vorranno un certo numero di anni perché entri in vigore (4 anni più 2 di implementazione).
Luciano floridi che ha fatto parte del HELGAI -nel suo ‘The European Legislation on AI: a Brief Analysis of its Philosophical Approach’- spiega come l’UE sarà l’unico interlocutore per qualunque soggetto operi nell’Unione indipendentemente dal paese di origine e dal paese dell’Unione dove opera. Secondo il cosiddetto Brussel Effect la normativa europea dovrebbe diventare per le compagnie uno standard globale, influenzando anche la legislazione cinese e statunitense. Secondo Floridi il cuore della norma è ‘verde’ con l’obiettivo di uno sviluppo digitale di una società sostenibile dal punto vista climatico e ambientale.
Dal punto di vista etico e indubbiamente pratico appare prioritario mitigare i rischi dell’I.A. su cui -guarda caso- la proposta dovrebbe essere migliorata, si parla di ‘proteggere i consumatori’ -non i cittadini- e di ‘Develop a redress process or mechanism to remedy or compensate for a wrong”, insomma mitigare i rischi implica rimediare agli (inevitabili) errori e guasti prodotti dalla tecnologia. Quanto alle responsabilità sono in capo a chi progetta, produce, commercializza e usa i dispositivi di I.A.; Floridi sottolinea in quanto proposta il testo del regolamento sia perfettibile.
Si scopre come la definizione dei rischi sia necessariamente vaga e come sia ‘rischiosa’ una applicazione troppo draconiana della classificazione dei rischi; insomma una strategia per tentativi ed errori a fronte di processi la cui soglia di imprevedibilità è troppo vicina per poter costruire strategie di controllo efficaci.
Non a caso vengono definite come idealistiche alcune aspettative e prescrizioni, come quelle che riguardano i database usati per ‘addestrare’ le intelligenze. “Training, validation and testing data sets should be sufficiently relevant, representative and free of errors and complete in view of the intended purpose of the system”. Se queste sono le osservazioni di chi comunque ha collaborato alla redazione del documento ci si rende conto di quanto siamo lontani dal poter definire una normativa efficace.
Rilevante è l’osservazione seguente: se si considerano A.I.A. GDPR il Digital Services Act, Digital Market Act, Data Governance ACT e l’annunciato European Health Data Space Act l’UE si arriverebbe a sviluppare una sorta di ‘costituzionalismo digitale’7.
La posta in gioco secondo Floridi non è più spingere verso l’innovazione digitale, ma governarla dando origine ad una nuova morfologia del potere e ad una nuova forma della sovranità. Rispetto ai rischi infine considerati, quelli che derivano dall’importazione di prodotti e servizi da paesi con una legislazione meno stringente, verso i quali viene spinta la produzione dei sistemi di I.A.; ciò appare in contraddizione con l’ottimistica visione della funzione egemonica della normativa europea.
In realtà il quadro che Floridi offre è esattamente quello che abbiamo delineato negli articoli precedenti, l’impossibilità di tenere realmente sotto controllo un settore in crescita esplosiva dal punto di vista della dimensione della complessità degli algoritmi. Il rischio è quello di una accentuata obsolescenza delle norme una volta specificate e calate nel concreto. Resta vero il fatto che si presenta una nuova morfologia del potere e nuove forme della sovranità e dei conflitti che vi afferiscono, di sicuro una nuova costituzione materiale si va costruendo a livello europeo più cogente di quella formale adombrata dai sei provvedimenti sul digitale.
Quest’ultima considerazione ripropone l’interrogativo su quale trasformazione della democrazia, se così si può definire, è in corso in Europa, nell’Unione: della sua produzione normativa ci stiamo occupando con attenzione e continuità sulle pagine di questo sito, della democrazia reale non c’è molto altro da dire dopo quello che è già stato detto, se non aggiungere particolari ad un quadro desolante. Ci dobbiamo invece interrogare -nella nuova costituzione materiale che emerge dalla convergenza delle tecnologie del digitale, delle biotecnologie e della finanza- su quali forme assumeranno la partecipazione, il conflitto e la rappresentanza, ai diversi livelli della formazione sociale: dai territori alle nazioni, all’Unione. Per ora partecipazione e conflitto appaiono depotenziati.
Una volta descritta la soggettività del capitale chiediamoci se e quali soggettività antagoniste si sviluppano dialetticamente nell’iper-sviluppo tecnologica.
La composizione sociale è in rapida trasformazione e non è certo trainata dal conflitto, che pure nelle sue forme più molecolari e diffuse non è certo scomparso dalla scena, mentre forme di movimenti d’opinione globali si ripresentano sulla scena mondiale come i Fridays for future8. Senza alcun determinismo – come dice Franco Ferrari nel suo articolo9- indubbiamente tale trasformazione non può che incidere sulle forme e la dimensione dei conflitti. Possiamo prendere un esempio fra i tanti che riguarda l’organizzazione del lavoro nel sistema bancario10 dove secondo la gran parte dei dirigenti bancari globali intervistati entro 5 anni il modello di business basato sulle filiali fisiche sarà “morto”, secondo una dinamica che le condizioni imposte dalla pandemia Covid-19 hanno accelerato. Soprattutto in Italia, dove solo nel 2020 sono stati chiusi 831 sportelli, secondo i dati della Banca d’Italia. A oggi, infatti, sono presenti 23.481 filiali in Italia, una ogni 2.522 abitanti, con 2.802 comuni (su 7.904) senza un ufficio Bancario. Cruciale è il ruolo dell’Intelligenza Artificiale per ‘personalizzare’ il servizio e delle connessioni internet a banda larga per garantire continuità e sicurezza del servizio.
La riconversione del sistema bancario verso il digitale non ha effetti solo sull’organizzazione del lavoro, ma incide sui rapporti sociali, sulla mediazione operata dalle forme di circolazione della moneta, determina una nuova struttura e gerarchia delle forme di controllo sociale diretto ed indiretto. La posta in gioco è di straordinaria importanza, il processo di trasformazione riguarda non solo la dematerializzazione dei servizi bancari tradizionali, ma anche la realizzazione di nuovi servizi finanziari online e l’emissione di moneta digitale da parte delle banche centrali. La Cina è il luogo dove più alto è il livello di scontro sulla seconda tipologia e più avanzata è la sperimentazione della terza. Dopo il caso di Jack Ma, il governo Cinese cerca di riportare sotto controllo i servizi finanziari al dettaglio on line, ponendo dei tetti e riportandoli ad una forma ‘bancaria’11.
Il caso cinese presenta nella sua forma più pura ed evidente la rilevanza sociale della digitalizzazione della moneta, del denaro nelle sue funzioni in termini di circolazione, unità di misura e tesaurizzazione.
Se possiamo parlare di una nuova costituzione materiale delle nostre società che il digitale -con il suo cuore nell’I.A.- induce dobbiamo pensare ad una vera propria mutazione antropologica in corso, che è sempre connessa alle trasformazioni profonde delle formazioni sociali; questo ci riporta ai grandi interrogativi sulla loro composizione politica e culturale, con il nesso dialettico che le lega alla composizione tecnica del rapporto di capitale. Nascita e evoluzione delle forme di soggettività conflittuali con i rapporti sociali dominanti costituiscono il nodo cruciale della grande trasformazione che stiamo vivendo. Il ruolo dei social media è centrale per questa mutazione, il ruolo è talmente rilevante da alimentare un costante braccio di ferro con governi, agenzie di regolazione e non solo dal punto di vista della tassazione dei profitti.
Se lo sguardo si sposta dalla soggettività del capitale alle soggettività sociali alle loro espressioni politiche culturali, al loro manifestarsi nella trama della nuova costituzione materiale, ci rendiamo conto dell’enorme lavoro da fare per la costruzione di colazioni sociali in grado di confrontarsi con la ‘democrazia reale’ con le forme di egemonia culturale che la sorreggono e la informano.
La pandemia da Sars-Cov-2 nelle sue diverse ondate ha spezzato il ritmo della vita quotidiana, imposto vincoli ai legami sociali; mentre accentuava le diseguaglianze ha dimostrato la fragilità dei legami, delle relazioni interpersonali e sociali, dei percorsi di vita già presenti nella cosiddetta normalità. In tutti i suoi nessi con la crisi climatica e ambientale, con il ruolo giocato dall’industria e dalla ricerca farmaceutica nella produzione dei vaccini, ha riportato l’attenzione al come la vita del genere umano e del complesso delle specie viventi si riproduce nelle nostre società. Parafrasando, nell’epoca dell’utopia- o della distopia- della riproducibilità tecnica della vita, sono emersi tanto la potenza quanto i limiti e la fragilità di questa riproduzione, si è riproposto il paradosso di questa potenza, della sua volontà di potenza, tra la funzione salvifica e quella distruttiva della tecnologia, dei sistemi sociotecnici, biotecnici innervati dal digitale.
Complessità, contraddizioni e fragilità dei tipi antropologici entro le nostre società, le cui manifestazioni ci devono spingere a comprendere i meccanismi profondi che guidano il formarsi dei comportamenti individuali e collettivi, che guidano le scelte tra l’aprirsi ed essere solidali, agendo di conseguenza anche in forma conflittuale verso lo stato delle cose, o al contrario rinchiudersi sempre di più, agendo il conflitto nei confronti dei nostri simili, perdendo di vista le cause e le ragioni della nostra condizione. Le condizioni concrete della nostra vita quotidiana si proiettano verso orizzonti futuri e distanti che comunque percepiamo che comunque hanno effetti sul presente ed hanno effetti dentro di noi. Siamo in una condizione che ha effetti profondi, tutti da indagare e comprendere sulle forme attuali e possibili del conflitto, della partecipazione e della rappresentanza a tutti i livelli -dal locale al globale- ed in tutte le condizioni.
C’è un filo rosso che lega le riflessioni che stiamo conducendo in questi mesi da diversi punti di vista e su diversi oggetti di analisi che arrivano a comporre un mosaico che approssima una descrizione di una realtà complicata e mutevole.
- https://transform-italia.it/scienza-razionalita-capitalistica-e-forme-di-conoscenza/ [↩]
- https://publications.iass-potsdam.de/pubman/faces/ViewItemOverviewPage.jsp?itemId=item_4408890 [↩]
- https://ilmanifesto.it/biopirateria-crimine-contro-lumanita/ [↩]
- https://patentscope.wipo.int/search/en/detail.jsf?docId=WO2020060606 [↩]
- https://digital-strategy.ec.europa.eu/en/library/policy-and-investment-recommendations-trustworthy-artificial-intelligence https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai [↩]
- Proposal for a regulation of the European Parliament and the Council laying down harmonised rules on Artificial Intelligence (Artificial Intelligence Act) and amending certain Union legislative Acts[↩]
- https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3506692 [↩]
- https://fridaysforfuture.org/ [↩]
- https://transform-italia.it/litalia-e-di-destra-se-manca-la-sinistra/ [↩]
- https://www.lastampa.it/topnews/economia-finanza/2021/06/29/news/l-universo-del-credito-visto-dai-banchieri-la-banca-fisica-destinata-a-scomparire-in-5-anni-1.40442662 [↩]
- https://www.bloomberg.com/news/articles/2021-06-24/how-xi-and-the-ccp-turned-on-jack-ma-ant-and-china-s-fintech-companies?srnd=premium-europe [↩]