Con l’enciclica ‘Magnifica humanitas’ papa Prevost porta la Chiesa cattolica ed il suo papato nel confronto e scontro che necessariamente si fa sempre più accesso, profondo e articolato sulla natura della trasformazione radicale operata da quell’insieme di tecnologie digitale, da quell’ecosistema tecnologico che va sotto il nome di Intelligenza Artificiale (AI acronimo inglese). Lo fa certo con il linguaggio ed i riferimenti dottrinari della Chiesa, entrando tuttavia nel merito del ruolo della scienza e della tecnologia nella trasformazione sociale dell’AI in particolare. Il titolo recita Sulla custodia della persona umana nel tempo dell’intelligenza artificiale, mettendo l’accento sull’intera condizione della persona umana, dell’umanità a fronte dei cambiamenti indotti dall’AI; la ‘custodia della persona umana’ ci ricorda la ‘cura della casa comune’ della lettera enciclica Laudato si’ di papa Francesco che a sua volta rimandava tra le altre all’enciclica Pacem in terris di papa Giovanni XXIII. La transizione tecnologico-digitale, la crisi climatico-ecologica, la transizione energetica e la guerra si richiamano l’un l’altra nell’intreccio delle crisi, della policrisi che definisce la condizione attuale dell’umanità.

Nella introduzione della Laudato si’ si leggeva:

13. La sfida urgente di proteggere la nostra casa comune comprende la preoccupazione di unire tutta la famiglia umana nella ricerca di uno sviluppo sostenibile e integrale, poiché sappiamo che le cose possono cambiare. Il Creatore non ci abbandona, non fa mai marcia indietro nel suo progetto di amore, non si pente di averci creato. L’umanità ha ancora la capacità di collaborare per costruire la nostra casa comune. Desidero esprimere riconoscenza, incoraggiare e ringraziare tutti coloro che, nei più svariati settori dell’attività umana, stanno lavorando per garantire la protezione della casa che condividiamo. Meritano una gratitudine speciale quanti lottano con vigore per risolvere le drammatiche conseguenze del degrado ambientale nella vita dei più poveri del mondo. I giovani esigono da noi un cambiamento. Essi si domandano com’è possibile che si pretenda di costruire un futuro migliore senza pensare alla crisi ambientale e alle sofferenze degli esclusi.
14. Rivolgo un invito urgente a rinnovare il dialogo sul modo in cui stiamo costruendo il futuro del pianeta. Abbiamo bisogno di un confronto che ci unisca tutti, perché la sfida ambientale che viviamo, e le sue radici umane, ci riguardano e ci toccano tutti. Il movimento ecologico mondiale ha già percorso un lungo e ricco cammino, e ha dato vita a numerose aggregazioni di cittadini che hanno favorito una presa di coscienza. Purtroppo, molti sforzi per cercare soluzioni concrete alla crisi ambientale sono spesso frustrati non solo dal rifiuto dei potenti, ma anche dal disinteresse degli altri. Gli atteggiamenti che ostacolano le vie di soluzione, anche fra i credenti, vanno dalla negazione del problema all’indifferenza, alla rassegnazione comoda, o alla fiducia cieca nelle soluzioni tecniche. Abbiamo bisogno di nuova solidarietà universale. Come hanno detto i Vescovi del Sudafrica, «i talenti e il coinvolgimento di tutti sono necessari per riparare il danno causato dagli umani sulla creazione di Dio»((https://www.vatican.va/content/francesco/it/encyclicals/documents/papa-francesco_20150524_enciclica-laudato-si.html#_ftn22.)) Tutti possiamo collaborare come strumenti di Dio per la cura della creazione, ognuno con la propria cultura ed esperienza, le proprie iniziative e capacità¹.

Ripercorrere l’evoluzione del pensiero della Chiesa -come si usa dire- negli oltre sessant’anni che ci separano dalla Pacem  in Terris ci fa attraversare gli straordinari cambiamenti che si sono succeduti sino ad oggi, a partire da un periodo storico caratterizzato dalla guerra fredda, dal processo di decolonizzazione e contemporaneamente  dal massimo sviluppo dello stato sociale, nelle sue varie versioni radicate nel modello di produzione tayloristico; l’enciclica vien pubblicata l’11 aprile  1963, pochi mesi dopo la crisi dei missili di Cuba che si aprì con il blocco navale militare imposto dagli USA -presidenza Kennedy. Dopo un lungo periodo di fitti negoziati, il presidente degli Stati Uniti d’America John Fitzgerald Kennedy e Chruščёv giunsero a un compromesso: ufficialmente i sovietici avrebbero smantellato le loro armi a Cuba e le avrebbero riportate in patria in cambio del pubblico impegno statunitense a non tentare una nuova invasione dell’isola; in segreto, gli Stati Uniti avrebbero anche acconsentito a smantellare i loro missili Jupiter in Italia e in Turchia. Gli Stati Uniti tolsero quindi il blocco di Cuba il 20 novembre 1962, una volta confermato il ritiro di tutti i missili sovietici dall’isola. La vicenda mise in evidenza la necessità di una rapida, chiara e diretta linea di comunicazione riservata tra Washington e Mosca, e condusse infine all’istituzione della “linea rossa” tra le due capitali².

Sul tema della guerra, ritroviamo lo scontro tra il papa statunitense Prevost ed il Presidente degli USA Trump, che investe pesantemente il mondo cattolico statunitense, che sino allo scoppio della polemica si ritrovava in posizioni opposte verso la presidenza. Fa parte dell’analisi del processo storico, delle trasformazioni elle società ai vari livelli, prendere in considerazione le trasformazioni culturali e sociali, il posizionamento nei confronti delle ‘grandi questioni’ del mondo cattolico per la sua rilevanza in una parte del mondo, così come di tutti gli aggregati culturali religiosi e politici, oltre a quello dei diversi paesi. Non è certo l’obiettivo di queste note, così come non lo è l’analisi dell’ultima enciclica -ed in generale del posizionamento della chiesa cattolica- rispetto a tutte le grandi questioni, le contraddizioni ed i conflitti che attraversano il complesso delle nostre società. Si tratta di evidenziarne alcuni contenuti ritenuti fondanti per il confronto e l’orientamento innanzitutto nel mondo cattolico e quindi per l’influenza che questo può avere nello scontro politico, culturale e sociale laddove questo mondo esercita una sia influenza. A queste prime note si affiancano altri articoli nella rivista e altri seguiranno per approfondirne i contenuti e osservare le conseguenze dalla sua pubblicazione.
Per questo sottolineiamo alcuni passaggi del testo dell’enciclica.

Nell’introduzione.

Le scoperte scientifiche

Alla luce di queste due icone, lo Spirito Santo oggi ci interpella circa il rapporto con la tecnica e con la rivoluzione digitale in corso. Le scoperte scientifiche sono un talento consegnato all’umanità perché essa lo faccia fruttare (cfr Mt 25,14-30). La tecnologia può curare, connettere, educare, custodire la Casa comune; ma può anche dividere, scartare, generare nuove ingiustizie. In astratto, essa non è di per sé una soluzione ai problemi dell’umanità, come non è di per sé un male; ma, concretamente, non è neutrale, perché assume il volto di chi la pensa, la finanzia, la regola, la usa. Per questo la prima scelta non è tra un “sì” o un “no” alla tecnologia, ma tra edificare Babele o ricostruire Gerusalemme: tra un potere che pretende di dominare il cielo e un popolo che, alla presenza di Dio, si mette a lavorare unito per rialzare le mura della convivenza fraterna³.

L’illusione della tecnica.

In secondo luogo, edificare nel bene significa accettare il limite e la fragilità dell’umanità senza considerarli un errore da correggere. Oggi, il desiderio di pienezza dell’essere umano rischia di essere deviato verso mete ingannevoli: l’illusione di una tecnica che promette di liberarci da ogni fragilità o modelli di benessere che “lasciano indietro” interi popoli. Non di rado, riponiamo la speranza in un potenziamento senza limiti, in forme di progresso che possono esacerbare le disuguaglianze, in soluzioni immediate incapaci di sanare le ferite dei popoli. Così, mentre alcuni inseguono la chimera di un’autoaffermazione illimitata, molti restano privi del necessario⁴.

Sussidiarietà, tensioni e differenze

A ciascuno il suo tratto di muro: scienziati e ricercatori, imprenditori e lavoratori, educatori e legislatori, società civile, movimenti popolari e comunità di fede. Questa è la logica della sussidiarietà, che valorizza la cooperazione tra generazioni, tra popoli, tra discipline e culture come via maestra per far crescere stabilità, prosperità e pace. Le tensioni e le differenze non devono intimorire: possono diventare energie creative quando sono orientate da una responsabilità condivisa⁵.

Il primo capitolo ripercorre “il cammino attraverso il quale la Dottrina sociale della Chiesa ha preso forma nel Magistero recente dei Papi e del Concilio Vaticano II, per metterne in luce il carattere dinamico. In ogni epoca, infatti, le res novae sollecitano questo insegnamento a misurarsi con le domande della storia alla luce della Verità rivelata. Perciò anche l’intelligenza artificiale va compresa non come un’appendice tematica, o come un’emergenza da gestire, ma come una trasformazione che interpella dall’interno le categorie della Dottrina sociale e ne domanda un ulteriore sviluppo, nella fedeltà al Vangelo.” Una riepilogazione in cui gioca un ruolo essenziale il Concilio Vaticano II che ha operato una rottura nel posizionamento della chiesa nel mondo moderno, avviato da Giovanni XXIII, gestito e concluso da Paolo VI di cui vengono ricordate le due encicliche anch’esse fondamentali: la Gaudium et Spes⁶ e la Populorum Progressio⁷.

L’incipit della Populorum Progressio è estremamente significativo: “Lo sviluppo dei popoli, in modo particolare di quelli che lottano per liberarsi dal giogo della fame, della miseria, delle malattie endemiche, dell’ignoranza; che cercano una partecipazione più larga ai frutti della civiltà, una più attiva valorizzazione delle loro qualità umane; che si muovono con decisione verso la meta di un loro pieno rigoglio, è oggetto di attenta osservazione da parte della chiesa. All’indomani del Concilio Ecumenico Vaticano II, una rinnovata presa di coscienza delle esigenze del messaggio evangelico le impone di mettersi al servizio degli uomini, onde aiutarli a cogliere tutte le dimensioni di tale grave problema e convincerli dell’urgenza di una azione solidale in questa svolta della storia dell’umanità.”

Chi ha vissuto quegli anni ricorda quale forza di innovazione il concilio rappresentò e quanto forte fosse lo scontro tra le diverse anime della chiesa; del resto nei decenni successivi il ruolo di Giovanni Paolo II nella crisi dei paesi socialisti costituisce un’altra indicazione del ruolo delle istituzioni religiose nella costruzione degli orientamenti politici. Potremmo citare il ruolo degli evangelici in Brasile nel sostegno alla destra oltre che negli USA o l’appoggio della Chiesa ortodossa russa al regime putiniano, da questo ricercato e rivendicato nella costruzione di una propria legittimazione e di una identità per la nazione.

Nelle trasformazioni della dottrina della Chiesa cattolica come è ovvio vive la tensione tra il mantenimento della coerenza tra i suoi principi fondamentali e l’adeguamento, l’innovazione del proprio pensiero e della propria azione, così come la relazione e la distinzione nei confronti della politica. “A partire da questo duplice riconoscimento – l’autonomia delle realtà terrene e la distinzione delle competenze tra comunità ecclesiale e politica – si comprende meglio l’orientamento che il Concilio Vaticano II ha consegnato alla Chiesa nel suo rapporto con il mondo⁸.

Nel ripercorrere tutto lo sviluppo della dottrina sociale a proposito della economia di mercato e della crsi della democrazia si legge.

Nel 20° anniversario della Populorum progressio, con l’Enciclica Sollicitudo rei socialis, Giovanni Paolo II torna sulla piaga del sottosviluppo e riconosce il fallimento di molti tentativi di colmare il ritardo economico dei popoli poveri e di accompagnarne l’industrializzazione, constatando la persistenza e talvolta l’allargamento del divario tra Nord e Sud del mondo⁹. Denuncia inoltre meccanismi economici, finanziari e commerciali che, gestiti dai Paesi più forti, favoriscono strutturalmente i loro interessi e soffocano le economie più deboli, e chiede che siano sottoposti anche a un serio giudizio etico, non solo tecnico¹⁰. In questo contesto la solidarietà è compresa come corresponsabilità concreta tra persone, popoli e nazioni, una forma di amicizia sociale o carità politica orientata alla “civiltà dell’amore” invocata da Paolo VI¹¹.

39. Nel centenario della Rerum novarum, l’Enciclica Centesimus annus offre infine un discernimento sul crollo del sistema sovietico e sull’affermarsi della democrazia e dell’economia di mercato. San Giovanni Paolo II rilancia il messaggio di Pio XII secondo cui la Chiesa può apprezzare la democrazia nella misura in cui garantisce la partecipazione effettiva dei cittadini, consente di scegliere e sostituire pacificamente i governanti e impedisce che il potere sia monopolizzato da élite ristrette mosse da interessi particolari o ideologici¹². Allo stesso modo riconosce il potenziale positivo del mercato e dell’iniziativa privata solo se restano subordinati alla legge morale e orientati dal principio di solidarietà, senza sacrificare i più deboli alla logica del profitto¹³. Per la Dottrina sociale della Chiesa rimane così un’eredità particolarmente attuale: l’affermazione del legame tra dignità del lavoro, solidarietà tra i popoli e valutazione critica di democrazia ed economia di mercato continua a offrire criteri per giudicare le nuove forme di sfruttamento, di esclusione e di crisi della rappresentanza politica”¹⁴.

Infine sulla crescita delle diseguaglianze e il dilagare delle guerre. In Laudato si’ Francesco offre la prima grande elaborazione sistematica della crisi ambientale in una Enciclica sociale, mostrando che essa non è una questione settoriale, ma l’aspetto ecologico della crisi socio-economica contemporanea. La sua proposta di ecologia integrale tiene insieme la cura della Casa comune e l’opzione preferenziale per i poveri e afferma con forza che «tanto il grido della terra quanto il grido dei poveri»  non possono essere separati. In questa luce, tornano in primo piano la destinazione universale dei beni, la critica a un paradigma tecnocratico che pretende di ridurre tutto a oggetto di dominio, la difesa del lavoro umano minacciato dalla logica dello scarto, l’esigenza di una giustizia tra le generazioni e il richiamo a un dialogo vero tra politica ed economia, perché nessuna delle due si chiuda nella propria autoreferenzialità.

44. Di fronte alla disgregazione del tessuto sociale, alla “guerra mondiale a pezzi”, alla globalizzazione individualista e alle conseguenze della pandemia sui legami comunitari, Francesco rilancia in Fratelli tutti il sogno di un’umanità che sappia scegliere l’amicizia sociale e la fraternità universale. Propone la cultura dell’incontro, una “politica migliore” capace di cercare il bene comune, percorsi di riconciliazione e un mondo che assicuri «terra, casa e lavoro a tutti». Con Dilexit nos, infine, mostra che questi grandi impegni sociali non sono separabili dal rapporto personale con Cristo: tornando alla Parola di Dio, ricorda che la risposta più vera all’amore del Cuore di Gesù è l’amore concreto per i fratelli e afferma che «non c’è gesto più grande che possiamo offrirgli per ricambiare amore per amore».

È del tutto evidente nel ripercorrere lo sviluppo storico della dottrina sociale della chiesa una ricerca del bilanciamento tra la critica agli attuali rapporti economici e sociali e il riconoscimento dell’economia di mercato come fondamento dei rapporti sociali, economici e politici’. Il capitolo successivo è dedicato alla definizione dei fondamenti della dottrina sociale.

“Insieme a una maggiore consapevolezza del valore di ogni persona umana e dei suoi diritti, è cresciuto anche il riconoscimento dei diritti delle minoranze. Eppure, rimane ancora molta strada da fare perché, in tutto il mondo, siano davvero garantiti in modo uguale i diritti di una grande parte, cioè delle donne. È un dato di fatto che «doppiamente povere sono le donne che soffrono situazioni di esclusione, maltrattamento e violenza, perché spesso si trovano con minori possibilità di difendere i loro diritti». Non basta dunque affermare a parole che uomini e donne hanno la stessa dignità e gli stessi diritti; è necessario che questo si traduca in scelte concrete, nelle leggi, nell’accesso al lavoro, all’istruzione, alle responsabilità sociali e politiche, nel modo in cui la società ascolta e valorizza il contributo delle donne. Finché questo divario persisterà, non potremo dire che la società riconosce davvero, fino in fondo, che le donne hanno la stessa dignità degli uomini.

58. Sono le persone concrete che contano, ciascuna di loro e le loro famiglie. I movimenti sociali, le grandi proclamazioni politiche a favore del popolo e le ideologie comunitarie non servono a nulla se non finiscono per orientarsi alla promozione delle persone – uomini e donne – con i loro diritti inalienabili. Allo stesso modo, non basta esaltare la libertà individuale o l’iniziativa privata, se poi si accetta che una moltitudine di persone continui a vivere senza un lavoro dignitoso, senza tutele, senza accesso ai beni fondamentali¹⁵.

In sintesi i principi fondamentali che sono definiti sono i seguenti.

Il principio del bene comune, Il principio della destinazione universale dei beni, Il principio di sussidiarietà, Il principio di solidarietà, Il principio della giustizia sociale.

Sulla destinazione universale dei beni leggiamo.
“Oggi, tra i beni che sono universalmente destinati a tutti, dobbiamo annoverare anche le nuove forme di proprietà: brevetti, algoritmi, piattaforme digitali, infrastrutture tecnologiche, dati. In un contesto in cui la ricchezza delle nazioni dipende sempre più da conoscenze e tecnologie, quando questi beni restano concentrati nelle mani di pochi, senza adeguate forme di condivisione e di accesso, si crea un nuovo squilibrio che contraddice la destinazione universale dei beni e alimenta il divario tra inclusi ed esclusi, tra chi può partecipare alla rivoluzione digitale e chi ne rimane ai margini. Inoltre, la cura della Casa comune e la responsabilità verso i poveri e verso le generazioni future chiedono che l’uso dei beni del creato e delle nuove possibilità offerte dalla tecnica sia regolato in modo tale da rispettare l’ambiente, evitare sprechi e nuove forme di saccheggio.”

Per concludere infine con Lo sviluppo umano integrale. “Nell’Enciclica Populorum progressio, Paolo VI afferma che lo sviluppo è autentico solo se è “integrale”, vale a dire «volto alla promozione di ogni uomo e di tutto l’uomo». [110] Nei decenni successivi, la Dottrina sociale della Chiesa ha ripreso e approfondito questa espressione per indicare il modo concreto in cui i grandi principi – dignità, bene comune, destinazione universale dei beni, sussidiarietà, solidarietà, giustizia sociale – trovano attuazione nella storia. Per “sviluppo umano integrale” intendiamo un processo in cui la crescita delle persone e dei popoli riguarda tutte le dimensioni dell’esistenza e apre il futuro anche alle generazioni che verranno”¹⁶.

I due capitoli successivi sono Tecnica e dominio. la grandezza della persona umana davanti alle promesse dell’IA e Custodire l’umano nella trasformazione. Verità, lavoro, libertà.

Fondante è la critica al Paradigma tecnocratico in genrale. “Nell’Enciclica Laudato si’ Papa Francesco denunciava la crescente affermazione di un paradigma tecnocratico nel mondo globalizzato: la tendenza a lasciare che la logica dell’efficienza, del controllo e del profitto governi da sola le scelte personali, sociali ed economiche. Così appare con più evidenza che la tecnica non è un semplice strumento e che, quando si fa criterio, finisce per stabilire che cosa conta e che cosa può essere scartato, riducendo la creazione a oggetto di sfruttamento e le persone a ingranaggi di un sistema da rendere sempre più performante. Questo paradigma si è esteso rapidamente negli ultimi anni, anche per effetto della diffusione dell’intelligenza artificiale, delle scienze cognitive, della nanotecnologia, della robotica e della biotecnologia. Di per sé, tali innovazioni possono diventare un grande aiuto per lo sviluppo umano integrale e per la cura della Casa comune. Ma, proprio per il loro potere, possono agire come un acceleratore del paradigma tecnocratico e perciò hanno bisogno di un nuovo quadro spirituale, etico e politico. Più potente non significa necessariamente migliore. In questo senso, rimangono attuali le parole di Romano Guardini: «L’uomo moderno non è stato educato al retto uso della potenza»”¹⁷.

Sono importanti due avvertenze.

• È opportuno premettere due considerazioni: la prima è che qualsiasi affermazione sull’IA rischia di diventare obsoleta in breve tempo, data l’impressionante velocità di sviluppo di questi sistemi. La seconda è che tutti noi, compresi coloro che li progettano, conosciamo poco del loro effettivo funzionamento. Le moderne intelligenze artificiali sono infatti più “coltivate” che “costruite”
• Non è possibile dare una definizione univoca e completa dell’IA. Ciò che possiamo affermare è che occorre evitare l’equivoco di equiparare questa “intelligenza” a quella umana. Questi sistemi imitano alcune funzioni dell’intelligenza umana.

Ed una constatazione. “Allargando lo sguardo all’impiego dell’IA nelle nostre società, constatiamo che essa è ormai presente nei processi decisionali in tutti gli ambiti e a diversi livelli: nella comunicazione, nella gestione, nel controllo. I vantaggi in termini di efficienza e le potenzialità di miglioramento di alcuni servizi sono evidenti; tuttavia, un’adozione rapida e acritica ci espone a diversi rischi, tra cui quello di sottovalutarne l’impatto ambientale. Gli attuali sistemi di IA richiedono grandi quantità di energia e acqua, incidono in modo significativo sulle emissioni di anidride carbonica e consumano risorse in maniera intensiva”¹⁸.

E alcune considerazioni.
“Da questo deriva una conseguenza semplice ma stringente: non possiamo considerare l’IA moralmente neutra. In realtà, ogni artefatto tecnico porta con sé scelte e priorità: ciò che misura, ciò che ignora, ciò che ottimizza e il modo in cui classifica persone e situazioni. Se un sistema viene concepito o impiegato in modo da trattare alcune vite come meno degne, o da escluderle senza possibilità di appello, esso non è un semplice strumento ‘da usare bene’: introduce già un criterio che contraddice la dignità inalienabile della persona”¹⁹.

“Non possiamo limitarci a invocare la moralizzazione della macchina, il cosiddetto “allineamento” dell’IA a valori umani, senza avere il coraggio di porre una ulteriore condizione: la possibilità di discutere il codice etico da usare, sottoponendolo a criteri di giustizia sociale condivisa. Altrimenti, chi controlla l’IA imporrà la propria visione morale, che diventerà l’infrastruttura invisibile dei sistemi. Non serve un’IA più morale, se questa morale è decisa da pochi. Serve una politica più presente, capace di rallentare dove tutto accelera e di proteggere gli spazi in cui le comunità possono ancora partecipare e interrogarsi”²⁰.

La parola e l’obiettivo fondamentale, disarmare

“Vorrei, infine, usare una parola che mi sta a cuore: ‘disarmare’. Disarmare l’IA significa sottrarla alla logica della competizione armata, che oggi non è più solo militare ma economica e cognitiva. È la corsa all’algoritmo più performante e alla banca dati più vasta, al fine di consolidare un vantaggio geopolitico o commerciale su tutti gli altri. Disarmare vuol dire rompere questa equivalenza tra potenza tecnica e diritto di governare. Disarmare non significa rinunciare alla tecnologia, ma impedirle di dominare l’umano. Significa sottrarla ai monopoli, renderla discutibile, contestabile, e quindi abitabile, restituendola alla pluralità delle culture umane e delle forme di vita. Il compito, oggi, non è solo etico o tecnico: è ecologico nel senso più radicale, perché chiama in causa una nuova dimensione della nostra Casa comune. L’IA è già ambiente in cui siamo immersi e potere con cui dobbiamo fare i conti. Per questo, non basta regolarla: va disarmata e resa ospitale”²¹.

Lo sviluppo dell’AI è proiettato su differenti visioni del possibile sviluppo dell’uomo definite come transumanesimo e il postumanesimo. “Il transumanesimo e il postumanesimo comprendono al loro interno una pluralità di correnti e sensibilità, ed è difficile poterne dare una descrizione univoca. Possono essere paragonati a un arcipelago di isole concettuali differenti, collegate però dal medesimo mare di presupposti: la centralità della tecnica e il sogno di oltrepassare i limiti della condizione umana. In generale, il transumanesimo immagina un potenziamento dell’essere umano attraverso le tecnologie (biomedicina, ingegneria del corpo, dispositivi, algoritmi), con l’aspirazione a incrementare prestazioni e capacità. Il postumanesimo, soprattutto nelle sue versioni più radicali, si spinge oltre: critica l’antropocentrismo e prospetta una forma di ibridazione tra essere umano, macchina e ambiente, fino a immaginare un passaggio di soglia in cui l’umanità supererà se stessa entrando in un nuovo stadio evolutivo. Anche quando queste ipotesi restano in larga parte speculative, esse acquistano rilevanza, perché modificano l’immaginario collettivo e, di conseguenza, orientano le scelte sociali, economiche e politiche”²².

Il cyborg sociale e globale.

Nelle nostre analisi dell’uso delle tecnologie entro le crisi molteplici attraversate dalle società, dalla formazione sociale globale nel loro insieme, possiamo osserviamo una selezione e mutazione applicata al corpo sociale complessivo, attraverso una sorta di darwinismo sociale, che opera una progressiva , drammatica selezione tra le popolazione, una gerarchizzazione delle possibilità di vita, attraverso una diversa possibilità di accesso ai dispositivi tecnologici socialmente articolati, vere e proprie protesi del corpo individuale e collettivo. La mediazione tecnologica si applica sempre di più alla riproduzione non solo degli esseri umani, delle popolazioni ma anche ai sistemi ecologici, alle mutazioni climatiche; l’interruzione delle relazioni ecologiche, entro e tra i diversi sistemi ed ambienti, richiede per la loro riproduzione, per la riproduzione delle popolazioni umane che li abitano, processi, inserti e dispositivi artificiali che ne costruiscano una continuità artificiale. Ciò implica interventi sempre più pesanti nei processi ecologici e climatici, una coproduzione di ambienti sociali e naturali, il cui accesso è necessariamente fortemente selettivo.
Le tecnologie dell’Intelligenza Artificiale costituiscono il supporto necessario e ricercato per governare quella complessità l’artificializzazione delle condizioni di riproduzione della vita sul nostro pianeta.
Da questo punto di vista leggiamo i due capitoli dell’enciclica Custodire l’umano nella trasformazione. Verità, lavoro, libertà – La cultura della potenza e la civiltà dell’amore. Nei due capitoli si articola l’analisi degli effetti dell’introduzione dell’AI nelle relazioni sociali, a tutti i livelli.

Sotto il titolo La verità come bene comune si analizzano le conseguenze dell’utilizzo sempre più pervasivo dell’A.I .  sul discorso pubblico, sul funzionamento della democrazia, sull’educazione ei processi formativi. “. L’uso delle piattaforme digitali e dei sistemi di IA accelera i profondi cambiamenti nella comunicazione pubblica e politica. Strumenti che potrebbero favorire il confronto e la partecipazione vengono spesso impiegati per costruire narrazioni distorte e confondere i confini tra vero e falso, mescolando dati e opinioni. La disinformazione non nasce con l’IA, ma trova oggi in essa un moltiplicatore potente. La possibilità di manipolare contenuti, immagini e filmati espone i cittadini a prospettive parziali o fuorvianti. Il problema riguarda la dimensione culturale e morale, poiché la qualità della comunicazione pubblica dipende direttamente dalla fiducia sociale e incide su di essa. Un’informazione veritiera, infatti, non nasce da un controllo centralizzato o automatizzato. Nel discorso pubblico, la verità dei fatti possiede una dimensione razionale, poiché richiede verifica, riscontro delle fonti e responsabilità argomentativa; ma è ancor più relazionale: si costruisce attraverso legami di fiducia e pratiche condivise, in un confronto onesto con gli altri e con il mondo. Solo la ricerca condivisa della verità dei fatti, assunta come bene comune, può fondare una comunicazione giusta.

133. Coloro che dispongono di potenti risorse tecniche ed economiche – e, con esse, anche di molte risorse umane per intervenire – hanno un’importante capacità di indurre cambiamenti culturali e, in ultima analisi, di convincere un numero significativo di persone su quale sia la verità sull’essere umano, sul mondo, sul senso dell’esistenza, sulla famiglia, persino su Dio.”

“In questo orizzonte è importante ricordare che la comunicazione «non è solo trasmissione di informazioni, ma è creazione di una cultura». I contenuti che circolano negli ambienti digitali influenzano il modo in cui le persone percepiscono il mondo e introducono nella coscienza comune immagini e racconti che orientano i desideri e influenzano le scelte quotidiane. «Non è un mondo parallelo o puramente virtuale»,  perché ciò che nasce in rete entra ormai a far parte della vita delle persone, soprattutto dei più giovani.”
“In un tempo in cui la verità viene spesso piegata agli interessi e alle strategie comunicative, il mondo dell’educazione assume un rilievo decisivo. Ma le rapide trasformazioni tecnologiche mettono in luce quanto siamo impreparati sul piano educativo. La pervasività dei media digitali genera una cultura dell’immediatezza e dell’iperstimolazione, che alimenta stanchezza, noia e apatia di fronte alla fatica necessaria per cercare la verità.”

È essenziale cogliere l’influenza sui processi di formazione delle personalità nelle varie fasi del loro sviluppo con un accesso sempre più precoce ai dispositivi ed alle tecnologie digitali, da cui la centralità della scuola dentro tre grandi sfide.
“La prima sfida è sociopolitica. Sia entro le singole nazioni che tra diverse aree del mondo, permangono forti disuguaglianze nell’accesso all’istruzione di base e agli studi superiori. In non pochi Paesi lo Stato non ha ancora investito le risorse necessarie per garantire a tutti un’educazione di qualità, sia sostenendo adeguatamente il sistema scolastico pubblico sia supportando le istituzioni private che offrono questo servizio fondamentale.”
“La seconda grande sfida è pedagogica. Molti sistemi formativi faticano ad aggiornarsi al ritmo dei cambiamenti e a sostenere una crescita integrale degli studenti.”
“La terza grande sfida è intellettuale e sapienziale. Se non siamo attenti, può prendere forma un sistema educativo senza amore per la verità, in cui il flusso incessante di informazioni sostituisce l’esercizio della ricerca, della riflessione e del discernimento. Si moltiplicano conoscenze frammentarie, ma diventa più difficile cogliere la realtà nel suo insieme, porre domande di senso, sviluppare un autentico pensiero critico e creativo.”

Ovviamente gli effetti sull’organizzazione del lavoro sono altrettanto centrali, sui è vale la seguente osservazione.
“Al tempo stesso, dobbiamo riconoscere che ogni transizione reale procede per discontinuità: è disuguale, frammentaria, talvolta conflittuale. Non esiste quindi un modello di cambiamento unico, né una soluzione globale: esistono territori e storie che chiedono risposte diverse. Data la disuguaglianza che caratterizza il nostro mondo, la diffusione dell’IA e dei sistemi computazionali produce effetti differenti nei diversi luoghi. Le società ricche si automatizzano rapidamente e in modo caotico, riducendo la necessità di manodopera, producendo aree di disoccupazione e frizioni istituzionali. Vaste regioni del mondo, invece, rimangono intrappolate in economie ibride, dove lavoro umano sottopagato e tecnologie parziali convivono senza mai trasformarsi davvero. Questi territori diventano serbatoi di manodopera precaria e focolai di instabilità e di migrazioni forzate.”

Nella sezione su Custodire la libertà contro dipendenza e mercificazione si sottolinea la possibilità di una nuova schiavitù, lo sviluppo di nuove forme di controllo sociale.
“Un ulteriore rischio, meno visibile ma non meno grave, è quello del controllo sociale, reso possibile dalla raccolta massiva di dati e dall’uso di sistemi algoritmici. Quando ogni gesto lascia tracce – spostamenti, acquisti, relazioni, preferenze – si crea un potere nuovo: quello di profilare, prevedere e orientare i comportamenti, spesso senza che le persone ne abbiano piena consapevolezza. Se questi dati vengono usati per prendere decisioni che incidono su opportunità concrete (accesso al credito, selezione del personale, servizi) si rischia di ledere la libertà e discriminare i più vulnerabili. Inoltre, il controllo non passa solo da divieti espliciti, ma dall’architettura della visibilità: ciò che viene amplificato o reso invisibile, ciò che è premiato o penalizzato, finisce per modellare opinioni e scelte, generando conformismo e autocensura. Per questo la libertà, nell’era digitale, non è soltanto un fatto interiore: è anche una questione pubblica, che domanda regole chiare, trasparenza, possibilità di ricorso e limiti proporzionati all’uso di tecnologie invasive, affinché la tecnica resti al servizio della persona e non diventi una forma di dominio delle coscienze.”
“Questa visione distorta della persona si traduce oggi in diverse forme di asservimento legate direttamente all’economia digitale. Nulla, nel mondo dell’IA, è immateriale o magico. Ogni risposta che appare immediata e perfetta proviene da una lunga catena di mediazioni, da una rete estesa di risorse naturali, di infrastrutture energetiche e, soprattutto, di persone.”

La considerazione della nuova possibile schiavitù rimanda alla storia delle passate schiavitù cui è dedicato un’ampia rievocazione, indubbiamente motivata dalle passate responsabilità e complicità della Chiesa cattolica.
Nell’oggi. “Il colonialismo ai nostri giorni mostra un volto inedito. Non domina solo i corpi, ma si appropria dei dati, trasformando le vite personali in informazioni sfruttabili. Interi territori, soprattutto quelli con minore rilevanza geopolitica e maggiore fragilità strutturale, vengono al presente attraversati da una nuova logica di estrazione: quella di flussi sanitari, profili epidemiologici, mappe genetiche e dati demografici. Sono queste le nuove “terre rare” del potere: informazioni vitali che, una volta correlate, possono essere usate per addestrare modelli predittivi, guidare strategie di investimento, anticipare le crisi e soprattutto selezionare chi e che cosa conta. Chi possiede i dati sanitari di intere popolazioni, oggi raccolti spesso sotto il segno dell’aiuto, della ricerca o dell’innovazione, possiede in realtà una leva strutturale sul futuro: può modellare i bisogni e i mercati.”

Su guerra e innovazione tecnologica

“A questo scenario si collega lo sviluppo incessante dei sistemi d’arma, e in particolare delle armi legate all’IA. La Santa Sede ha recentemente osservato che la crescente facilità con cui sistemi d’arma ad autonomia operativa possono essere impiegati rende la guerra più “praticabile” e meno soggetta al controllo umano, contraddicendo il principio che il ricorso alla forza armata debba avvenire come ultima risorsa in caso di legittima difesa. Per questo lo sviluppo e l’uso dell’IA in campo bellico devono essere sottoposti ai più rigorosi vincoli etici, nel rispetto della dignità umana e della sacralità della vita, evitando una corsa agli armamenti.

198. Si parla talvolta di “agenti morali artificiali”, come se una macchina potesse garantire, con maggiore coerenza di un essere umano, la distinzione tra bene e male. Ma il giudizio morale non è riducibile a un calcolo: esso implica coscienza, responsabilità personale e riconoscimento dell’altro come persona. Perciò non è lecito affidare a sistemi artificiali decisioni letali o comunque irreversibili. Non esiste algoritmo che possa rendere la guerra moralmente accettabile. L’IA non sottrae il conflitto alla sua intrinseca disumanità: può soltanto renderlo più rapido e impersonale, abbassando la soglia del ricorso alla violenza e trasformando la difesa in previsione operativa, con le vittime ridotte a dati. Così, ci abitua all’idea che la violenza sia inevitabile e vada solo ottimizzata. È pertanto della massima importanza infondere valori e giudizio prudente nella programmazione dei sistemi artificiali che costruiamo, i quali possono contribuire a un ecosistema morale in cui gli esseri umani siano meglio posti in grado di ascoltare la propria coscienza e in cui i modelli di IA fissino confini appropriati.”

In termini concreti di fronte al dilagare della guerra e alla corsa agli armamenti si afferma la necessità assieme del realismo e della promozione del dialogo.
“Abbiamo bisogno di un sano realismo, che eviti tanto l’idealismo politico, quanto il cinismo. Esiste infatti un idealismo che, per salvare la propria visione del mondo, seleziona i fatti, li piega, li rinomina, e finisce per abitare una realtà costruita a misura delle proprie convinzioni. Esiste d’altra parte anche un realismo degradato che scambia la constatazione con la rassegnazione: poiché la forza domina, conclude che deve dominare. Il realismo autentico non rinuncia a cambiare il mondo: comincia dal vedere con chiarezza interessi, paure, vincoli e rapporti di forza, proprio per calcolare che cosa sia possibile ottenere e con quali passaggi.”
“Il dialogo è una dimensione ordinaria della vita umana, e non riguarda soltanto le relazioni tra gli Stati. Si tratta di acquisire un’attitudine a costruire legami di fraternità, fatti di ascolto, di sguardi sinceri, di tempo dedicato, persino di tempo perso insieme. Perché se facciamo esperienza dell’incontro autentico con l’altro, il diverso, lo straniero, il migrante, diventa molto più difficile anche solo immaginare la guerra.

A livello politico, è urgente passare dalla “cultura della potenza” a un’autentica “cultura del negoziato”, in cui il dialogo e le relazioni diplomatiche diventino via ordinaria per affrontare i conflitti, come auspicava Giorgio La Pira: «Al metodo della guerra, bisognerà sostituire il metodo della pace: il metodo del negoziato, dell’incontro, della convergenza: cioè il metodo autenticamente umano!». La consapevolezza di un destino comune dei popoli chiede che la cultura del negoziato diventi sempre più un impegno condiviso, politico e culturale, capace di allontanare gradualmente l’umanità dalla spirale della violenza.”

Dalle conclusioni che costituiscono un vero e proprio appello, ma anche un invito all’azione estrapoliamo il seguente paragrafo che richiama all’antropocentrismo situato di papa Francesco.
“Restiamo fedeli alla verità! Vivendo immersi in flussi incessanti di informazioni, opinioni, immagini, sappiamo quanto sia facile orientare decisioni e preferenze attraverso algoritmi sempre più raffinati. In questo scenario è importante custodire un cuore che ama la verità, che desidera ciò che è giusto più dei contenuti di maggiore richiamo, che cerca la sapienza più dell’impatto immediato. La verità che non dobbiamo perdere è quella su Dio e sull’essere umano, così come Cristo ce li ha rivelati. Occorre abbandonare una visione dell’uomo individualista e tecnica, come se la realtà fosse pura materia da modellare in base a interessi egoistici, sia individuali che di gruppo. Coltiviamo invece quello che Papa Francesco ha definito un «antropocentrismo situato», che riconosce l’essere umano come creatura inserita in una trama di relazioni con gli altri viventi e con l’intero creato. La fedeltà alla verità chiede di integrare le possibilità offerte dalla tecnica in un cammino di sapienza, capace di custodire insieme la dignità di ogni persona e il futuro della nostra Casa comune.”

Lo scopo di questa prima lettura dell’enciclica è di esplorarne i contenuti per cercare di comprenderne la possibile potenza sociale a partire dalla mobilitazione non solo delle strette comunità dei credenti, ma anche in relazione ai diversi soggetti sociali, culturali e politici che si ritrovano in molte delle analisi e degli inviti all’azione che questo documento contiene. L’enciclica non è certo un documento di critica del modo di produzione capitalistico nelle varianti che di questa critica il pensiero marxista ha prodotto e continua a produrre, ma costituisce uno straordinario attraversamento del processo di trasformazione delle nostre società sotto l’impulso dell’innovazione tecnologico-digitale, motivando una altrettanto complessa articolazione dei processi di riflessione, critica ed azione. Che il contesto ed i limiti siano quello della dottrina della chiesa cattolica, della sua struttura e composizione   è un dato assolutamente scontato che non toglie la necessità di fare i conti con i suoi contenuti e le possibili conseguenze, dove già la posizione di questo papa contro la guerra qualcosa ha significato.

Vale la pena seguire il contributo del filoso e teologo francescano Paolo Benanti sul tema dell’Intelligenza Artificiale, ad esempio sul Sole 24 ore e sull’Avvenire, oltre che nei suoi vari scritti, libri e conferenze. A lui si deve il neologismo dell’algoretica, a proposito della critica etica allo sviluppo delle tecnologie digitali.

Roberto Rosso

Roberto Rosso

1. https://www.vatican.va/content/francesco/it/encyclicals/documents/papa-francesco_20150524_enciclica-laudato-si.html#:~:text=13%2E-,La,capacit%C3%A0,-%2E.[↩]
2. https://it.wikipedia.org/wiki/Crisi_dei_missili_di_Cuba.[↩]
3. https://www.vatican.va/content/leo-xiv/it/encyclicals/documents/20260515-magnifica-humanitas.html#:~:text=9%2E-,Alla,fraterna.[↩]
4. https://www.vatican.va/content/leo-xiv/it/encyclicals/documents/20260515-magnifica-humanitas.html#:~:text=12,necessario%2E,[↩]
5. https://www.vatican.va/content/leo-xiv/it/encyclicals/documents/20260515-magnifica-humanitas.html#:~:text=12%2C9%29%2E-,A,condivisa.[↩]
6. https://www.vatican.va/archive/hist_councils/ii_vatican_council/documents/vat-ii_const_19651207_gaudium-et-spes_it.html.[↩]
7. https://www.vatican.va/content/paul-vi/it/encyclicals/documents/hf_p-vi_enc_26031967_populorum.html.[↩]
8. https://www.vatican.va/content/leo-xiv/it/encyclicals/documents/20260515-magnifica-humanitas.html#:~:text=22%2E-,A,mondo.[↩]
9. https://www.vatican.va/content/leo-xiv/it/encyclicals/documents/20260515-magnifica-humanitas.html#_ftn37.[↩]
10. https://www.vatican.va/content/leo-xiv/it/encyclicals/documents/20260515-magnifica-humanitas.html#_ftn38.[↩]
11. https://www.vatican.va/content/leo-xiv/it/encyclicals/documents/20260515-magnifica-humanitas.html#_ftn39.[↩]
12. https://www.vatican.va/content/leo-xiv/it/encyclicals/documents/20260515-magnifica-humanitas.html#_ftn40.[↩]
13. https://www.vatican.va/content/leo-xiv/it/encyclicals/documents/20260515-magnifica-humanitas.html#_ftn41.[↩]
14. https://www.vatican.va/content/leo-xiv/it/encyclicals/documents/20260515-magnifica-humanitas.html#:~:text=Nel%2020,politica,-%2E.[↩]
15. https://www.vatican.va/content/leo-xiv/it/encyclicals/documents/20260515-magnifica-humanitas.html#:~:text=57%2E-,Insieme,fondamentali.[↩]
16. https://www.vatican.va/content/leo-xiv/it/encyclicals/documents/20260515-magnifica-humanitas.html#:~:text=82%2E-,Nell%E2%80%99Enciclica,verranno. [↩]
17. https://www.vatican.va/content/leo-xiv/it/encyclicals/documents/20260515-magnifica-humanitas.html#:~:text=92%2E-,Nell%E2%80%99Enciclica,potenza%C2%BB%2E.[↩]
18. https://www.vatican.va/content/leo-xiv/it/encyclicals/documents/20260515-magnifica-humanitas.html#:~:text=Allargando,intensiva%2E.[↩]
19. https://www.vatican.va/content/leo-xiv/it/encyclicals/documents/20260515-magnifica-humanitas.html#:~:text=104%2E-,Da,persona.[↩]
20. https://www.vatican.va/content/leo-xiv/it/encyclicals/documents/20260515-magnifica-humanitas.html#:~:text=107%2E-,Non,interrogarsi.[↩]
21. https://www.vatican.va/content/leo-xiv/it/encyclicals/documents/20260515-magnifica-humanitas.html#:~:text=110%2E-,Vorrei,ospitale.[↩]
22. https://www.vatican.va/content/leo-xiv/it/encyclicals/documents/20260515-magnifica-humanitas.html#:~:text=116%2E-,Il,politiche.[↩]