AI, il ruggito del Leone

Ho assistito per via digitale alla presentazione della lettera enciclica di Papa Leone XIV dal titolo Magnifica Humanitas. La diffusione in streaming offre già di per sé motivo di riflessione. Si può notare come lo stesso nome di dominio – “vatican.va” – parli già di accettazione succube dell’inglese. Lo Stato del Vaticano avrebbe potuto ben registrare il nome di dominio “vaticanus.va”…

È stata invece scelta, in modo pedestre e succube, la parola inglese. Permettendo l’accesso al sito anche digitando “vaticanus.va” si sarebbe affermata l’autonomia, la distanza, la differenza da ogni potere temporale. Il latino mantiene ancora un valore simbolico, ma si è scelta la lingua dell’imperialismo oggi dominante. Infatti, anche gli interventi dei partecipanti al convegno di presentazione – salvo due in italiano – sono stati fatti in inglese. Quale che fosse la lingua natale del parlante.

Che cosa c’entra tutto questo con la Magnifica Humanitas? C’entra moltissimo. Non solo il convegno di presentazione aveva l’inglese come lingua di riferimento. C’è di più: Magnifica Humanitas è la prima enciclica di cui non esiste versione latina: il latino è sostituito dall’inglese. Se provassimo a tradurre il latino, potremmo sentir riecheggiare in ogni parola, in ogni discorso, una antica tradizione. Se considerassimo alla pari ogni lingua parlata da umani, ogni versione porterebbe in sé il riverbero di una cultura. Invece accettiamo ormai l’inglese. Dispiace che a fare questa scelta sia stato Leone XIV, visto il suo passato di missionario.

Non potendo parlare in ogni lingua del mondo, scegliendo di non pronunciare l’allocuzione in latino e scegliendo di non usare l’italiano, la lingua del Vescovo di Roma usata da ogni Papa, l’attuale Pontefice ha parlato in inglese. È sì la sua lingua materna, ma resta l’ambiguità, perché è anche la ‘lingua dell’impero’. È la lingua attraverso la quale parlano tra di loro i potenti del mondo, cioè coloro ai quali la Chiesa intende opporsi rivolgendosi ai ‘‘poveri di spirito’, e parlando in loro nome.

Disarmare l’Intelligenza Artificiale

Nell’enciclica c’è molto – anzi: moltissimo – di buono. È un testo coraggioso. Possiamo intendere come espressione sintetica di questa posizione ferma, risoluta, anche audace, il punto 111. Ha ribadito la centralità di questo punto lo stesso Pontefice nelle parole pronunciate nel convegno di presentazione. Ogni cittadino del Pianeta può riconoscersi in queste parole. Può farle proprie. Può ringraziare il Pontefice per averle pronunciate. Ma resta aperta una pericolosa ambiguità, che vedremo a breve.

“Vorrei, infine, usare una parola che mi sta a cuore: ‘disarmare’. Disarmare l’Intelligenza Artificiale (AI) significa sottrarla alla logica della competizione armata, che oggi non è più solo militare ma economica e cognitiva. È la corsa all’algoritmo più performante e alla banca dati più vasta, al fine di consolidare un vantaggio geopolitico o commerciale su tutti gli altri”.

“Disarmare vuol dire rompere questa equivalenza tra potenza tecnica e diritto di governare. Disarmare non significa rinunciare alla tecnologia, ma impedirle di dominare l’umano. Significa sottrarla ai monopoli, renderla discutibile, contestabile, e quindi abitabile, restituendola alla pluralità delle culture umane e delle forme di vita. Il compito, oggi, non è solo etico o tecnico: è ecologico nel senso più radicale, perché chiama in causa una nuova dimensione della nostra Casa comune. L’AI è già ambiente in cui siamo immersi e potere con cui dobbiamo fare i conti. Per questo, non basta regolarla: va disarmata e resa ospitale”.

L’élite del potere digitale

Nell’enciclica si dice con chiarezza, in più luoghi del testo, che “le innovazioni tecnologiche – compresa l’AI – non sono neutrali”: “Non possiamo considerare l’AI moralmente neutra”. Le tecnologie delle quali l’AI è manifestazione esemplare sono, infatti, manifestazione di un dominio politico, biopolitico, sociale. Ora l’opera di Leone XIV parla chiaro contro Governi e singoli leader che scatenano guerre e che reprimono e affamano il popolo. Allo stesso tempo l’enciclica riconosce coraggiosamente che la nuova, la vera classe egemone di oggi non è la tradizionale classe politica e non è neanche la classe degli imprenditori e degli investitori finanziari: la classe egemone di oggi è quella dei creatori e governatori del codice digitale.

Che cosa dice l’enciclica a proposito di questa casta? Se ne parla in più punti. Per esempio: “Uno speciale appello rivolgo a coloro che sviluppano le AI. L’innovazione tecnologica può essere, in un certo qual modo, una forma umana di partecipazione all’atto divino della creazione. Gli sviluppatori portano dunque un particolare peso etico e spirituale, poiché ogni scelta progettuale esprime una visione dell’umanità. Come l’autore di un’opera artistica o letteraria è tenuto a considerare i valori che essa esprime, così essi sono chiamati a trattare con la dovuta serietà i valori che infondono nei loro progetti: con trasparenza, con responsabilità verso le comunità coinvolte e con attenzione a verificare che ciò che viene coltivato sia davvero un bene”.

Come interpretare queste frasi? Sembrano viziate da una pericolosa ambiguità. Cosa sta dicendo il Pontefice: sta accettando una situazione di dominio irreversibile? Sta proponendo ai membri della casta oggi veramente dominante un patto, o li sta invitando a una conversione? Questo, tra i punti 110, 111 e successivi, è anche lo snodo che segna l’intera enciclica. Infatti di lì in poi l’argomento cambia repentinamente, allargandosi a ciò che, sostiene il Pontefice, veramente conta.

Custodire l’umano al tempo dell’AI

Custodire l’umano nei tempi dell’AI: questo è, in realtà, l’argomento dell’enciclica. Dignità umana, libertà umana, responsabilità umana… Valori messi in discussione da  quel tipo di tecnologie di cui la cosiddetta AI è oggi la manifestazione esemplare. Questa tecnologia è il prodotto volontario del lavoro di coloro che, dice l’enciclica, “sviluppano le AI”. Qui però c’è una ambiguità, perché il Pontefice non dice nulla del come possa e debba manifestarsi l’impegno etico di tecnologi, computer scientist, ingegneri dell’interfaccia.

Esistono due vie. Dispiace non tanto che il Papa indichi una o l’altra via, quanto che Leone XIV non parli con la chiarezza con la quale si è espresso a proposito di pace e di guerra. Il Papa ora si esprime con la stessa cristallina, evangelica fermezza di fronte a coloro che sviluppano le AI, che sono i nuovi potenti della Terra? Restano dei dubbi. Certamente nell’enciclica si leggono parole chiare e aliene da qualsiasi compromesso. Basta ricordare le opposte metafore che appaiono a più riprese: Torre di Babele o, all’opposto, Mura di Gerusalemme costruite insieme.

“Non possiamo considerare l’AI moralmente neutra. In realtà, ogni artefatto tecnico porta con sé scelte e priorità: ciò che misura, ciò che ignora, ciò che ottimizza e il modo in cui classifica persone e situazioni. Se un sistema è concepito o impiegato in modo da trattare alcune vite come meno degne o da escluderle senza possibilità di appello, esso non è un semplice strumento ‘da usare bene’: introduce già un criterio che contraddice la dignità inalienabile della persona. Per questo, il discernimento etico non può limitarsi a domandare se usiamo un certo sistema per uno scopo buono o cattivo, ma deve anche chiedersi come esso venga progettato e quale idea di persona e di società risulti inscritta nei dati e nei modelli che lo guidano”.

E va notato che qui l’enciclica rimanda ad Antiqua et nova, la Nota sul rapporto tra AI e intelligenza umana emanata a gennaio 2025 dai Dicasteri Vaticani per la Dottrina della Fede e per la Cultura e l’Educazione: un documento per certi versi più incisivo dell’enciclica stessa.

Dunque il Pontefice dice che le cosiddette AI portano in sé le scelte e le priorità e le idee di persona e società di chi le ha concepite. È qui in gioco una questione cruciale, lucidamente enunciata già nella parte iniziale del documento, nel paragrafo 3: “Un tempo erano soprattutto gli Stati a guidare e indirizzare l’innovazione. Oggi, invece, i principali motori dello sviluppo sono attori privati, spesso transnazionali, dotati di risorse e capacità di intervento superiori a quelle di molti Governi. Il potere tecnologico assume così un volto inedito, prevalentemente ‘privato’ e per questo ancora più difficile da discernere, governare e orientare al bene comune”.

L’appello alla cautela

È una situazione inedita, che impone gravissime riflessioni. Se così è, poco effetto potranno avere le norme stabilite da enti internazionali e da Stati sovrani. Che cosa propone il Pontefice? Mi pare lasci aperta la strada per due differenti cammini. Da un lato il patto. È la via perseguita in anni scorsi da alcune correnti vaticane: la Rome call for ethics AI, proposta a febbraio 2020 dalla Pontificia Accademia per la Vita, subito sottoscritta da IBM e Microsoft e poi da altre grandi vendor digitali. L’aspetto cruciale dell’iniziativa vaticana sta nel non rivolgersi non agli esseri umani tutti, non ai cittadini del Pianeta, ma ai nuovi potenti del mondo.

Le autorità vaticane si sono rivolte a imprese e i tecnici impegnati nello sviluppo di “sistemi di AI”: “I promotori dell’appello esprimono il loro desiderio di lavorare insieme”, contribuendo insieme, autorità ecclesiastiche, grandi imprese digitali, tecnologi, computer scientist, ingegneri dell’interfaccia, all’etica e al bene dell’umanità. Pur evitando accuratamente di usare la parola “algoretica”, che è il simbolo di questa ricerca di patto e collaborazione, mi sembra l’enciclica resti in vari punti vicina a questo approccio.

Più chiara e netta mi pare la posizione manifestata dai Dicasteri Vaticani per la Dottrina della Fede e per la Cultura e l’Educazione nella Antiqua et nova, dove già all’inizio ci si avvicina all’etica per una via del tutto differente da ciò che propone la Rome call for ethics AI. Si legge infatti nel paragrafo 3: “La presente nota affronta le questioni antropologiche ed etiche sollevate dall’AI, questioni che sono particolarmente rilevanti in quanto uno degli scopi di questa tecnologia è di imitare l’intelligenza umana che l’ha progettata”. Risulta evidente che questa posizione è il contributo più efficace ed auspicabile che la Chiesa Cattolica può offrire, di fronte all’avvento delle AI. Non è la proposta di un patto tra istituzioni, ma l’invito a una conversione.

Diverso è il caso dell’enciclica: c’è un invito, rivolto a ogni essere umano, alla cautela di fronte a una tecnologia così invasiva, alla difesa della libertà di scegliere se e quando e come usare la macchina… Poi c’è l’invito rivolto a ogni tecnologo, a ogni computer scientist, a ogni ingegnere di riflettere, confrontandosi con la propria etica. L’invito è di chiedersi: che cosa sto facendo? Di questo parla, in fondo, l’opera di Leone XIV.

Riscoprire la coscienza civica

Per scendere terra terra si può dire: Dario Amodei, CEO di Anthropic, non è migliore di Donald Trump, Presidente degli Stati Uniti d’America. C’è anzi da temere più il primo del secondo. Trump è portatore di strategie e progetti disumani e deliranti, eppure il suo mal usato potere almeno gode di contrappesi: l’equilibrio tra poteri di una democrazia retta da una Costituzione, il contropotere rappresentato dagli organi di informazione. Il potere di Amodei è invece assoluto. Non è un gran merito negare un’arma al Ministero della Guerra degli Stati Uniti. L’arma, più potente di quella nucleare, resta nelle mani del privato.

Di questo potere tecnologico privato parla in modo chiaro l’enciclica. Non leggiamo nell’enciclica una, pur larvata, proposta di patto a tutti gli Amodei; c’è da leggere una denuncia dell’abnorme potere. I computer scientist di cui dobbiamo ascoltare la voce non sono i vari Amodei, sono invece quelli che si interrogano su ciò che stanno facendo, che scendono dal pulpito, tornando a essere cittadini, e come tali si interrogano sul senso delle macchine che hanno costruito.

L’enciclica ci invita a tornare a quella consapevolezza del nostro comune ‘esseri umani’. Consapevolezza che inizia già a essere soffocata nel parlare l’inglese da stranieri. E forse anche nello scrivere encicliche in… inglese.

L’articolo AI, il ruggito del Leone proviene da Parole di Management.