Etica e IA: la prospettiva cristiana

Il dibattito sull'etica dell'intelligenza artificiale ha un problema di metodo. Si discute di trasparenza, di bias, di sicurezza dei modelli, di regolamentazione, ed è giusto farlo. Però quasi sempre si dà per scontata la domanda che sta sotto tutte le altre: che cos'è l'essere umano che queste tecnologie dovrebbero servire? Se la risposta resta implicita, l'etica dell'IA diventa una lista di controllo. Utile, ma senza un criterio per decidere che cosa conta davvero quando i principi entrano in conflitto.

La mia tesi è semplice. L'IA può essere uno strumento prezioso al servizio della persona, ma ci sono tre cose che non si possono delegare a una macchina: la responsabilità morale, la relazione e il giudizio. La tradizione cristiana offre proprio ciò che manca al dibattito tecnico, cioè un'idea forte e coerente di chi sia l'essere umano. Non è l'unica prospettiva possibile, ma è una delle poche che parte dalla domanda giusta.

Una tradizione che non arriva impreparata

Si potrebbe pensare che una tradizione bimillenaria abbia poco da dire su una tecnologia nata ieri. In realtà la Chiesa cattolica si occupa di IA da anni, e in modo sempre più sistematico.

Nel febbraio 2020 la Pontificia Accademia per la Vita ha promosso la Rome Call for AI Ethics, firmata insieme a Microsoft, IBM, FAO e Governo italiano. Il documento propone sei principi: trasparenza, inclusione, responsabilità, imparzialità, affidabilità, sicurezza e privacy. È il nucleo di quella che padre Paolo Benanti ha chiamato algoretica: l'idea che l'etica debba entrare negli algoritmi fin dalla progettazione, non essere applicata dopo come una vernice.

Nel gennaio 2025 il Dicastero per la Dottrina della Fede e il Dicastero per la Cultura e l'Educazione hanno pubblicato la nota Antiqua et nova, dedicata al rapporto tra intelligenza artificiale e intelligenza umana. Il titolo viene dal Vangelo di Matteo (Mt 13,52), dove si parla dello scriba che trae dal suo tesoro cose nuove e cose antiche. È un buon manifesto di metodo: non rifiutare il nuovo e non dimenticare l'antico.

Poi è arrivato Leone XIV. Nel suo primo discorso ai cardinali, nel maggio 2025, ha spiegato di aver scelto il nome pensando a Leone XIII, che con la Rerum novarum aveva affrontato la questione sociale della rivoluzione industriale. Oggi, ha detto in sostanza, c'è un'altra rivoluzione da affrontare, e la Chiesa vuole mettere a disposizione la sua dottrina sociale. Un anno dopo, il 15 maggio 2026, nel 135° anniversario della Rerum novarum, ha firmato la sua prima enciclica, Magnifica humanitas, sulla custodia della persona umana nel tempo dell'intelligenza artificiale. Il sottotitolo dice già molto: il tema non è la macchina, è l'uomo.

Intelligenza e calcolo non sono la stessa cosa

Il primo contributo della prospettiva cristiana è una distinzione che sembra ovvia e non lo è affatto: quella tra intelligenza umana e intelligenza artificiale.

Il punto di partenza è biblico. L'essere umano è creato «a immagine di Dio» (Gen 1,27), e la tradizione ha sempre letto nell'intelligenza uno dei tratti di questa somiglianza. Ma l'intelligenza, in questa visione, non è mai solo capacità di elaborare informazioni. È l'intelligenza di un essere incarnato, che conosce attraverso un corpo, che vive dentro relazioni, che cerca la verità e non soltanto la risposta più probabile.

Antiqua et nova insiste molto su questo. Usare la stessa parola, "intelligenza", per l'uomo e per la macchina rischia di oscurare proprio ciò che rende unica la persona. L'IA esegue compiti su dati, anche in modo straordinario, ma non ha esperienza corporea, non ha una storia, non sa che cosa significa essere amata o perdere qualcuno. Per questo la nota la definisce un prodotto dell'intelligenza umana, non una sua forma. E aggiunge che l'IA andrebbe usata solo come strumento complementare all'intelligenza umana, non come suo sostituto.

Magnifica humanitas riprende questa linea e la porta fino in fondo. Questi sistemi imitano alcune funzioni umane, ma non hanno coscienza morale: non distinguono il bene dal male, calcolano. L'enciclica nota anche, con una certa onestà tecnica, che i grandi modelli sono più "coltivati" che "costruiti", e che i loro processi interni restano in parte opachi anche a chi li sviluppa.

Chi lavora con questi strumenti sa che è vero. Un modello linguistico può scrivere un ragionamento impeccabile o inventare una fonte con la stessa sicurezza. Non mente, perché non sa che cosa sia mentire. Ed è proprio questo il punto: la verità, per la macchina, non è un valore ma un effetto statistico.

Chi scrive il codice non è mai neutrale

Qui vorrei fermarmi su un aspetto che mi riguarda da vicino, perché il software lo scrivo per mestiere.

Si sente spesso dire che la tecnologia è neutrale e che tutto dipende dall'uso che se ne fa. È una frase rassicurante, ma chi progetta sistemi sa che è falsa. Ogni sistema contiene le decisioni di chi lo ha costruito: quali dati raccogliere e quali ignorare, che cosa ottimizzare, quale errore considerare accettabile, chi deve poter vedere che cosa. Un algoritmo di selezione del personale che privilegia certi percorsi di studio, una piattaforma progettata per massimizzare il tempo di permanenza, un sistema di scoring del credito: dentro ognuno ci sono scelte morali, anche quando nessuno le ha chiamate così.

Magnifica humanitas lo dice in modo esplicito: la tecnologia non è neutrale, perché riflette chi la pensa, la finanzia, la regola e la usa. È interessante che la stessa conclusione si trovi nel mondo evangelico. Già nel 2019 la commissione etica della Southern Baptist Convention, nella sua dichiarazione di principi sull'IA, negava espressamente che l'uso dell'IA sia moralmente neutro.

Da qui discende una conseguenza importante. Se le scelte morali sono già dentro il codice, la responsabilità non può sparire dentro la macchina. Antiqua et nova ricorda che solo gli esseri umani sono agenti morali, e che bisogna sempre poter individuare chi risponde di un processo automatizzato, anche quando è opaco. L'enciclica aggiunge un'osservazione che ogni sviluppatore dovrebbe tenere a mente: quando una decisione su un lavoro, un prestito o una reputazione viene affidata a un automatismo senza un responsabile, lo scarto dei più deboli appare neutrale e diventa impossibile da contestare.

C'è poi una frase dell'enciclica che trovo particolarmente lucida: «Non serve un'IA più morale, se questa morale è decisa da pochi». È una critica rivolta anche a chi, nel settore, pensa di risolvere il problema etico scrivendo regole di comportamento per i modelli. Le regole servono, ma la domanda resta: chi le decide, con quale legittimità, davanti a chi ne risponde? Il potere tecnologico, osserva il documento, ha ormai un volto prevalentemente privato e transnazionale. Dati, piattaforme e modelli concentrati in poche mani creano uno squilibrio che contraddice un principio antico della dottrina sociale: i beni della terra, e oggi anche quelli digitali, sono destinati a tutti.

Il lavoro: chi serve chi?

La Rerum novarum nasceva dalla condizione degli operai nelle fabbriche del XIX secolo. Non è un caso che il lavoro sia uno dei temi centrali anche della riflessione attuale.

La prospettiva cristiana non è luddista. Antiqua et nova riconosce che l'IA può aumentare la produttività e liberare spazi per la creatività. Il criterio però è chiaro: l'IA dovrebbe assistere il giudizio umano, non sostituirlo. I rischi indicati sono concreti: la dequalificazione, la sorveglianza automatizzata dei lavoratori, la riduzione delle persone a esecutori di compiti ripetitivi dettati da un sistema, e soprattutto un vantaggio concentrato in pochi a scapito di molti.

Magnifica humanitas rovescia la logica dell'efficienza. Il lavoro non è un semplice mezzo di produzione, ma qualcosa che esprime e accresce la dignità della persona. Per questo l'enciclica considera la tutela dell'occupazione una regola generale, e mette in guardia dal rischio che siano i lavoratori ad adattarsi ai ritmi delle macchine, invece del contrario.

Conosco bene la tentazione opposta. Nel mio settore si parla di agenti che scrivono codice, di team ridotti, di produttività moltiplicata. Molte di queste promesse sono reali. Ma la domanda cristiana è un'altra, e la prenderei sul serio anche senza credere: questa innovazione fa crescere le persone o le rende superflue? Gesù ricordava che il sabato è stato fatto per l'uomo e non l'uomo per il sabato (Mc 2,27). Lo stesso vale per qualsiasi strumento.

La verità in tempo di deepfake

Il terzo nodo è la verità. Una società si regge sulla fiducia: nelle notizie, nelle testimonianze, nelle immagini, nella parola degli altri. L'IA generativa mette sotto pressione proprio questa fiducia.

Antiqua et nova distingue con precisione i problemi. C'è quello delle cosiddette "allucinazioni", cioè contenuti verosimili ma falsi. C'è quello dei deepfake, che possono ferire gravemente la dignità di chi ne è vittima. E c'è quello della disinformazione su larga scala, che corrode la fiducia su cui si fonda la vita comune. La nota chiede a chi produce o condivide contenuti generati dall'IA di verificarne la veridicità: un dovere che riguarda anche noi, quando inoltriamo con leggerezza un'immagine o una citazione.

Magnifica humanitas allarga lo sguardo alla dimensione politica. Chi controlla il potere tecnico può influenzare ciò che una società considera vero. Per questo l'enciclica parla di una "ecologia della comunicazione", che richiede trasparenza su come i contenuti vengono selezionati e amplificati. E, cosa non scontata, chiede la stessa trasparenza anche alla Chiesa.

Per il cristianesimo la verità non è un dettaglio tecnico. Nel Vangelo di Giovanni la verità rende liberi (Gv 8,32). Una tecnologia che rende indistinguibile il vero dal falso non è soltanto un problema di sicurezza informatica: tocca la libertà delle persone.

Relazioni simulate

Il quarto tema è forse il più delicato, perché riguarda la vita interiore. I chatbot sono progettati per sembrare persone: rispondono con calore, ricordano ciò che diciamo, si adattano al nostro umore. Per molti, soprattutto per chi è solo, possono diventare una presenza quotidiana.

Antiqua et nova è netta. L'IA è uno strumento, non una persona, e il linguaggio con cui ne parliamo tende a confondere i due piani. Nessuna IA prova davvero empatia, perché l'empatia nasce da una relazione tra persone. Far passare una macchina per un essere umano, ingannando chi la usa, è secondo la nota una grave violazione etica. E anche quando non c'è inganno, una relazione simulata non può sostituire quella reale senza impoverire chi la vive.

Magnifica humanitas individua il pericolo più sottile: non tanto l'illusione di parlare con qualcuno, quanto la perdita del desiderio di cercare davvero l'altro, soprattutto dove mancano legami reali. L'enciclica parla anche di dipendenze, di piattaforme costruite per catturare tempo e attenzione, e della necessità di educare a decidere quando e per che cosa non usare l'IA.

Qui la tradizione cristiana ha una parola antica e scomoda: idolatria. Antiqua et nova la usa esplicitamente. Il rischio è chiedere a un'opera delle nostre mani ciò che non può dare: senso, compagnia, pienezza. I Salmi descrivono gli idoli come oggetti che hanno bocca ma non parlano (Sal 115). Oggi abbiamo costruito idoli che parlano benissimo, e forse per questo sono ancora più seducenti.

La nota cita Georges Bernanos, che vedeva il vero pericolo non nella moltiplicazione delle macchine, ma nel numero crescente di uomini abituati a desiderare soltanto ciò che le macchine possono dare. Scritta nel secolo scorso, è una diagnosi che descrive bene il nostro presente.

Nessuna macchina deve decidere di uccidere

Il quinto tema è il più drammatico: la guerra.

Nel giugno 2024, primo papa a intervenire a un G7, Francesco ha chiesto di ripensare le armi letali autonome fino a bandirne l'uso, e di introdurre intanto un controllo umano sempre più significativo. Ha usato una frase che riassume l'intera questione: «Nessuna macchina dovrebbe mai scegliere se togliere la vita a un essere umano».

Antiqua et nova parla di questi sistemi come di un motivo di grave preoccupazione etica, anche perché la distanza tecnologica rende meno percepibile la devastazione della guerra. Magnifica humanitas va oltre: affidare a sistemi artificiali decisioni letali o irreversibili non è lecito, perché il giudizio morale non è un calcolo. L'enciclica indica come esigenze irrinunciabili la tracciabilità delle decisioni e un controllo umano effettivo sull'uso della forza letale, e inserisce il tema in una denuncia più ampia del ritorno della guerra come strumento politico.

Anche qui le voci cristiane convergono. La dichiarazione evangelica del 2019 chiedeva supervisione umana per qualsiasi azione letale condotta o resa possibile dall'IA. Il patriarca ecumenico Bartolomeo, nel maggio 2025 ad Atene, ha messo in guardia da quella che ha chiamato una "robotocrazia" incombente, ricordando che per la tradizione ortodossa non c'è nulla di più sacro della persona umana.

Una convergenza ecumenica

Vale la pena sottolinearlo. Su molte questioni le confessioni cristiane restano divise, ma sull'IA parlano con voci sorprendentemente simili.

La dichiarazione evangelica del 2019 fonda tutto sull'essere umano creato a immagine di Dio, riconosce le grandi possibilità dell'IA in medicina e in altri campi, e nega che una tecnologia possa avere responsabilità morale. Bartolomeo, che da anni riflette sul rapporto tra fede e tecnica, ha riassunto la questione con una formula efficace: «La nostra vita non è digitale». Non è un rifiuto della tecnologia, ma il ricordo che la vita umana eccede ciò che si può rappresentare in dati.

La sfumatura cambia. Il mondo cattolico parte dalla dottrina sociale e dal bene comune. Quello evangelico insiste sulla responsabilità personale davanti a Dio. Quello ortodosso guarda alla dimensione spirituale e alla sacralità della persona. Ma il centro è lo stesso: l'essere umano non è una macchina complessa, e nessuna macchina, per quanto sofisticata, è una persona.

Edificare Babele o ricostruire Gerusalemme

Magnifica humanitas si apre con due immagini bibliche: la torre di Babele (Gen 11) e la ricostruzione delle mura di Gerusalemme guidata da Neemia. Da una parte un progetto di potenza, che vuole arrivare al cielo e finisce nella confusione. Dall'altra un lavoro paziente e condiviso, per ricostruire uno spazio in cui vivere insieme. Sono due modi di usare la stessa capacità di costruire.

Credo che sia questo, in fondo, il contributo della prospettiva cristiana all'etica dell'IA. Non un elenco di divieti, e nemmeno un entusiasmo ingenuo. Piuttosto un criterio: valutare ogni innovazione in base a ciò che fa alle persone, soprattutto alle più fragili. La responsabilità resta umana, perché solo gli esseri umani sono agenti morali. La relazione resta umana, perché solo tra persone esiste un vero incontro. Il giudizio resta umano, perché scegliere il bene non è un calcolo di probabilità. Si può non condividere la fede da cui questa visione nasce e riconoscerne comunque la forza.

Resta una domanda che vale per tutti, credenti e non. Mentre deleghiamo alle macchine sempre più compiti, decisioni e perfino conversazioni, che tipo di umanità vogliamo restare?

Riferimenti