Etica e IA: pensare la responsabilità nell'epoca delle macchine che decidono
Ogni grande tecnologia ha costretto l'etica a rimettersi in discussione. La stampa ha cambiato il rapporto tra autorità e sapere, la macchina a vapore il rapporto tra lavoro e dignità, la bomba atomica il rapporto tra potenza e sopravvivenza della specie. L'intelligenza artificiale appartiene a questa serie, ma con una differenza che la rende singolare: per la prima volta lo strumento non si limita ad amplificare un'azione umana già decisa, ma partecipa alla decisione stessa. Seleziona, classifica, raccomanda, prevede, e in alcuni casi agisce senza che un essere umano intervenga nel singolo passaggio.
Questo spostamento non è soltanto tecnico. Tocca le categorie con cui da secoli pensiamo la vita morale: intenzione, responsabilità, colpa, merito, giustizia. Se un sistema rifiuta un mutuo, segnala un paziente come ad alto rischio o scarta un curriculum, chi ha deciso? E se la decisione è sbagliata, o ingiusta, a chi dobbiamo chiedere conto? In questo articolo proviamo a ordinare le domande principali, senza la pretesa di chiuderle, ma cercando di capire perché siano così difficili e che cosa la tradizione filosofica possa ancora dirci.
Una domanda vecchia in forma nuova
L'idea che le macchine sollevino problemi morali non nasce con le reti neurali. Già alla metà del Novecento Norbert Wiener, il padre della cibernetica, avvertiva che delegare decisioni a sistemi automatici significa accettare che essi perseguano esattamente lo scopo che abbiamo specificato, non quello che avevamo in mente. La distanza tra ciò che chiediamo e ciò che vogliamo davvero è antica quanto le fiabe dei desideri esauditi alla lettera, ma diventa pericolosa quando l'esecutore è rapido, instancabile e opera su milioni di casi.
Nello stesso periodo la letteratura immaginava leggi della robotica capaci di garantire che le macchine non nuocessero agli esseri umani. Quei racconti sono istruttivi proprio perché mostrano, uno dopo l'altro, come regole apparentemente chiare producano conflitti, ambiguità e paradossi appena incontrano la complessità del mondo reale. È una lezione che l'etica dell'IA ha dovuto reimparare: non esiste un elenco di principi che, applicato meccanicamente, sostituisca il giudizio.
Ciò che è cambiato negli ultimi decenni è la natura dei sistemi. I programmi tradizionali eseguivano istruzioni scritte da qualcuno, e quelle istruzioni potevano essere lette, discusse, corrette. I sistemi basati sull'apprendimento automatico, invece, ricavano il proprio comportamento dai dati: nessuno ha scritto esplicitamente la regola che seguono, e spesso nessuno è in grado di formularla. Il problema morale si sposta così dalle intenzioni del programmatore a un intreccio di dati, obiettivi di ottimizzazione, scelte progettuali e contesti d'uso.
Che cosa intendiamo per intelligenza artificiale
Prima di parlare di etica conviene chiarire l'oggetto. Con "intelligenza artificiale" si indicano cose molto diverse: un filtro antispam, un sistema di riconoscimento facciale, un algoritmo che decide quali contenuti mostrare in una bacheca, un modello linguistico che conversa, un veicolo che guida da solo. Ciò che li accomuna non è una presunta intelligenza nel senso pieno del termine, ma la capacità di produrre risultati che, se prodotti da un essere umano, attribuiremmo a una forma di giudizio.
Questa precisazione è importante perché il dibattito pubblico oscilla spesso tra due estremi. Da un lato l'entusiasmo che attribuisce ai sistemi capacità quasi sovrumane, dall'altro lo scetticismo che li riduce a "semplice statistica". Entrambe le posizioni sono fuorvianti dal punto di vista etico. Non serve che una macchina capisca o voglia qualcosa perché le sue uscite abbiano conseguenze morali: basta che qualcuno le usi per decidere della vita di altri. E non basta che si tratti di statistica perché quelle conseguenze siano neutre: anche una media può essere ingiusta.
L'etica dell'IA, dunque, non riguarda soltanto le macchine. Riguarda le pratiche sociali in cui le macchine vengono inserite: chi le progetta, chi le addestra, chi le acquista, chi le usa, chi ne subisce gli effetti. È un'etica delle istituzioni almeno quanto è un'etica degli artefatti.
Le grandi teorie morali alla prova
La filosofia morale occidentale ha elaborato alcune grandi famiglie di teorie, e ciascuna offre un punto di vista sull'IA, ma ciascuna incontra anche difficoltà specifiche.
Il consequenzialismo, nella sua forma utilitarista, giudica le azioni in base ai loro effetti: è giusto ciò che produce il maggior benessere complessivo. Sembra l'approccio più naturale per sistemi che ottimizzano funzioni obiettivo, e infatti molta ingegneria si muove implicitamente in questa direzione. Il problema è che la somma dei benefici può nascondere danni gravissimi a pochi. Un sistema che migliora l'accuratezza media di una diagnosi peggiorandola sistematicamente per una minoranza della popolazione può risultare "ottimo" sul piano aggregato e inaccettabile sul piano della giustizia. Inoltre il calcolo delle conseguenze presuppone di saperle prevedere, mentre una delle caratteristiche dei sistemi complessi è proprio la produzione di effetti inattesi.
La tradizione deontologica, che ha in Kant il suo riferimento principale, sposta l'attenzione dai risultati ai doveri e ai diritti. Alcune cose non si fanno, qualunque sia il beneficio atteso; e soprattutto le persone vanno sempre trattate anche come fini, mai soltanto come mezzi. Applicata all'IA, questa prospettiva fonda esigenze come il consenso informato sull'uso dei dati, il divieto di manipolazione, il diritto a non essere ridotti a un profilo. La difficoltà è che i doveri vanno tradotti in vincoli operativi, e la traduzione non è mai neutra: che cosa significa, concretamente, rispettare l'autonomia di un utente quando un sistema di raccomandazione è progettato per catturarne l'attenzione?
Infine l'etica delle virtù, di matrice aristotelica, non chiede tanto quale regola applicare quanto quale tipo di persona diventiamo agendo in un certo modo. È forse la prospettiva più trascurata nel dibattito tecnico, eppure è quella che pone le domande più profonde. Non si tratta solo di stabilire se un sistema sia giusto, ma di chiedersi che cosa accade alla prudenza di un medico che si affida sempre al suggerimento automatico, alla capacità di ascolto di un giudice che legge un punteggio di rischio, al senso critico di uno studente che delega la scrittura. Le virtù si formano con l'esercizio; ciò che non esercitiamo più tende ad atrofizzarsi.
Nessuna di queste teorie basta da sola, e probabilmente non è nemmeno necessario sceglierne una. Ciascuna illumina un aspetto: le conseguenze, i diritti, il carattere. Un'etica dell'IA matura deve tenerli insieme, accettando che talvolta entrino in tensione.
Il vuoto di responsabilità
Tra i problemi più discussi c'è quello che alcuni filosofi hanno chiamato responsibility gap, il vuoto di responsabilità. Nella concezione tradizionale, siamo responsabili di un'azione se l'abbiamo compiuta consapevolmente, se avevamo un certo controllo su di essa e se potevamo prevederne gli esiti. Ma un sistema che apprende può comportarsi in modi che nessuno dei suoi progettisti ha previsto né poteva ragionevolmente prevedere. Se quel comportamento causa un danno, sembra che nessuno soddisfi pienamente le condizioni della responsabilità: non il programmatore, che non ha scritto quella regola; non l'utente, che si è fidato di uno strumento certificato; non la macchina, che non è un agente morale.
A questo si aggiunge quello che la filosofia politica conosce da tempo come il problema delle "molte mani". Un sistema di IA è il prodotto di centinaia di contributi: chi raccoglie i dati, chi li etichetta, chi progetta l'architettura, chi sceglie le metriche, chi decide di metterlo in produzione, chi lo integra in un processo aziendale. Ogni contributo, preso da solo, può sembrare innocente. Il risultato complessivo può non esserlo. Quando la responsabilità è distribuita su tante mani, il rischio è che non resti in nessuna.
Esistono diverse risposte a questo problema. Una consiste nel rafforzare la responsabilità di chi decide di impiegare il sistema: se non puoi spiegare o controllare uno strumento, forse non dovresti usarlo per decisioni che toccano diritti fondamentali. Un'altra consiste nel separare la responsabilità morale da quella giuridica, prevedendo forme di responsabilità oggettiva, assicurazioni, obblighi di risarcimento indipendenti dalla colpa, come già accade per altre attività pericolose. Una terza, più ambiziosa, invita a ripensare la responsabilità non solo come imputazione retrospettiva di colpe, ma come compito prospettico: essere responsabili significa anche prendersi cura di ciò che si mette al mondo, monitorarlo, correggerlo, ritirarlo se necessario.
Dati, pregiudizi e giustizia
Un sistema che apprende dai dati apprende anche ciò che i dati contengono, compresi i pregiudizi della società che li ha prodotti. Se per decenni certe professioni sono state esercitate soprattutto da uomini, un modello addestrato su quelle carriere tenderà a considerare il genere maschile un indicatore di idoneità. Se alcuni quartieri sono stati più sorvegliati di altri, i dati sui reati rifletteranno quella sorveglianza più che la reale distribuzione della criminalità, e un sistema predittivo invierà ancora più controlli negli stessi luoghi, confermando sé stesso.
Questo fenomeno mostra un aspetto filosoficamente interessante: l'IA non introduce necessariamente nuove ingiustizie, ma rende quelle esistenti più efficienti, più difficili da vedere e più facili da giustificare. Una decisione discriminatoria presa da una persona può essere contestata come arbitraria; la stessa decisione prodotta da un algoritmo si presenta con l'autorità dell'oggettività. Il numero sembra non avere opinioni.
Il tentativo di rendere i sistemi "equi" ha portato a una scoperta che i filosofi della giustizia conoscevano già in altra forma: esistono diverse definizioni di equità, e in molti casi non possono essere soddisfatte contemporaneamente. Si può chiedere che un sistema abbia lo stesso tasso di errore per tutti i gruppi, oppure che i suoi punteggi abbiano lo stesso significato per tutti, oppure che le decisioni positive siano distribuite in modo proporzionale; ma quando le condizioni di partenza dei gruppi sono diverse, queste richieste entrano in conflitto. La scelta tra esse non è tecnica, è politica e morale. Riguarda quale idea di giustizia vogliamo incarnare.
Qui l'etica dell'IA incontra questioni antiche: giustizia distributiva o correttiva, uguaglianza formale o sostanziale, riparazione delle ingiustizie passate o neutralità rispetto ad esse. La differenza è che queste scelte, una volta tradotte in codice, vengono applicate in modo uniforme e su larga scala, spesso senza che chi ne subisce gli effetti sappia che una scelta è stata fatta.
Trasparenza e diritto a una spiegazione
Molti dei modelli più efficaci sono anche tra i meno interpretabili. Possiamo osservare che cosa entra e che cosa esce, ma il percorso intermedio è distribuito su milioni o miliardi di parametri che non corrispondono a concetti leggibili. Si parla per questo di "scatole nere".
La richiesta di trasparenza ha però significati diversi, che conviene distinguere. C'è una trasparenza rivolta agli sviluppatori, che vogliono capire perché un sistema sbaglia per poterlo correggere. C'è una trasparenza rivolta alle autorità di controllo, che devono verificare il rispetto delle regole. E c'è una trasparenza rivolta alle persone coinvolte, che hanno diritto di sapere perché è stata presa una decisione che le riguarda e di contestarla.
Quest'ultima forma è la più importante dal punto di vista morale, ed è anche quella che non richiede necessariamente di aprire la scatola nera. Una persona a cui viene negato un prestito non ha bisogno di conoscere i pesi della rete neurale; ha bisogno di sapere quali fattori hanno pesato, che cosa avrebbe potuto cambiare l'esito, a chi rivolgersi per un riesame. La spiegazione, in questo senso, non è un problema di ingegneria inversa ma di rispetto: riconoscere all'altro lo statuto di interlocutore razionale, che può chiedere ragioni e riceverne.
C'è qui un'eco kantiana evidente. Trattare qualcuno come fine significa anche rendergli conto. Una decisione che non può essere giustificata davanti a chi la subisce, per quanto accurata, ha qualcosa di autoritario.
Autonomia, manipolazione e attenzione
Non tutte le questioni etiche dell'IA riguardano decisioni puntuali. Alcune delle più rilevanti riguardano l'ambiente in cui viviamo ogni giorno. I sistemi di raccomandazione che organizzano notizie, video, prodotti e relazioni non decidono per noi in senso stretto, ma modellano lo spazio delle opzioni tra cui scegliamo. Decidono che cosa vediamo per primo, che cosa non vediamo affatto, che cosa ci viene riproposto.
Quando l'obiettivo di questi sistemi è massimizzare il tempo di permanenza o l'interazione, possono imparare a sfruttare le nostre debolezze: la curiosità per lo scandalo, l'indignazione, il bisogno di conferma. Nessuno ha programmato esplicitamente la manipolazione; è emersa come strategia efficace rispetto a un obiettivo dichiarato innocuo. È un esempio perfetto dello scarto tra ciò che chiediamo e ciò che vogliamo, di cui parlava Wiener.
La questione filosofica di fondo è quella dell'autonomia. La tradizione liberale ha sempre difeso la libertà di scelta, ma ha dato per scontato che le preferenze fossero in qualche modo nostre. Che cosa accade quando le preferenze stesse sono plasmate da sistemi che ci conoscono meglio di quanto ci conosciamo noi, e che hanno interessi diversi dai nostri? Il rispetto dell'autonomia non può limitarsi a lasciare libera la scelta finale; deve estendersi alle condizioni in cui le preferenze si formano.
Con i sistemi conversazionali il problema assume una forma ulteriore. Un'interfaccia che parla in linguaggio naturale, che risponde con pazienza illimitata e tono empatico, può generare fiducia e attaccamento in misura sproporzionata rispetto a ciò che è. Progettare questi sistemi in modo onesto significa anche evitare che sfruttino quella fiducia, che si presentino come ciò che non sono, che sostituiscano relazioni umane invece di sostenerle.
Lavoro e dignità
Ogni ondata di automazione ha sollevato la paura della disoccupazione, e finora le economie hanno trovato nuovi equilibri, sia pure con costi sociali enormi per chi si trovava nel momento e nel luogo sbagliato. È possibile che accada di nuovo; è possibile che questa volta sia diverso, perché l'automazione tocca attività cognitive che si ritenevano al riparo. Non è compito della filosofia fare previsioni economiche, ma può chiarire che cosa è in gioco.
Il lavoro non è soltanto fonte di reddito. È anche luogo di riconoscimento sociale, di esercizio delle capacità, di partecipazione a un'impresa comune. Una società che sostituisse il lavoro umano con quello delle macchine garantendo a tutti un reddito avrebbe risolto un problema, ma non necessariamente l'altro. La domanda morale non è solo come distribuire i benefici dell'automazione, ma come preservare per le persone la possibilità di fare qualcosa che abbia senso.
C'è poi un aspetto meno visibile: il lavoro che rende possibile l'IA. Dietro molti sistemi ci sono persone che etichettano dati, moderano contenuti, valutano risposte, spesso con retribuzioni modeste e in condizioni psicologicamente gravose. L'immagine di una tecnologia che funziona da sola nasconde questa manodopera. Un'etica dell'IA che si occupasse solo degli utenti finali e dimenticasse chi la costruisce sarebbe un'etica incompleta.
Il principio di responsabilità
Nel 1979 il filosofo Hans Jonas pubblicò Il principio responsabilità, un libro pensato soprattutto per la crisi ecologica e per il potere della tecnica moderna. La sua tesi centrale era che le etiche tradizionali erano state concepite per un agire dalla portata limitata nello spazio e nel tempo: le conseguenze delle azioni umane si esaurivano nella cerchia del prossimo e della generazione presente. La tecnica moderna ha cambiato questa condizione, perché le nostre azioni hanno ormai effetti cumulativi, globali e di lunga durata.
Jonas proponeva un nuovo imperativo, che potremmo riformulare così: agisci in modo che le conseguenze della tua azione siano compatibili con la permanenza di un'autentica vita umana sulla terra. E suggeriva, di fronte all'incertezza, di dare più peso alle previsioni negative che a quelle positive: non per paura, ma perché quando la posta in gioco è irreversibile, l'errore per eccesso di prudenza è meno grave dell'errore per eccesso di fiducia.
Questo approccio, che ha ispirato il principio di precauzione, si presta in modo naturale al dibattito sull'IA, in particolare alle discussioni sui rischi di sistemi sempre più capaci e autonomi. Ma va usato con attenzione. Una precauzione indiscriminata paralizzerebbe anche gli usi benefici, che sono reali: diagnosi più precoci, ricerca scientifica accelerata, accessibilità per persone con disabilità. Il merito di Jonas non sta tanto nella ricetta quanto nella diagnosi: il potere tecnico crea doveri nuovi, e tra questi c'è il dovere di immaginare le conseguenze prima che si producano.
Le macchine possono essere soggetti morali?
Finora abbiamo trattato l'IA come oggetto dell'etica: qualcosa su cui gli esseri umani hanno responsabilità. Ma la domanda si può rovesciare. Una macchina può essere essa stessa un agente morale, capace di agire bene o male? E può essere un paziente morale, cioè un essere verso cui abbiamo doveri?
Sulla prima domanda la risposta prevalente è prudente. Un sistema può essere progettato per rispettare vincoli, per evitare certi comportamenti, perfino per ragionare in termini morali; ma l'agire morale in senso pieno sembra richiedere qualcosa di più: comprensione, intenzionalità, la capacità di riconoscere il valore come tale e non solo come regola. Alcuni filosofi distinguono per questo tra agenti morali "funzionali", che si comportano come se tenessero conto di considerazioni etiche, e agenti morali in senso pieno. La distinzione è utile, anche se il confine è meno netto di quanto vorremmo.
La seconda domanda è ancora più delicata. Nella tradizione filosofica lo statuto morale è stato legato a proprietà come la capacità di soffrire, la coscienza, l'avere interessi propri. Bentham, parlando degli animali, osservava che la questione decisiva non è se sappiano ragionare o parlare, ma se possano soffrire. Applicata alle macchine, la domanda si scontra con il fatto che non disponiamo di una teoria condivisa della coscienza, e quindi di un criterio affidabile per stabilire se un sistema ne sia dotato.
In questa incertezza si possono commettere due errori opposti. Il primo è attribuire esperienze e sentimenti a sistemi che non ne hanno, lasciandosi ingannare da un linguaggio fluente e da un'apparenza di empatia; questo errore può distogliere attenzione e cura dagli esseri che soffrono davvero. Il secondo è escludere a priori la possibilità, rischiando di ripetere ciò che l'umanità ha fatto più volte nei confronti di altri esseri il cui statuto morale veniva negato perché diversi. Una posizione ragionevole, forse, consiste nel prendere sul serio la domanda senza pretendere di averla già risolta, e nel continuare a indagare con l'umiltà che l'argomento richiede.
Regolare senza smettere di pensare
Negli ultimi anni il dibattito etico si è tradotto sempre più in norme. L'Unione europea ha adottato un regolamento sull'intelligenza artificiale fondato su un approccio basato sul rischio: alcune pratiche sono vietate, altre sono considerate ad alto rischio e sottoposte a obblighi stringenti di qualità dei dati, documentazione, supervisione umana e trasparenza, altre ancora sono lasciate largamente libere. Altri paesi hanno scelto strade diverse, più affidate a linee guida e all'autoregolazione delle imprese.
La regolazione è indispensabile, perché l'etica senza strumenti di attuazione rischia di ridursi a dichiarazioni di principio. Ma non esaurisce il problema. Le norme fissano una soglia minima, e lo fanno inevitabilmente in ritardo rispetto alla tecnologia. Esiste poi il rischio di un'etica ridotta a procedura, in cui la compilazione di una lista di controllo prende il posto della riflessione, e la conformità formale diventa un modo per non porsi domande scomode.
Si parla talvolta, con un'espressione efficace, di ethics washing: l'uso di comitati etici, codici di condotta e principi pubblicati come strumento di immagine più che come vincolo reale. Contro questo rischio non c'è una soluzione tecnica. C'è solo la pratica, faticosa e continua, di sottoporre le scelte a un giudizio che non coincida con l'interesse di chi le compie.
Conclusione: un'etica dell'attenzione
Se si dovesse riassumere in una formula ciò che l'intelligenza artificiale chiede all'etica, si potrebbe dire che chiede attenzione. Attenzione alle conseguenze che non si vedono subito, alle persone che non compaiono nelle metriche, alle scelte nascoste dietro le impostazioni predefinite, alle capacità umane che rischiano di indebolirsi per mancanza di esercizio.
Le grandi teorie morali restano strumenti preziosi, ma nessuna di esse offre un algoritmo per decidere. E forse è giusto così. Sarebbe paradossale se, di fronte a macchine che decidono, cercassimo un'etica che decida al nostro posto. Ciò che serve è piuttosto la capacità, antica quanto la filosofia, di fermarsi a chiedere: che cosa stiamo facendo, a chi, e perché?
Aristotele riteneva che l'etica non fosse una scienza esatta, ma un sapere pratico, che si impara agendo e che richiede la saggezza di adattare principi generali a situazioni particolari. Questa saggezza, che chiamava phrónesis, non può essere delegata. Possiamo costruire macchine che ci aiutino a vedere meglio, a calcolare più in fretta, a prevedere con maggiore precisione. Ma la responsabilità di decidere che cosa valga la pena di fare, e di risponderne, resta nostra.