L’intelligenza artificiale può rappresentare una straordinaria opportunità per l’umanità, ma non deve trasformarsi in uno strumento capace di decidere autonomamente il destino delle persone. Soprattutto quando in gioco c’è una vita umana, la responsabilità non può essere trasferita alle macchine. È il messaggio forte lanciato da Papa Leone XIV, che torna a mettere al centro del dibattito tecnologico il primato della persona, la responsabilità degli esseri umani e la necessità di regole internazionali condivise.
Ricevendo nella mattinata di venerdì 30 ottobre, nella sala del Concistoro del Palazzo Apostolico Vaticano, circa venti partecipanti al convegno “Il futuro dell’IA: un dialogo tra il Vaticano e il mondo scientifico sugli sviluppi e le applicazioni delle tecnologie intelligenti”, il Pontefice ha ribadito una posizione che rappresenta uno dei punti fermi del magistero della Chiesa: l’uomo non deve mai affidare all’intelligenza artificiale la decisione di togliere la vita a un altro essere umano.
Le parole pronunciate da Papa Francesco nel giugno 2024, durante il suo intervento ai leader del G7, restano, secondo Leone XIV, «più rilevanti che mai». Un richiamo che assume particolare significato in una fase nella quale lo sviluppo delle tecnologie intelligenti procede rapidamente, mentre la capacità della politica e delle istituzioni di stabilire limiti condivisi appare ancora insufficiente.
L’incontro, organizzato dalla Pontificia Accademia per la Vita insieme al Future of Life Institute e ospitato alla Casina Pio IV, ha offerto l’occasione per un confronto tra il mondo scientifico e la Santa Sede su opportunità, rischi e responsabilità legati all’intelligenza artificiale. Nel suo discorso in lingua inglese, il Papa ha riconosciuto che è comprensibile avvertire «un certo senso di disagio» di fronte all’evoluzione di queste tecnologie. Tutti, ha osservato, sembrano riconoscere la direzione da intraprendere, ma «non si sta facendo abbastanza per andare avanti».
Da qui l’importanza del dialogo tra competenze diverse e della capacità di trasformare le preoccupazioni in proposte concrete. Leone XIV ha ricordato anche la sua enciclica Magnifica humanitas, nella quale ha affrontato più ampiamente le questioni etiche e sociali legate all’intelligenza artificiale. Nel suo intervento ha individuato cinque considerazioni, strettamente collegate tra loro, che delineano una precisa visione politica e culturale del futuro tecnologico.
Il primo principio riguarda la possibilità stessa di orientare lo sviluppo dell’intelligenza artificiale. Il suo futuro, ha sottolineato il Pontefice, «non è predeterminato»: trattandosi di una tecnologia realizzata dall’uomo, dipende dalle scelte umane. La società ha quindi la responsabilità di guidarne le applicazioni, modificarle e, quando necessario, anche rifiutarle.
Non è la velocità il criterio con cui misurare il progresso. Considerare l’intelligenza artificiale una corsa da vincere rischia di far dimenticare le persone che rimangono indietro, alimentando nuove disuguaglianze. Per Leone XIV è preferibile un sistema affidabile, capace di rimanere al servizio dell’uomo, rispetto a una tecnologia estremamente potente ma dalle conseguenze difficili da prevedere e controllare.
Il secondo passaggio riguarda la distinzione tra esseri umani e macchine. «Le macchine sono strumenti, non persone», ha affermato il Papa, mettendo in guardia anche dalle proposte di riconoscere ai sistemi di intelligenza artificiale diritti o persino una personalità giuridica. Una prospettiva che, a suo giudizio, rischierebbe di indebolire la responsabilità umana e di lasciare chi subisce un danno davanti a un'entità priva di un volto e di una reale responsabilità.
Richiamando il paragrafo 99 della Magnifica humanitas, Leone XIV ha ricordato che le macchine «non provano gioia o dolore, non maturano attraverso le relazioni e non sanno dall'interno che cosa significhino l'amore, il lavoro, l'amicizia o la responsabilità». Una differenza sostanziale che impedisce di attribuire agli algoritmi un ruolo decisionale equivalente a quello delle persone, soprattutto nelle questioni che riguardano diritti fondamentali ed esistenza umana.
È proprio sulla tutela della vita che il Pontefice ha pronunciato il passaggio più netto del suo intervento. «Le decisioni che riguardano la vita umana, la libertà e l'uso della forza devono sempre rimanere soggette a una supervisione umana efficace, informata e responsabile». Non si tratta, dunque, di un controllo puramente formale, ma di una presenza umana in grado di comprendere, valutare e assumersi la responsabilità delle decisioni.
L'intelligenza artificiale deve essere, nelle parole del Papa, «disarmata». Un'espressione che assume un significato particolarmente concreto in vista della settima Conferenza di riesame della Convenzione su certe armi convenzionali, in programma a Ginevra dal 16 al 20 novembre. Leone XIV ha incoraggiato gli Stati a compiere passi concreti verso la messa al bando delle armi autonome letali, riaffermando che la decisione di uccidere non può essere affidata a un sistema tecnologico.
Il tema investe direttamente le responsabilità dei governi e degli organismi internazionali. La diffusione di sistemi autonomi in ambito militare apre infatti interrogativi che riguardano non soltanto la sicurezza degli Stati, ma anche il diritto internazionale, la protezione dei civili e i limiti entro i quali può essere esercitato l'uso della forza.
Il quarto principio indicato dal Pontefice riguarda la finalità stessa dell'innovazione: «Le tecnologie intelligenti devono essere orientate al bene comune». I benefici del progresso, ha spiegato, devono essere condivisi in maniera equa, promuovendo solidarietà e partecipazione all'interno della comunità globale, con particolare attenzione alle persone e alle popolazioni più vulnerabili.
L'intelligenza artificiale non deve diventare un fine in sé, né uno strumento destinato esclusivamente a rafforzare gli interessi di pochi soggetti privilegiati. L'accesso alle opportunità offerte dall'innovazione deve essere garantito con criteri di giustizia, rendendo disponibili a tutti cure, conoscenze, strumenti e nuove possibilità di sviluppo.
È un passaggio che porta il discorso papale direttamente sul terreno economico e sociale. La trasformazione tecnologica, infatti, rischia di ampliare le distanze tra Paesi, territori e fasce della popolazione se i suoi vantaggi rimangono concentrati nelle mani di chi dispone già di risorse, competenze e potere economico. Per questo la questione dell'intelligenza artificiale non può essere lasciata soltanto agli scienziati o alle imprese che sviluppano i nuovi sistemi: riguarda la politica, le istituzioni e la capacità delle società di governare il cambiamento.
La quinta considerazione, che Leone XIV definisce la sfida più urgente, riguarda proprio la costruzione di istituzioni adeguate. «Ciò di cui abbiamo attualmente bisogno sono istituzioni capaci di mettere in pratica questi principi, in particolare istituzioni internazionali efficaci che possano salvaguardare il bene comune globale», ha affermato.
Il Papa chiede quindi standard condivisi, forme di supervisione indipendente e meccanismi chiari per attribuire le responsabilità. Le decisioni sullo sviluppo e sull'impiego dell'intelligenza artificiale devono poter essere governate, contestate quando necessario e accompagnate da strumenti di riparazione per gli eventuali danni provocati.
È un appello che chiama in causa direttamente la politica internazionale e la sua capacità di non lasciare che il ritmo dell'innovazione venga stabilito esclusivamente dagli interessi economici e strategici dei soggetti più potenti. Senza regole efficaci, il rischio è che una tecnologia destinata a migliorare la vita delle persone finisca per accentuare le disuguaglianze, ridurre gli spazi di responsabilità e rendere più difficile individuare chi debba rispondere delle conseguenze delle proprie decisioni.
Nel concludere l'incontro, Leone XIV ha ringraziato i partecipanti per il contributo offerto e li ha incoraggiati a proseguire il lavoro comune «in uno spirito di dialogo e di responsabilità condivisa per il bene comune». Un messaggio che va oltre il confronto scientifico e tecnologico: il futuro dell'intelligenza artificiale non è soltanto una questione di capacità delle macchine, ma soprattutto di responsabilità degli uomini. E su una questione fondamentale, quella della vita umana, per il Papa non possono esserci deleghe.