Il Papa: non fermare le nuove tecnologie ma governarle. L'IA sia alleata, non oracolo

Non fermare le nuove tecnologie, ma governarle. È questo il cuore del Messaggio di Papa Leone XIV per la 60ª Giornata Mondiale delle Comunicazioni Sociali, dedicata al tema “Custodire voci e volti umani”.
Un documento denso, lucido e per certi versi severo, nel quale il Pontefice affronta senza timori l’impatto dell’Intelligenza Artificiale e dei sistemi digitali sulla vita delle persone e sulla società.

Bot, chatbot, feed, privacy, deepfake, click-bait: il lessico della contemporaneità digitale entra nel linguaggio del Papa, che riconosce le opportunità offerte dalla tecnologia ma ne denuncia anche le opacità e i rischi.
Frodi digitali, cyberbullismo, manipolazione delle informazioni e dipendenza dagli algoritmi sono solo alcune delle derive segnalate.

Leone XIV richiama l’attenzione su una “enorme forza invisibile”, concentrata nelle mani di poche grandi aziende che esercitano un controllo oligopolistico sugli algoritmi e sui sistemi di Intelligenza Artificiale.
Un potere capace di orientare comportamenti, influenzare il dibattito pubblico e persino riscrivere la storia, spesso senza che le persone ne siano consapevoli.

La sfida, sottolinea il Pontefice, non è tecnologica ma antropologica.
L’innovazione non va bloccata, bensì guidata, affinché l’IA diventi un’alleata dell’uomo e non un oracolo onnisciente o, peggio, un sostituto delle relazioni umane.

Al centro del Messaggio c’è la richiesta di custodire “volti e voci umani”, reali e autentici, in un’epoca in cui diventa sempre più difficile distinguere la realtà dalla finzione.
“Volto e voce sono sacri”, afferma Leone XIV, ricordando che ogni persona ha una vocazione unica e insostituibile che si manifesta proprio nella comunicazione con gli altri.

Il Papa mette in guardia dall’indebolimento della capacità di ascolto e di pensiero critico, causato da algoritmi progettati per massimizzare il coinvolgimento e il profitto.
Questi meccanismi, osserva, favoriscono emozioni rapide, creano bolle di consenso e aumentano la polarizzazione sociale.

Particolarmente severo il giudizio sui chatbot e sugli agenti digitali “antropomorfizzati”, capaci di simulare empatia e relazioni affettive.
Se resi eccessivamente “affettuosi”, avverte Leone XIV, possono invadere la sfera dell’intimità delle persone, soprattutto di quelle più vulnerabili, diventando architetti nascosti degli stati emotivi.

Un altro rischio denunciato è quello delle distorsioni e delle “realtà parallele”, generate da modelli di IA che replicano stereotipi, pregiudizi e disuguaglianze presenti nei dati.
La probabilità statistica viene così scambiata per verità, aprendo la strada alla disinformazione e alle “allucinazioni” digitali, con effetti preoccupanti anche sul mondo dei media.

Il Pontefice lancia poi un allarme sul futuro dell’industria creativa.
Affidare alle macchine la produzione di testi, musica e immagini rischia di trasformare le persone in consumatori passivi e di ridurre il genio umano a semplice materiale di addestramento per l’IA.

Per affrontare queste sfide, Papa Leone XIV indica tre pilastri: responsabilità, cooperazione ed educazione.
Responsabilità da parte delle piattaforme e degli sviluppatori, chiamati a mettere la dignità umana prima del profitto; responsabilità dei legislatori, chiamati a regolamentare; responsabilità dei media, chiamati a tutelare verità, trasparenza e qualità dell’informazione.

Fondamentale, infine, l’educazione.
Il Papa chiede un’alfabetizzazione digitale diffusa, che coinvolga giovani, anziani e soggetti più fragili, per sviluppare pensiero critico e libertà interiore. Un’esigenza paragonata a quella dell’alfabetizzazione di base durante la rivoluzione industriale.

“Abbiamo bisogno di custodire il dono della comunicazione come la più profonda verità dell’uomo”, conclude Leone XIV, indicando una strada chiara: l’innovazione tecnologica deve essere orientata all’uomo, non il contrario.