Leone XIV: perché l'Intelligenza Artificiale va disarmata

Il capitolo III della Magnifica Humanitas, dal titolo Tecnica e dominio. La grandezza della persona umana davanti alle promesse dell’IA, è quello centrale, dove il Papa va a fondo delle questioni antropologiche sollevate dal fenomeno dell’intelligenza artificiale.
L’enciclica esprime giudizi molto dettagliati su vari aspetti (e li vedremo) ma in questo capitolo il Papa ha inserito alcune pagine di lettura cristiana dell’esistenza umana che meritano di essere sottolineate. Non sono un pensiero spirituale che completa i punti più tecnici e politici, ma rappresentano lo sguardo della Chiesa sull’umanità di oggi.
Queste pagine arrivano dopo che Leone XIV ha criticato i movimenti culturali del postumanesimo e del transumanesimo, visti come «il sogno di oltrepassare i limiti della condizione umana». Invece, avverte il pontefice, «dobbiamo ricordare che l’umano non fiorisce malgrado il limite, ma spesso attraverso il limite».

Il limite come valore insopprimibile

Il limite non è dunque un ostacolo alla pienezza dell’umano, ma «è proprio nel nostro essere limitati che trovano spazio la compassione, la sincera inquietudine di fronte ai bisogni degli altri, la generosità che sorprende anche in mezzo all’oscurità e al fallimento, l’esperienza spirituale e l’adorazione di Dio»
Non solo, il Papa compie un ulteriore passaggio: «Anche quando il limite si manifesta come dolore interiore, l’umana saggezza insegna a non rimuoverlo né a sopprimerlo, ma a integrarlo. Per sopprimere totalmente il dolore bisognerebbe, in fondo, spegnere anche l’amore e il desiderio» perché «chi ama e desidera, infatti, non può evitare di passare attraverso la prova e la sofferenza».
Peraltro è sotto gli occhi di tutti che «La corruzione morale del nostro limite creaturale – il male che con evidenza agita il cuore dell’uomo – rovina la società e la vita, giungendo fino a punte estreme di disumanità». Ma in ogni situazione di degrado vince sempre la scintilla divina che il Creatore ha impresso nel cuore dell’uomo.
L’enciclica a questo punto cita un autore molto caro a don Oreste Benzi, Victor Frankl: «l’uomo è quell’essere che ha inventato le camere a gas di Auschwitz; tuttavia è anche quell’essere che è entrato proprio in quelle camere a gas con la preghiera del Signore o lo Shemá Israel sulle labbra»
Insomma, il Papa ricorda che quando il limite umano, qualunque esso sia, è accolto nella sua verità, apre al riconoscimento del volto di Dio, apre all’altro, al riconoscimento della dignità propria e altrui, porta ad intuire una fraternità più grande.
Non ci sono solo le moderne tecnologie che promettono di superare ogni limite e di raggiungere uno stadio “più che umano”. «Da secoli, la tradizione cristiana afferma che l’essere umano non è chiuso nei confini della propria natura, ma è chiamato a trascendere se stesso: non per fuga dalla realtà o per disprezzo del limite, bensì per essere compiuto nell’amore. La fede conosce un “oltre” che nasce dal dono di Dio». Il più che umano è il centuplo del Vangelo.

L'IA non è neutra e non prova vera compassione 

Venendo ai contenuti specifici, l’enciclica sostiene che «Non è possibile dare una definizione univoca e completa dell’IA. Ciò che possiamo affermare è che occorre evitare l’equivoco di equiparare questa “intelligenza” a quella umana. Questi sistemi imitano alcune funzioni dell’intelligenza umana». Sembra un’affermazione scontata, ma non lo è, nel dibattito pubblico si tende ad equiparare IA e intelligenza umana.
 La seconda affermazione proposta da Papa Prevost è ancor più dirimente: «L’uso dell’IA non è mai un fatto puramente tecnico: quando entra in processi che incidono sulla vita delle persone, essa tocca diritti, opportunità, reputazione, libertà. Decisioni delicate che toccano il lavoro, il credito, l’accesso ai servizi e la reputazione delle persone rischiano di essere affidate completamente a sistemi automatizzati che non conoscono «la compassione, la misericordia, il perdono e, soprattutto, l’apertura alla speranza di un cambiamento della persona», e possono così produrre nuove forme di scarto. (…)
«Da questo deriva una conseguenza semplice ma stringente: non possiamo considerare l’IA moralmente neutra. In realtà, ogni artefatto tecnico porta con sé scelte e priorità: ciò che misura, ciò che ignora, ciò che ottimizza e il modo in cui classifica persone e situazioni. Se un sistema viene concepito o impiegato in modo da trattare alcune vite come meno degne, o da escluderle senza possibilità di appello, esso non è un semplice strumento “da usare bene”: introduce già un criterio che contraddice la dignità inalienabile della persona».
Per chi ha l’età di Prevost vengono in mente i dibattiti culturali sulla non neutralità della scienza, in voga negli anni Settanta. Oggi, come allora, è sempre la Chiesa a sollevare domande sulla neutralità della scienza (ieri) e della tecnica (oggi).

Chi controlla l'IA accresce il proprio potere

Domande che vengono suscitate dal fatto che «l’IA tende ad accrescere soprattutto il potere di chi dispone già di risorse economiche, competenze e accesso ai dati. Alla luce del bene comune e della destinazione universale dei beni, questo fenomeno desta seria preoccupazione: piccoli gruppi molto influenti possono orientare informazione e consumi, condizionare processi democratici e incidere sulle dinamiche economiche a proprio vantaggio, contraddicendo la giustizia sociale e la solidarietà tra i popoli»
Ecco perché la Chiesa vuole giudicare i tempi nuovi dell’IA. Anzi, l’enciclica offre un piccolo saggio di questo giudizio dei cristiani sul fenomeno dell’IA. «I principi della Dottrina sociale ci aiutano a leggere questa nuova realtà. In un mondo dove pochi soggetti concentrano dati, capitale computazionale e capacità normativa, parlare di bene comune significa smascherare questa nuova asimmetria epistemica, economica e politica, nominando i nuovi monopoli dell’IA. Parlare di destinazione universale dei beni significa trovare modi per assicurare l’accesso universale alle tecnologie e alla formazione. Parlare di sussidiarietà chiede di proteggere la capacità delle comunità di scegliere e correggere, senza relegare il loro intervento a una vigilanza, dopo che gli standard sono stati scritti altrove. Parlare di solidarietà obbliga a riconoscere il lavoro invisibile, spesso sfruttato, che alimenta i modelli algoritmici. Parlare di giustizia impone di interrogare le geografie del potere che definiscono chi può addestrare i modelli e chi è solo oggetto di addestramento, e riconoscere che la giustizia sociale non è solo un obiettivo da tutelare dopo l’adozione delle tecnologie, ma una condizione previa da praticare nel loro stesso disegno».

Sottrarre l'IA ai monopoli

L’ultima parola è ormai un marchio di fabbrica di Leone XIV: disarmare. Anche l’IA va disarmata. Che significa? «Disarmare l’IA significa sottrarla alla logica della competizione armata, che oggi non è più solo militare ma economica e cognitiva. È la corsa all’algoritmo più performante e alla banca dati più vasta, al fine di consolidare un vantaggio geopolitico o commerciale su tutti gli altri. Disarmare vuol dire rompere questa equivalenza tra potenza tecnica e diritto di governare. Disarmare non significa rinunciare alla tecnologia, ma impedirle di dominare l’umano. Significa sottrarla ai monopoli, renderla discutibile, contestabile, e quindi abitabile, restituendola alla pluralità delle culture umane e delle forme di vita. Il compito, oggi, non è solo etico o tecnico: è ecologico nel senso più radicale, perché chiama in causa una nuova dimensione della nostra Casa comune. L’IA è già ambiente in cui siamo immersi e potere con cui dobbiamo fare i conti. Per questo, non basta regolarla: va disarmata e resa ospitale».

(il primo dei tre approfondimenti è stato pubblicato il 4 agosto, il terzo e ultimo sarà pubblicato sabato 22 agosto e affronterà tre temi cruciali: la verità, il lavoro, la libertà)