Il dibattito sull’intelligenza artificiale si arricchisce di un nuovo capitolo con la pubblicazione della prima enciclica di Papa Leone XIV, intitolata Magnifica Humanitas. Il documento, presentato in Vaticano alla presenza di esperti internazionali, analizza le implicazioni etiche, sociali e politiche delle nuove tecnologie, ponendo l’accento sulla necessità di evitare monopoli e di implementare normative adeguate. Contestualmente, emergono nuove criticità sul fronte della sicurezza informatica e della sostenibilità economica per le aziende del settore. Un’inchiesta recente ha infatti evidenziato le vulnerabilità dei modelli linguistici aperti, facilmente manipolabili per aggirare i filtri di protezione, mentre alcune grandi corporazioni segnalano costi di gestione crescenti e spesso sproporzionati rispetto ai benefici reali sui servizi. La riflessione unisce le preoccupazioni della Chiesa, la voce dei ricercatori e le dinamiche di mercato, delineando un quadro complesso che richiede risposte condivise.
L’enciclica Magnifica Humanitas e la visione etica della tecnologia
Cosa ci fanno un ateo e un Papa, seduti fianco a fianco nell’Aula del Sinodo? Hanno trovato un punto in comune: l’intelligenza artificiale non può essere lasciata nelle mani di pochi. L’insolita scena – e per certi versi inedita – si è consumata lunedì scorso in Vaticano, quando Leone XIV ha presentato personalmente, con l’ausilio di un panel di esperti – la sua prima enciclica, Magnifica Humanitas, dedicata alla salvaguardia della persona umana nell’era dell’intelligenza artificiale. Un documento firmato il 15 maggio, nel 135° anniversario della Rerum Novarum di Leone XIII: un parallelismo voluto, che collega la rivoluzione industriale di fine Ottocento a quella in corso. Qual è il quadro tracciato da Papa Prevost? Primo orizzonte: i protagonisti dello sviluppo dell’IA sono aziende private e transnazionali che già superano la capacità economica di molti governi; Secondo orizzonte: la tecnologia non è mai neutrale. Così Leone XIV chiede di rendere l’IA «human-friendly» e di sottrarla al controllo monopolistico, avvertendo che rischia di ridurre le persone a ingranaggi di una macchina dell’efficienza, per questo il Papa invoca «quadri giuridici solidi, supervisione indipendente, utenti informati e un sistema politico che non abdichi alla propria responsabilità». Sul fronte militare, l’auspicio è che le decisioni letali non vengano delegate all’IA, perché «nessun algoritmo può rendere la guerra moralmente accettabile». Accanto al Papa, ha preso la parola Christopher Olah, cofondatore di Anthropic, l’azienda proprietaria di Claude: Olah, che si dichiara ateo, ha riconosciuto con franchezza che «ogni laboratorio di IA di frontiera, compreso Anthropic, opera all’interno di incentivi e vincoli che possono entrare in conflitto con la necessità di fare la «cosa giusta»», poi ha aggiunto un dettaglio: i ricercatori stanno scoprendo strutture nei modelli di IA che rispecchiano i risultati delle neuroscienze umane: tracce di introspezione e stati d’animo interni che richiamano gioia, paura, dolore e inquietudine…«non so cosa significhi, ma credo meriti un discernimento continuo», ha concluso.
Le vulnerabilità informatiche dei sistemi aperti
Il Financial Times, contestualmente alla pubblicazione dell’enciclica, ha reso nota un’inchiesta che, in qualche modo, conferma le urgenze del testo di Prevost: un giornalista del quotidiano britannico è riuscito a rimuovere le protezioni di sicurezza dal modello Llama 3.3 di Meta in meno di dieci minuti, usando uno strumento gratuito disponibile online chiamato Heretic e quattro righe di codice, senza alcun hardware «complesso». Il modello modificato ha risposto a domande su armi biologiche che in condizioni normali avrebbe dovuto rifiutatare…anche una versione alterata di Gemma 3, modello di Google, ha fornito risposte pericolose. Il creatore di Heretic ha dichiarato che il suo software ha prodotto oltre 3.500 modelli «decensored» (privati di censure), scaricati 13 milioni di volte: la tecnica funziona solo sui modelli open source, mentre i sistemi proprietari restano «protetti». Google ha definito il problema «una sfida tecnica nota per tutti i modelli aperti», Meta, invece, non ha rilasciato commenti.
Sostenibilità economica e necessità di regole condivise
Sul fronte delle imprese, il direttore operativo di Uber, Andrew Macdonald, ha sollevato una questione: i costi dell’IA stanno diventando difficili da sostenere…l’azienda ha esaurito in soli quattro mesi il budget annuale destinato agli strumenti di programmazione basati sull’IA, ormai il 95% degli ingegneri li utilizza…eppure Macdonald non riesce a collegare questa spesa crescente a miglioramenti nei servizi offerti ai clienti. L’enciclica papale e l’inchiesta allarmante del Financial Times hanno reso evidente ciò che Leone XIV scrive in Magnifica Humanitas: le domande poste dall’intelligenza artificiale sono più grandi della comunità che la sviluppa e le risposte non possono arrivare solo da chi scrive codice.
