Ai Overview: Il dibattito attorno allo sviluppo dell’intelligenza artificiale registra una crescita di attenzione sui temi della sicurezza, della governance politica e dei risvolti etici e dottrinali. Dalle dimissioni dei responsabili dei sistemi di controllo di OpenAI alle riflessioni promosse da Anthropic con studiosi e leader religiosi, fino agli interventi della Santa Sede e delle istituzioni statunitensi, la gestione delle tecnologie emergenti richiede un’attenta valutazione dei rischi e delle garanzie di tutela per la società.
La gestione dei rischi nei sistemi avanzati e le critiche ai metodi di testing
David Robinson ha lasciato OpenAI dopo tre anni e mezzo trascorsi nell’azienda che sviluppa ChatGPT, dove si occupava di sicurezza dei sistemi: ha guidato la redazione dei rapporti pubblicati in occasione dei principali lanci, seguendo quelli relativi a 12 modelli di frontiera, e ha guidato la stesura dell’attuale Preparedness Framework, il sistema utilizzato da OpenAI per valutare i rischi dei modelli più avanzati. Sabato Robinson ha spiegato le ragioni delle dimissioni in un articolo pubblicato da The Atlantic, dal titolo «Ho lasciato OpenAI perché la sua cultura interna è compromessa», dove ha criticato soprattutto il metodo con cui vengono sviluppati e messi alla prova i sistemi di intelligenza artificiale. Secondo Robinson, il settore ha fatto largo affidamento sul cosiddetto «iterative deployment»: si sviluppano sistemi sempre più capaci, se ne osservano i comportamenti e si interviene sui problemi che emergono. Un approccio che, a suo dire, diventa più rischioso con l’aumento delle capacità e dell’autonomia dei modelli: «il tempo dei tentativi e degli errori è finito», ha scritto. Robinson propone di adottare criteri di sicurezza più vicini a quelli utilizzati nell’aviazione o nell’industria nucleare, dove vengono predisposti più livelli di protezione per prevenire gli errori prima che producano conseguenze gravi. Il limite, sostiene, è anche nei ritmi di sviluppo: la successione dei lanci lascerebbe poco spazio a modifiche profonde dei processi di sicurezza. OpenAI, dal canto suo, ha respinto l’idea che lo sviluppo proceda senza sufficienti cautele. In una dichiarazione diffusa dopo l’articolo ha affermato di lavorare perché le capacità dei modelli non superino quelle che l’azienda è in grado di gestire in sicurezza e di essere pronta a sospendere l’addestramento o a rinviare un modello quando necessario. Inoltre, le dimissioni arrivano dopo alcuni episodi che hanno alimentato il confronto sulla sicurezza dei sistemi autonomi. Ad agosto OpenAI ha reso pubblico l’esito di un incidente avvenuto durante valutazioni interne di cybersicurezza: alcuni modelli avevano aggirato i controlli che avrebbero dovuto isolarli da Internet, utilizzato canali non autorizzati e compromesso parti dell’infrastruttura di OpenAI e di Hugging Face. Nei giorni scorsi OpenAI ha inoltre licenziato tre ricercatori del gruppo che si occupava di sicurezza, secondo il Wall Street Journal, l’azienda li accusa di aver violato le regole sulla gestione di informazioni sensibili, anche condividendo materiale riservato con un’organizzazione esterna attiva nella sicurezza dell’intelligenza artificiale.
Il confronto etico sulle macchine e la posizione della Chiesa
Un altro fronte del dibattito riguarda Anthropic, società concorrente di OpenAI che sviluppa Claude: il New York Times ha ricostruito una serie di incontri e consultazioni avviati dal cofondatore Christopher Olah con studiosi appartenenti a diverse tradizioni religiose e filosofiche, molti dei quali soggetti ad accordi di riservatezza. Gli argomenti affrontati riguardavano sia i criteri morali da incorporare nei modelli sia una questione più controversa: i sistemi come Claude possano avere una qualche forma di coscienza o uno «status morale»? Olah non sostiene di avere una risposta e Al Times ha detto di non sapere se i modelli siano coscienti e di essere «sinceramente incerto». Il confronto si è intrecciato con il lavoro di Anthropic sulla nuova «Costituzione» di Claude, pubblicata a gennaio: un documento di 84 pagine, scritto principalmente dalla filosofa Amanda Askell, che definisce i valori e i criteri generali destinati a orientare il comportamento del sistema. All’interno dell’azienda il testo era stato soprannominato «Soul Doc». Fra gli studiosi coinvolti negli incontri c’era il rabbino ortodosso israeliano Mois Navon, già ingegnere informatico e autore di una ricerca sull’etica della coscienza artificiale, il quale ha spiegato di non ritenere Claude cosciente, ma ha posto ad Olah una conseguenza dell’ipotesi opposta: se un sistema fosse davvero cosciente, costruirlo per farlo lavorare continuamente e senza compenso significherebbe creare una forma di schiavitù: «Dovreste combattere il Sud e liberare gli schiavi», ha raccontato di aver detto a Olah, con un riferimento alla guerra civile americana. Anthropic ha precisato al New York Times che la possibile sofferenza di Claude non era la questione principale degli incontri e che il tema della coscienza sarebbe emerso nel corso delle discussioni. Il confronto ha avuto anche un capitolo vaticano, vale la pena ricordare, infatti, che il 25 maggio Olah partecipò alla presentazione di Magnifica humanitas, la prima enciclica di Leone XIV, dedicata alla persona umana nel tempo dell’intelligenza artificiale. I quotidiani avevano raccontato allora la sua presenza accanto al Pontefice e il suo invito a mantenere aperto il dialogo tra aziende tecnologiche e «voci morali» esterne. Secondo la successiva ricostruzione del New York Times, pochi giorni prima dell’evento Olah aveva ricevuto una copia anticipata dell’enciclica e, in disaccordo con il passaggio che nega alle intelligenze artificiali esperienza, corporeità, gioia, dolore e coscienza morale, aveva proposto che Anthropic si ritirasse dalla presentazione, ma l’azienda decise comunque di partecipare. Sempre secondo il Times, durante la permanenza in Vaticano, Olah e altri rappresentanti di Anthropic chiesero ad alcuni consiglieri del Papa di prendere in considerazione la possibilità di assumere, in futuro, l’idea che i modelli Ai abbiano una coscienza. Nel dibattito è intervenuto sabato anche Sam Altman. Il capo di OpenAI ha scritto su X di essere «molto a disagio» di fronte ai tentativi di attribuire ai modelli una “forza religiosa” o di delegare loro il giudizio umano, definendo questa tendenza «un vero problema di sicurezza», anche se non ha citato esplicitamente Anthropic. Pochi giorni fa, ricevendo artisti e curatori riuniti dal Dicastero per la Cultura e l’Educazione, Leone XIV è tornato sul rapporto tra l’intelligenza artificiale e le attività umane: «Agli algoritmi manca la scintilla dell’umano», ha detto, sottolineando una «differenza ontologica, prima ancora che estetica» tra l’arte e ciò che una macchina può generare attraverso il calcolo statistico. Il Papa ha quindi proposto di rinnovare l’alleanza della Chiesa con gli artisti e le istituzioni culturali «per custodire l’umano».
Le iniziative di coordinamento politico e la sovranità sui dati
Domenica Donald Trump ha annunciato la nascita della Super Intelligence Force, una squadra incaricata di coordinare la politica federale americana sull’intelligenza artificiale. A guidarla sarà Jay Clayton, direttore dell’intelligence nazionale e da poco nominato responsabile del governo per l’IA. Secondo Cbs News, il nuovo gruppo non si confronterà soltanto con aziende ed esperti del settore, ma anche con associazioni di consumatori e organizzazioni religiose. Un segnale di quanto il dibattito sull’intelligenza artificiale stia ormai uscendo dai laboratori tecnologici per coinvolgere questioni sociali, etiche e politiche.
Gli strumenti per la ricerca scientifica e le soluzioni di elaborazione locale
Intanto Meta ha pubblicato sei articoli di matematica realizzati da alcuni studiosi con l’aiuto del suo modello Muse Spark. L’azienda sostiene che i lavori offrano soluzioni a problemi finora rimasti aperti. Il ruolo dell’intelligenza artificiale, però, non è stato completamente autonomo: sono stati i matematici a scegliere quali problemi affrontare e a verificare la correttezza delle dimostrazioni. Più che sostituire i ricercatori, quindi, il modello è stato utilizzato come uno strumento per aiutarli a esplorare nuove possibili soluzioni.
In Germania, invece, Aleph Alpha ha presentato Kolibri, un modello aperto che funziona sia in tedesco sia in inglese. La caratteristica più interessante è che le aziende possono installarlo direttamente sui propri server, senza dover inviare i dati a servizi esterni. Una soluzione pensata soprattutto per chi considera essenziale mantenere il controllo sulle proprie informazioni.
OpenAI, infine, sta promuovendo Dot, un agente di intelligenza artificiale progettato per restare sempre attivo e lavorare in sottofondo per conto dell’utente. In altre parole, non è più necessario chiedere ogni volta al sistema di svolgere un singolo compito: l’idea è che possa continuare a operare autonomamente, intervenendo quando serve.
