Ai Overview: Il dibattito sulla sicurezza e sullo sviluppo etico dell’intelligenza artificiale si è riacceso in seguito alle recenti dimissioni di Jacob Coxon, un ricercatore di 27 anni con esperienze in OpenAI e Anthropic. Attraverso un messaggio diffuso sulla piattaforma X, Coxon ha espresso preoccupazione per i potenziali rischi legati alla corsa verso una superintelligenza in grado di auto-migliorarsi, suggerendo una sospensione temporanea di questi progetti. Le sue considerazioni hanno ricevuto conferme da altri esperti del settore, come Evan Hubinger, sollevando interrogativi sulle attuali capacità di controllo e gestione dei futuri modelli informatici. Parallelamente, le aziende del settore devono gestire incidenti di sicurezza durante le fasi di test e nuovi assetti dirigenziali. Il panorama dell’IA, tuttavia, mostra anche sviluppi in ambito commerciale e sociale, con nuovi accordi sui diritti d’autore nel settore musicale e applicazioni pratiche nelle scuole per supportare la didattica personalizzata.
L’allarme di Coxon e il tema dell’allineamento
Jacob Coxon ha soltanto 27 anni e dal 2023 ha lavorato all’addestramento dei modelli di intelligenza artificiale, prima a OpenAI e poi ad Anthropic. Martedì si è dimesso scrivendo il perché su X: secondo lui nessuna delle due aziende si sta comportando in modo responsabile, perché entrambe stanno correndo disperatamente verso lo sviluppo di una superintelligenza capace di migliorarsi autonomamente, innescando quello che lui stesso definisce «un azzardo con le nostre vite». Il post ha superato le cento milioni di visualizzazioni, e tra i commenti c’è anche la risposta del collega Evan Hubinger, responsabile in Anthropic delle ricerche sull’«alignment», l’allineamento, cioè il tentativo di fare in modo che le macchine agiscano in continuità con le intenzioni umane, anche lui gli ha dato ragione: «siamo davvero convinti che l’IA possa fare fuori tutti gli esseri umani». Hubinger stima che la probabilità che ciò accada superi il 10% nei prossimi dieci anni e ammette che nessuno dispone ancora di un piano per tenere sotto controllo una superintelligenza, poi poco dopo ha precisato: «Penso che coi modelli attuali corriamo un rischio basso», perché a preoccuparlo sono principalmente i prossimi modelli, capaci di perfezionarsi da soli. Coxon, da parte sua, chiede alle aziende di rallentare tutte insieme e propone una sospensione temporanea dello sviluppo di modelli sempre più potenti.
Incidenti nei test e movimenti societari
Inoltre, mercoledì Anthropic ha reso noto un altro episodio in cui uno dei suoi modelli durante un test di sicurezza informatica, è riuscito a introdursi nei sistemi di un’organizzazione esterna: l’episodio, che risale a gennaio, riguarda una versione preliminare di Claude Opus 4.6. METR, un organismo indipendente, indagherà su questi incidenti, la conclusione delle indagini è prevista fra otto settimane. Sempre mercoledì, OpenAI ha nominato nel consiglio della propria fondazione Paul Christiano, che fino al 2021 aveva guidato in OpenAI proprio le ricerche sull’allineamento e che oggi è consulente del governo statunitense sui modelli di intelligenza artificiale più avanzati.
Accordi e controversie nel settore musicale
Segnaliamo che, invece, nel mondo della musica, si prova a trovare un punto d’incontro tra persone ed intelligenze artificiali: Suno, la piattaforma che crea canzoni con l’intelligenza artificiale, ha presentato v6, la nuova generazione dei suoi modelli. È stata sviluppata in collaborazione con Warner Music Group, BMG e Believe e addestrata utilizzando brani concessi in licenza. Warner aveva fatto causa a Suno nel 2024, ma lo scorso novembre la controversia si è chiusa con un accordo, mentre Universal e Sony, invece, stanno portando avanti le rispettive azioni legali.
L’impiego a scuola per l’autismo
Intanto, l’intelligenza artificiale entra anche nelle aule scolastiche: Evelyn Cordova insegna in una scuola privata in cui manca una formazione specifica sull’autismo, così Utilizza l’IA per adattare i compiti alle esigenze dei suoi studenti con autismo, senza caricare mai i loro dati personali, e racconta che le bastano circa cinque minuti per preparare ogni lezione. Ecco, questo è un uso che ci piace.
