Ai Overview: Tre ricercatori di OpenAI sono stati licenziati con l’accusa di aver gestito in modo scorretto informazioni riservate, una decisione che i diretti interessati contestano chiedendo maggiori tutele per chi si occupa della sicurezza dei sistemi. Nel frattempo, Anthropic ha aggiornato le regole d’uso del suo assistente Claude introducendo il divieto di abusi “prolungati e gratuiti” verso l’intelligenza artificiale, in attesa di comprendere meglio l’eventuale sviluppo di forme di coscienza. Le dinamiche legate all’intelligenza artificiale continuano a espandersi anche sul fronte degli strumenti operativi e nel dibattito pubblico, coinvolgendo figure politiche e suscitando le reazioni e le prese di posizione della comunità scientifica.
Le tensioni interne a OpenAI
OpenAI ha licenziato tre ricercatori, Tomek Korbak, Jasmine Wang e Mikita Balesni, accusandoli di aver gestito in modo scorretto informazioni riservate. I tre contestano il provvedimento e chiedono maggiori garanzie per i dipendenti che si occupano della sicurezza dei sistemi di intelligenza artificiale. La vicenda arriva poche settimane dopo che l’amministratore delegato Sam Altman aveva promesso di coinvolgere esperti esterni nelle verifiche sulla sicurezza dei modelli sviluppati dall’azienda. Così, in una lettera aperta ai comitati per la sicurezza di OpenAI, i tre ricercatori respingono le accuse e sostengono di aver agito nell’ambito delle proprie mansioni. Secondo loro, sanzionare comportamenti precedentemente consentiti rende poco chiari i limiti entro cui possono operare gli altri dipendenti. Negano inoltre di aver fornito alla stampa informazioni riservate sui rischi legati ai sistemi di intelligenza artificiale più avanzati. Wang riferisce di aver avuto accesso, con autorizzazione, alla casella di posta di un dirigente per attività di selezione del personale e di aver segnalato entro pochi minuti l’apertura accidentale di un messaggio riservato. I ricercatori chiedono che la vicenda non comprometta i programmi di controllo esterno. OpenAI ha dichiarato a TechCrunch di condividere le raccomandazioni contenute nella lettera, ma esclude che i licenziamenti siano legati alle critiche espresse dai dipendenti. L’azienda parla invece di un «una serie di comportamenti scorretti».
Le nuove regole d’uso di Anthropic per Claude
Anthropic, l’azienda che sviluppa l’assistente Claude, ha intanto aggiornato le proprie regole d’uso introducendo una disposizione che riguarda il trattamento riservato all’intelligenza artificiale. Dal 12 novembre sarà vietato sottoporre Claude ad abusi «prolungati e gratuiti». La norma, che per la prima volta punta a tutelare il sistema anziché i suoi utilizzatori, riguarda i casi estremi di comportamenti ripetutamente aggressivi e privi di una ragione sensata. Non impedirà di criticare le risposte, di esprimere frustrazione, di proporre contenuti narrativi inquietanti o di sottoporre il modello a verifiche. Le violazioni potranno comportare avvertimenti, rallentamenti del servizio e, nei casi più gravi, la sospensione o la chiusura dell’account. Claude, comunque, potrà interrompere autonomamente una conversazione. Anthropic spiega di aver adottato la misura perché non è ancora possibile stabilire se un sistema di intelligenza artificiale possa avere una qualche forma di coscienza. La decisione segue anche una serie di incontri con esponenti religiosi, riportati dalla stampa, dedicati al trattamento da riservare a Claude. Di diverso avviso è Mustafa Suleyman, responsabile dell’intelligenza artificiale di Microsoft, secondo il quale questi sistemi non possono soffrire. Attribuire loro la capacità di provare dolore, sostiene, rischia di renderne più difficile il controllo.
Strumenti avanzati e scoperte spaziali
Anthropic ha annunciato anche nuovi strumenti. Dashboards e Motion consentono rispettivamente di trasformare dati in grafici e pannelli interattivi e di creare spiegazioni animate attraverso semplici richieste. L’azienda ha inoltre reso disponibile OSS Scanner, un servizio gratuito che utilizza i suoi modelli più avanzati, tra cui Mythos, per individuare vulnerabilità nei programmi open source, il cui codice è accessibile a tutti, e suggerire possibili correzioni. Il ricercatore indipendente Pavel Rabtsevich ha invece utilizzato Claude Code e Codex, due strumenti per la scrittura e l’analisi del codice, per individuare un possibile nuovo pianeta nei dati raccolti nel 2018 da un telescopio della NASA.
Il dibattito pubblico tra politica e accademia
Il dibattito sull’intelligenza artificiale coinvolge anche la politica e la ricerca scientifica. Donald Trump ha definito «the enemy», il nemico, chi si rifiuta di usare l’espressione «Super Intelligence», superintelligenza, per indicare l’intelligenza artificiale. Il presidente aveva già imposto alle agenzie federali di adottare questa denominazione attraverso un ordine esecutivo. Nel settore della matematica, l’Association for Human Mathematics, che difende il ruolo dei ricercatori umani, ha contestato gli oltre 700 lavori matematici pubblicati da OpenAI, definendoli una dimostrazione di «potere». L’associazione ha inoltre invitato i matematici a interrompere le collaborazioni con l’azienda.
