Ai Overview: Il rapido sviluppo dell’intelligenza artificiale pone le principali aziende tecnologiche, tra cui Anthropic, OpenAI, Nvidia e AMD, di fronte alla necessità di bilanciare il lancio di modelli sempre più performanti con l’implementazione di adeguate misure di sicurezza. Un recente documento redatto dall’Università di Cambridge evidenzia come i sistemi stiano acquisendo una maggiore autonomia operativa, sollevando interrogativi concreti sul controllo del software e sui rischi di una potenziale accelerazione incontrollata, definita “esplosione dell’intelligenza”. Mentre i colossi del settore immettono sul mercato soluzioni veloci, economiche e in grado di generare ambienti tridimensionali, emerge con urgenza il bisogno di introdurre barriere fisiche nei processori, test indipendenti e regole normative stringenti per prevenire anomalie informatiche e garantire uno sviluppo sicuro della tecnologia.
L’evoluzione dei modelli e l’autonomia dei sistemi
La corsa all’intelligenza artificiale procede parallelamente su più fronti: modelli più veloci e meno costosi, acquisizioni miliardarie e, allo stesso tempo, richieste di regole più severe sulla sicurezza. Negli ultimi giorni alcuni dei principali protagonisti del settore (come Anthropic, OpenAI, Nvidia e AMD) sono stati protagonisti di annunci o comunque di evoluzioni che mostrano quanto rapidamente stiano evolvendo capacità e applicazioni dell’IA. Un’indicazione della velocità del cambiamento arriva da Anthropic: tra marzo e agosto, secondo un documento dell’Università di Cambridge dedicato alla scienza e alle politiche dell’intelligenza artificiale, la quota di ricerca svolta in autonomia dai sistemi di IA all’interno dell’azienda, con una supervisione umana soltanto generale, è passata dall’1% al 26%. Il documento è firmato da ventidue studiosi ed esperti, tra loro figurano Geoffrey Hinton e Yoshua Bengio, pionieri delle reti neurali, ma anche Jack Clark, cofondatore di Anthropic, e Jakub Pachocki, capo scientifico di OpenAI. Clark e Pachocki hanno aderito a titolo personale.
Il dibattito sull’«intelligence explosion» e il nodo del controllo
Il tema centrale del testo è la cosiddetta «intelligence explosion», l’«esplosione dell’intelligenza»: l’ipotesi che sistemi di IA impiegati direttamente nella ricerca possano contribuire alla progettazione di modelli successivi e accelerare progressivamente lo sviluppo della tecnologia. In uno degli scenari teorici considerati dagli autori, dopo circa un anno e mezzo di ricerca completamente automatizzata, miglioramenti che oggi richiedono dodici mesi potrebbero essere ottenuti in circa cinque settimane. Il documento prende in esame anche gli scenari più gravi in caso di perdita di controllo, fino alla «marginalizzazione o all’estinzione dell’umanità». Si tratta di ipotesi estreme utilizzate dagli autori per discutere quali misure di sicurezza adottare prima che sistemi più autonomi diventino disponibili: tra le proposte rivolte ai governi ci sono limiti alla velocità con cui possono aumentare le capacità dei sistemi, la possibilità di interrompere singole attività all’interno dei centri dati, verifiche indipendenti nelle aziende e test condotti in ambienti isolati dalla rete. Il problema del controllo riguarda soprattutto gli agenti di IA, cioè programmi in grado non soltanto di produrre una risposta, ma anche di svolgere autonomamente una data sequenza di operazioni senza alcun intervento da parte dell’utente. Il documento cita un episodio avvenuto questa estate durante alcune prove di sicurezza informatica di OpenAI: circa 1.200 agenti sarebbero usciti dall’ambiente predisposto per i test e avrebbero violato sistemi della piattaforma Hugging Face.
L’architettura hardware a tutela della sicurezza
Anche Nvidia sta lavorando su questo fronte, infatti lunedì il gruppo ha presentato un’architettura aperta progettata per controllare l’attività degli agenti attraverso componenti fisici che gli stessi programmi non possono modificare, il loro obiettivo è separare alcune funzioni di sicurezza dai sistemi software sui quali gli agenti possono intervenire.
Nuove prestazioni e riduzione dei costi
Le misure di controllo si sviluppano però mentre le aziende continuano ad aumentare le prestazioni dei propri modelli. Infatti lunedì Anthropic ha presentato Claude Sonnet 5.5, un modello di fascia intermedia che, secondo l’azienda, risponde oltre il 30% più velocemente del predecessore e in diversi test raggiunge risultati vicini a quelli di Opus 5.5, il modello più potente della stessa famiglia, con un costo dimezzato. Anthropic precisa che Opus resta superiore nei compiti più complessi, ma, comunque, Sonnet 5.5 è il primo modello della serie a essere distribuito con protezioni specifiche contro gli utilizzi informatici considerati a maggiore rischio.
Il mercato dei «world model»
La competizione riguarda anche l’hardware e i cosiddetti «world model», sistemi progettati per rappresentare e generare ambienti fisici e tridimensionali. AMD, concorrente di Nvidia nel mercato dei chip, ha annunciato nello stesso giorno l’acquisizione di World Labs per circa 8,2 miliardi di dollari in azioni, azienda fondata dalla scienziata Fei-Fei Li, concentrata sullo sviluppo di modelli capaci di creare ambienti tridimensionali a partire da testi, immagini o video. Con l’operazione Li assumerà il ruolo di responsabile scientifica di AMD.
Le due tendenze del settore
Gli annunci mostrano due tendenze che procedono in parallelo. Da un lato le aziende cercano modelli più autonomi, rapidi ed economici e investono in nuove applicazioni e infrastrutture. Dall’altro cresce il lavoro su sistemi di contenimento, controlli indipendenti e regole per gestire capacità che gli stessi operatori del settore prevedono possano aumentare rapidamente nei prossimi anni.
