Ai Overview: Il dibattito sullo sviluppo dell’intelligenza artificiale sta attraversando una fase di profonda revisione, allontanandosi dalla corsa al primato a favore di una maggiore regolamentazione. L’amministratore delegato di Anthropic, Dario Amodei, ha recentemente proposto un rallentamento nello sviluppo dei modelli più avanzati, suggerendo l’introduzione di valutatori indipendenti all’interno delle aziende tecnologiche. Questa prospettiva, dettata da recenti incidenti legati all’autonomia dei sistemi e all’auto-miglioramento ricorsivo, ha raccolto il consenso di figure chiave del settore come Sam Altman ed Elon Musk. Tuttavia, emergono anche perplessità da parte di chi, come Donald Trump, teme la perdita del vantaggio competitivo statunitense, o di chi vi legge una strategia per consolidare l’attuale posizione di mercato delle aziende dominanti. Parallelamente, il mondo accademico esprime preoccupazione per l’approccio delle Big Tech alla risoluzione di complessi problemi matematici, sottolineando l’importanza del fattore umano nel processo di trasmissione della conoscenza. Le applicazioni pratiche, al contempo, continuano a mostrare risultati concreti, specialmente in ambito medico, dove la sinergia tra l’assistenza algoritmica e la supervisione dei medici si sta rivelando il metodo di lavoro più sicuro ed efficace.
Il cambio di rotta: la proposta di rallentare lo sviluppo dell’IA
E se arrivare primi non fosse più la legge costituzionale del settore dell’intelligenza artificiale? Pare che la direzione che si delinea all’orizzonte sia proprio questa, perché proprio coloro che per anni hanno fatto della corsa il nuovo stile di innovazione, adesso si rendono conto che correre sempre comporta dei rischi. Sabato Dario Amodei, amministratore delegato di Anthropic, ha pubblicato un articolo intitolato “Dobbiamo dare un ritmo alla frontiera”, la cui tesi di fondo si può riassumere con questa frase eloquente: «Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di IA». A comprova di questa esigenza, il fondatore di Anthropic fa riferimento a due episodi, il primo è che ormai i modelli contribuiscono sempre di più alla progettazione del modello della generazione successiva di se stessi: siamo entrati nella stagione del recursive self-improvement, cioè auto-miglioramento ricorsivo. Il secondo episodio è un incidente avvenuto in OpenAI, dove un’equipe di agenti Ai ha sferrato attacchi informatici in modo autonomo e indipendente e, oltretutto, ha provato ad alterare il sistema di valutazione interno dell’azienda madre, affinché il proprio lavoro venisse valutato positivamente. Non ci sono stati danni, ma Dario Amodei teme che tra qualche mese un episodio simile possa permettere agli Ai agent di prendere una parte consistente della rete.
Valutatori indipendenti e standard internazionali
Così, la proposta del patron di Anthropic, prevede la presenza stabile di valutatori indipendenti all’interno delle Bigh Tech che producono sistemi di intelligenza artificiale: queste persone devono avere una postazione di lavoro, credenziali di accesso per poter entrare nei vari progetti di sviluppo in corso, devono poter lavorare come se fossero dipendenti e soprattutto devono avere accesso ai dipendenti stessi. Anthropic dice di essere pronta ad accoglierli fin da subito, ma, in seconda battuta, il passo successivo sarebbe definire standard comuni tra le aziende dei Paesi democratici e, quando sarà possibile, favorire un’intesa anche con i regimi autoritari, Cina in primis.
Le reazioni tra consensi, logiche di mercato e visioni politiche
Sam Altman ha annunciato che OpenAI farà lo stesso, mentre Elon Musk ha commentato con tre parole: «Dario ha ragione». Anche i vertici di Google DeepMind e Microsoft hanno detto di condividere questo spunto, ma Donald Trump ha reagito dal suo resort in Irlanda, parlando di «forze negative» che agitano scenari destinati, secondo lui, a non verificarsi. Ha poi ribadito il primato americano, perché «chi vince sull’IA vince». E, al dir il vero, va detto che all’interno del settore Ai, c’è anche chi teme che regole di questo tipo finiscano per favorire proprio le aziende più grandi…quindi, secondo alcuni, il tentativo di Amodei, in fondo, non è così lontano dalle logiche di mercato…perché si tratta, pur sempre, di rallentare un mercato in cui la sua azienda, al momento, ha una posizione dominante.
La critica dei matematici: il rischio per la trasmissione della conoscenza
Una prospettiva diversa, secondo noi utile al dibattito, arriva dal mondo della matematica, perché l’11 settembre scorso 25 vincitori della medaglia Fields, tra cui Terence Tao e Cédric Villani, hanno firmato una dichiarazione contro la consuetudine delle aziende Ai (ormai diventata consolidata) di usare i grandi dilemmi matematici ancora aperti come se fossero risultati da esibire. I cervelloni della matematica lamentano che le soluzioni prodotte dalle intelligenze artificiali arrivano spesso senza spiegazioni sufficienti e mettono in ombra il lavoro di chi ha costruito le conoscenze necessarie per arrivarci. A rischiare di andare perduta è soprattutto la catena umana attraverso cui la conoscenza passa da una generazione all’altra.
L’integrazione efficace: il successo della supervisione umana in ambito medico
Ma, intanto, le intelligenze artificiali continuano a macinare risultati utili. Uno studio condotto in cinque ospedali cinesi ha affiancato ai sonografisti un assistente automatico durante le ecografie prenatali: la quota di malformazioni cerebrali individuate è salita dal 78,6% all’87,3%, senza un aumento dei falsi allarmi. Il dato più interessante, però, riguarda gli esseri umani, perché è risultato che i medici hanno corretto circa il 60% degli errori commessi dalla macchina. Forse è proprio questa la direzione che convince di più, l’affiancamento tra macchine e esseri umani: le prime facilitano, i secondi verificano e correggono.
