Ai Overview: Il panorama dell’intelligenza artificiale registra nuove evoluzioni tecniche e interrogativi etici, delineati dall’introduzione di modelli con funzionalità specifiche e da analisi sulle traiettorie future di questa tecnologia. Diogo Almeida, ex ricercatore di OpenAI, ha lanciato Jev tramite la sua nuova società TypeSafe: si tratta di un sistema atipico che non genera testo, ma agisce su percorsi predefiniti all’interno di altri software per azzerare le “allucinazioni” informatiche e operare controlli incrociati. Nel settore aziendale, Salesforce ha presentato Koa, progettato per ridurre significativamente il margine di errore rispetto ai sistemi tradizionali. A livello accademico, una ricerca condotta in Cina classifica la capacità dell’intelligenza artificiale di migliorare se stessa in modo autonomo, un tema che i laboratori occidentali osservano con cautela. Sul fronte della privacy, infine, emergono criticità relative alla gestione delle conversazioni reali degli utenti sulle piattaforme più diffuse.
L’esordio di Jev e TypeSafe
Diogo Almeida, ex ricercatore di OpenAI e tra gli ideatori dei metodi che hanno contribuito alla nascita di ChatGPT, ha presentato un modello di intelligenza artificiale che non è in grado di scrivere nemmeno una parola: si chiama Jev ed è sviluppato da TypeSafe, la società fondata da Almeida dopo due anni di gestazione lontano dai riflettori. Jev opera all’interno di programmi informatici e agesci in base a dei prompt che vengono settati in precedenza: sceglie tra opzioni già definite e associa a ogni risposta un punteggio di affidabilità. Proprio in virtù di questa caratteristica, l’azienda sostiene che il sistema non possa produrre le cosiddette allucinazioni, cioè risposte inventate dal modello, però può essere utilizzato, per esempio, per smistare le richieste in arrivo oppure per verificare che un altro sistema di intelligenza artificiale non stia sbagliando. I costi dichiarati da TypeSafe si attestano su 42 dollari per un miliardo di token in ingresso, nessun costo per le risposte e tempi di elaborazione compresi tra 70 e 500 millisecondi. Almeida lo descrive come «più simile a un database che a un collega», mentre il nome scelto richiama il paradosso di Jevons, secondo cui, quando l’uso di una risorsa diventa più efficiente ed economico, il suo consumo può finire per aumentare. Al momento, gli unici dati sulle performance sono rilasciati dall’azienda produttrice, bisognerà attendere ulteriori verifiche da parte del mercato.
L’alternativa aziendale di Salesforce
Anche Salesforce, il colosso statunitense dei software per la gestione dei rapporti con i clienti, ha presentato un proprio modello che si chiama Koa, è basato su Nemotron 3 Super di Nvidia ed è stato addestrato attraverso conversazioni simulate, senza utilizzare dati dei clienti. Secondo i test interni dell’azienda, commetterebbe circa due terzi degli errori in meno rispetto a quelli fatti dai modelli più noti, inoltre Salesforce lo ospita direttamente sui propri server.
Lo studio sull’auto-miglioramento
Dalla Cina arriva invece uno studio dal titolo eloquente, “L’ultima intelligenza artificiale costruita dagli esseri umani”, firmato da 33 ricercatori di istituzioni, tra cui l’Università Jiao Tong di Shanghai e ByteDance. Il documento individua cinque livelli di auto-miglioramento dei sistemi di intelligenza artificiale: al primo livello la macchina esegue aggiornamenti progettati dagli esseri umani; all’ultimo è in grado di ripensare autonomamente anche il processo attraverso cui migliorarsi. Delle 491 ricerche prese in esame, il 75% rientra nei primi due livelli, mentre meno del 6 per cento raggiunge il quinto. I principali laboratori occidentali, al contrario, indicano tra i possibili rischi proprio la capacità dell’intelligenza artificiale di automatizzare la ricerca necessaria al proprio sviluppo.
Le criticità sul trattamento dei dati
Infine, una notizia che riguarda direttamente chi utilizza ChatGPT: secondo un’inchiesta di 404 Media, centinaia di collaboratori esterni di OpenAI leggono e valutano conversazioni reali degli utenti, spesso senza che questi ne siano consapevoli. Attenzione a cosa scriviamo!
