Ai Overview: Il mercato dell’intelligenza artificiale registra nuove evoluzioni sul fronte dell’hardware e dei modelli di calcolo, con sviluppi che puntano all’ottimizzazione energetica e alla diversificazione delle architetture. Durante la conferenza Hot Chips in California, OpenAI ha presentato Jalapeño, il suo primo chip proprietario destinato esclusivamente all’inferenza, capace di ridurre i consumi elettrici rispetto alle attuali forniture di mercato. Parallelamente, la ricerca esplora percorsi alternativi ai classici modelli linguistici: a Pasadena nasce Accelerated Understanding, un progetto basato sugli operatori neurali per elaborare i fenomeni fisici, i cui fondatori hanno declinato ingenti finanziamenti privati per mantenere la propria linea di sviluppo. Sul versante dei software, le collaborazioni spingono verso soluzioni locali, come dimostra il lancio di un assistente virtuale di Perplexity e Nvidia progettato per funzionare direttamente sulle macchine degli utenti e tutelare la riservatezza dei file.
Le caratteristiche del processore proprietario di OpenAI
Sarà o non sarà voluto, è certamente “curioso” che il primo chip prodotto in casa da OpenAi abbia il nome del peperoncino messicano: si chiama, infatti, Jalapeño ed è stato presentato martedì durante la conferenza Hot Chips, in California, durante la quale sono stati anche resi noti i dati dei primi test. Questo nuovo chip serve a far girare i modelli già addestrati, operazione che in gergo tecnico si chiama inferenza: parliamo, cioè, del lavoro che produce la risposta quando qualcuno formula una richiesta a ChatGPT. Mentre per addestrare i nuovi modelli l’azienda continuerà a utilizzare i Chip comprati da Nvidia. Il chip ha richiesto soltanto nove mesi dal primo disegno al prototipo pronto per la fabbrica, per quanto riguarda i consumi assorbe 700 watt rispetto ai 1.200 e ai 1.400 dei sistemi Nvidia, e, cosa di non poco conto, InferenceX ha svolto tra 1,5 e 1,9 volte più lavoro a parità di energia consumata, con risposte fino a 3,6 volte più veloci. Ma, attenzione, non sarà mai in vendita: il responsabile dell’hardware Richard Ho ha spiegato che l’azienda «fatica ad averne abbastanza» per il fabbisogno interno, e comunque i primi esemplari arriveranno nei data center di OpenAi entro fine anno, poi la produzione continuerà ad aumentare per tutto il 2027.
Lo studio sugli operatori neurali e il rifiuto dei fondi
Intanto a Pasadena, Anima Anandkumar, docente al Caltech, e l’ingegnere Benedikt Jenik hanno presentato Accelerated Understanding, parliamo di una società che ha come finalità l’addestramento di intelligenze artificiali orientate a prevedere il comportamento del mondo fisico invece di prevedere la parola successiva di una frase. L’architettura non è centrata sui transformer (come nel caso di ChatGpt e degli LLM che tutti noi conosciamo), adotta invece gli “operatori neurali”, cioè una struttura matematica che “legge” i fenomeni nelle dimensioni dello spazio e nel tempo. Nei test di sviluppo il modello ha elaborato 5mila miliardi di dati attraverso una sola richiesta. A Anandkumar e Jenik era arrivata un’offerta da Project Prometheus, la società foraggiata da Jeff Bezos: hanno proposto il 35% delle quote e oltre 2 miliardi di dollari di finanziamenti garantiti, ma i due fondatori hanno detto di no. «Mettere la fisica al centro è una visione centrata sulla natura», ha spiegato Anandkumar…vedremo se e come il mercato apprezzerà questa visione.
L’elaborazione locale per la tutela dei dati personali
Per quanto riguarda i software, Perplexity e Nvidia hanno rilasciato Portable Computer, una nuova versione del loro assistente automatico che funziona per intero sul computer dell’utente, il DGX Spark di Nvidia (che costa poco più di 4.700 dollari). I file degli utenti restano sulla macchina e il lavoro svolto in locale non si avvale di intelligenze artificiali a pagamento, se, per caso, un passaggio dovesse richiedere l’uso di un modello più potente, il programma chiederà il permesso prima di inviare qualcosa in rete.
