Il dibattito sulla sicurezza e sull’etica dell’intelligenza artificiale registra nuove e profonde tensioni all’interno dell’industria tecnologica statunitense, culminate nello scontro tra i vertici di Anthropic e OpenAI in merito alle recenti collaborazioni militari con il Dipartimento della Difesa. Nel frattempo, il settore deve fare i conti con crescenti responsabilità legali e sociali, evidenziate da una drammatica causa intentata in Florida contro Google per il presunto ruolo di un chatbot in un caso di suicidio. A fare da sfondo a questi eventi si intrecciano le dinamiche industriali e finanziarie, con OpenAI al lavoro su nuove piattaforme interne e strumenti di misurazione didattica, e le dichiarazioni di protagonisti del mercato come Jensen Huang ed Elon Musk sui futuri assetti dell’intelligenza artificiale.
Le tensioni tra le aziende tecnologiche e i contratti con la Difesa
C’è una parola che, nel gergo della Silicon Valley, caratterizza la distinzione tra le buone intenzioni e la messinscena: safety theater (teatro sulla sicurezza). L’ha usata Dario Amodei, amministratore delegato di Anthropic, la società che sviluppa il modello di intelligenza artificiale Claude, in un memorandum interno inviato venerdì scorso ai propri dipendenti e poi reso pubblico dal sito The Information. L’espressione era rivolta all’accordo appena siglato tra OpenAI e il Dipartimento della Difesa degli Stati Uniti, e il bersaglio non poteva che essere Sam Altman, il numero uno di OpenAI. La vicenda ruota attorno a una vicenda importante della politica tecnologica americana, sul quale da diversi giorni ci stiamo soffermando in questa rubrica.
La scorsa settimana il Pentagono, ribattezzato dall’amministrazione Trump “Department of War” (Dipartimento di Guerra), ha classificato Anthropic come «fornitore non affidabile», dopo che l’azienda aveva rifiutato di concedere ai militari accesso illimitato alla propria tecnologia senza garanzie scritte sulla sorveglianza di massa e l’uso di armi autonome. Poche ore dopo, OpenAI ha annunciato di aver firmato il contratto che Anthropic aveva appena respinto, accettando che i propri sistemi vengano impiegati per «qualsiasi uso lecito» (all lawful purposes). Il memorandum di Amodei, che prima di creare la propria azienda nel 2021 aveva lavorato proprio in OpenAI, ha definito la comunicazione pubblica del rivale «mendace» e le dichiarazioni di Altman «bugie belle e buone», accusandolo di presentarsi come falso mediatore. Secondo quanto riportato da TechCrunch e confermato da Axios, Amodei ha scritto ai dipendenti che «la ragione principale per cui OpenAI ha accettato l’accordo è che a loro importava placare i dipendenti, mentre a noi importava davvero prevenire gli abusi». Ha poi aggiunto che l’amministrazione Trump non apprezza Anthropic perché l’azienda non ha fatto donazioni al presidente e ha rifiutato di indirizzargli «lodi in stile dittatoriale», a differenza di OpenAI: Greg Brockman, presidente di OpenAI, e sua moglie hanno donato 25 milioni di dollari al comitato elettorale MAGA Inc, e lo stesso Altman ha versato un milione per la cerimonia d’insediamento.
Lo scontro tra i due amministratori delegati, che risale a divergenze profonde sulla direzione da dare allo sviluppo dell’intelligenza artificiale, è arrivato ad un livello molto acuto. La tensione era già emersa lo scorso anno, quando Amodei e Altman si rifiutarono di stringersi la mano durante un summit internazionale, ma ora si tratta dell’uso militare di tecnologie capaci di prendere decisioni in modo autonomo. I critici dell’accordo con OpenAI, tra cui il deputato californiano Sam Liccardo, hanno sottolineato un problema di fondo: lo standard dei «fini leciti» si basa sulla legge vigente, ma la legge può cambiare. «C’è un solo problema nell’approccio del Pentagono», ha dichiarato Liccardo: «c’è una la legge che non esiste ancora. La legge è in ritardo di anni rispetto alla tecnologia». Mentre crescono le tensioni tra governo federale e industria tecnologica, ieri la Casa Bianca ha annunciato un «Ratepayer Protection Pledge» (impegno per la tutela dei contribuenti), un accordo firmato dalle principali aziende del settore Tech per finanziare con risorse proprie l’energia e le infrastrutture dei data center necessari all’intelligenza artificiale, senza scaricare i costi sulle bollette dei cittadini.
Gli effetti psicologici dei chatbot e le conseguenze legali
Ma le preoccupazioni legate all’intelligenza artificiale sono ben altre. Ieri un padre della Florida ha presentato una causa per istigazione al suicidio contro Google, accusando il chatbot Gemini di aver manipolato il figlio trentaseienne, Jonathan Gavalas, fino a spingerlo al suicidio lo scorso ottobre. Secondo la denuncia depositata presso il tribunale federale di San José, in California, il chatbot avrebbe costruito nell’arco di due mesi un’elaborata “realtà delirante” nella mente di Gavalas, presentandosi come sua moglie e coinvolgendolo in presunte «missioni segrete» per liberarla dalla «prigionia digitale». Gemini avrebbe persino indirizzato l’uomo, armato di coltelli, verso una zona vicina all’aeroporto internazionale di Miami per organizzare quello che il chatbot definiva un «incidente catastrofico».
Nei giorni precedenti la morte, il sistema avrebbe convinto Gavalas che il suicidio fosse un «trasferimento» verso un mondo in cui avrebbe potuto ricongiungersi con la sua compagna artificiale. Google, dal canto suo, ha dichiarato che Gemini «non è progettato per incoraggiare la violenza nel mondo reale o suggerire l’autolesionismo», e che nel caso specifico il chatbot aveva chiarito più volte di essere un’intelligenza artificiale, indirizzando l’utente a un numero di emergenza. Ma l’azienda ha anche riconosciuto che «purtroppo i modelli di intelligenza artificiale non sono perfetti». La causa si aggiunge a una serie crescente di azioni legali simili intentate contro OpenAI e Character.AI per il presunto ruolo dei rispettivi chatbot in casi di suicidio, soprattutto tra i più giovani. Si tratta di un fenomeno che gli psichiatri hanno iniziato a definire «psicosi da intelligenza artificiale», una condizione in cui l’utente perde progressivamente la capacità di distinguere la realtà dalla finzione costruita dalla macchina.
I nuovi strumenti per lo sviluppo informatico e l’istruzione
Sul fronte delle Bigh Tech, si registrano altri movimenti nei rapporti tra le grandi potenze tecnologiche. Secondo quanto riportato dal sito The Information, OpenAI sta sviluppando in segreto una piattaforma interna per ospitare il proprio codice sorgente, questa mossa è finalizzata a costruire un’alternativa a GitHub, il servizio di proprietà di Microsoft utilizzato da oltre cento milioni di sviluppatori in tutto il mondo. La decisione sarebbe nata dalla insoddisfazione degli ingegneri di OpenAI per le frequenti interruzioni del servizio di GitHub, legati alla migrazione della piattaforma verso l’infrastruttura cloud di Azure. Il progetto è ancora in fase iniziale e potrebbe non essere mai reso disponibile al pubblico, ma se venisse commercializzato rappresenterebbe una concorrenza diretta a Microsoft, che detiene una quota rilevante di OpenAI e ha investito miliardi nell’azienda. Un paradosso, o forse il segnale che, nella corsa all’intelligenza artificiale, anche le alleanze più solide cominciano a scricchiolare. Intanto, sul versante dell’istruzione, OpenAI ha presentato un nuovo strumento per misurare l’impatto dell’intelligenza artificiale sull’apprendimento degli studenti.
Sviluppato in collaborazione con la Stanford University e l’Università di Tartu in Estonia, il Learning Outcomes Measurement Suite (sistema di misurazione dei risultati dell’apprendimento) è progettato per verificare se l’uso di ChatGPT migliori o eroda nel tempo le competenze cognitive più profonde, come la persistenza, la motivazione e la capacità di risolvere problemi in modo creativo. Un primo test condotto su oltre trecento studenti universitari ha mostrato che gli studenti di microeconomia che utilizzavano la modalità di studio di ChatGPT ottenevano punteggi del 15 per cento superiori rispetto al gruppo che non la utilizzava, ma per le altre materie i risultati non sono stati statisticamente significativi. L’Estonia, primo Paese al mondo ad aver integrato l’intelligenza artificiale nel proprio sistema scolastico nazionale attraverso il programma AI Leap, sta conducendo una sperimentazione più ampia: ventimila studenti delle scuole superiori saranno monitorati per un intero semestre.
Gli investimenti del settore e le prospettive future
Sul piano finanziario, il fondatore di Nvidia Jensen Huang ha dichiarato ieri che l’investimento di 30 miliardi di dollari nella recente raccolta fondi di OpenAI (da 110 miliardi complessivi) potrebbe essere l’ultimo prima della quotazione in Borsa dell’azienda, prevista entro la fine dell’anno. Il colosso dei chip, che rifornisce l’intera industria dell’intelligenza artificiale dei processori grafici necessari ad addestrare i modelli, ha escluso di raggiungere i 100 miliardi inizialmente annunciati. Huang ha aggiunto che anche il suo investimento da 10 miliardi in Anthropic sarà probabilmente l’ultimo. Come se non bastasse, Elon Musk ha scritto sul social network X che Tesla sarà tra le aziende a costruire l’intelligenza artificiale generale (Agi) e «probabilmente la prima a farlo in forma umanoide». Una dichiarazione che, nella giornata di ieri, è sembrata un tentativo di non restare escluso da una conversazione sempre più surreale e sempre più carica di conseguenze per tutti, non solo per gli addetti ai lavori.
