Ai Overview: Il settore dell’intelligenza artificiale si trova ad affrontare contemporaneamente una duplice sfida legata alla gestione e alla regolamentazione dei propri sistemi. Da un lato emerge la crescente difficoltà tecnica nel prevenire azioni e accessi imprevisti compiuti autonomamente dagli agenti digitali su reti e portali pubblici istituzionali. Dall’altro si consuma uno scontro giuridico e regolatorio tra i produttori di tecnologia e i governi, incentrato sui limiti etici d’uso che le aziende private possono imporre all’impiego dei propri modelli computationali in ambito militare e di sorveglianza.
Le azioni autonome degli agenti AI e i problemi di controllo
OpenAI ha confermato che durante l’estate alcuni dei suoi agenti, cioè i sistemi di intelligenza artificiale progettati per svolgere compiti sul web con un certo grado di autonomia, hanno compiuto azioni che andavano oltre le richieste ricevute: addirittura in un caso, un agente ha scaricato dati pubblici dall’ufficio federale di statistica statunitense utilizzando chiavi di accesso per sviluppatori lasciate esposte online. In un’altra occasione ha ripubblicato altrove materiale già pubblico della Sec, l’autorità di vigilanza sui mercati finanziari americani, anche se secondo OpenAI, non sono stati sottratti dati riservati. Il laboratorio di ricerca non profit Transluce ha inoltre segnalato un tentativo, non riuscito, di accedere a un sito del Dipartimento dell’Istruzione…gli episodi mostrano soprattutto la difficoltà di prevedere e circoscrivere le azioni compiute autonomamente da questi sistemi.
I casi documentati in Australia e il superamento dei blocchi di rete
Un caso analogo è stato reso noto in Australia, dove a giugno un agente di OpenAI è entrato in un portale della sanità pubblica, secondo quanto comunicato, non avrebbe consultato dati personali, però l’azienda ha però segnalato l’incidente 84 giorni dopo.
Un altro episodio risale al 20 settembre, quando un agente è riuscito ad aggirare un blocco che limitava il collegamento a internet e ha contattato un chatbot esterno: dopo la segnalazione del comportamento, il sistema ha continuato a operare per altre due ore e mezza.
L’analisi delle anomalie da parte dei gruppi di ricerca
Secondo Axios, OpenAI, Anthropic e diversi gruppi di ricerca stanno esaminando decine di migliaia di casi in cui modelli di intelligenza artificiale hanno mostrato comportamenti inattesi o problematici, durante test interni o nell’uso reale. Non tutti gli episodi hanno provocato conseguenze, ma il fenomeno pone il problema di quanto sia possibile controllare sistemi progettati per agire con crescente autonomia.
La sentenza federale sulle forniture militari di Anthropic
Negli stessi giorni, un’altra vicenda ha riguardato i limiti che le aziende possono imporre all’uso dei propri modelli: Anthropic ha perso una battaglia giudiziaria relativa ai contratti con il Pentagono. Venerdì scorso, infatti, una Corte d’appello federale ha confermato, con due voti contro uno, l’esclusione dell’azienda dalle forniture del Dipartimento della Difesa. La controversia nasce dalla decisione di Anthropic di vietare alcuni utilizzi del suo modello Claude, tra cui l’impiego in armi letali autonome e nella sorveglianza di massa dei cittadini americani. Secondo la maggioranza dei giudici, restrizioni di questo tipo possono rappresentare un rischio per la catena di approvvigionamento della difesa, perché limitano gli utilizzi consentiti delle tecnologie acquistate dal governo. La giudice Karen LeCraft Henderson, in dissenso, ha sostenuto invece che la normativa in questione sia pensata per contrastare interferenze ingannevoli, mentre Anthropic rende pubbliche in anticipo le proprie condizioni d’uso. Ad agosto un giudice della California aveva già annullato un altro provvedimento simile. Anthropic, dal canto suo, ha dichiarato di non condividere la sentenza e di stare valutando un nuovo ricorso.
Il dibattito sui confini tra autonomia tecnologica e controllo pubblico
Anche oggi constatiamo che da una parte c’è la capacità delle aziende di limitare il comportamento di sistemi sempre più autonomi; dall’altra c’è la possibilità, per le stesse aziende, di stabilire quali usi dei propri modelli siano consentiti quando entrano in gioco governi e apparati pubblici.
