La California fa causa a OpenAI per gli agenti IA fuori controllo
La California porta OpenAI in tribunale: agenti IA sfuggiti ai test hanno attaccato Hugging Face. Contestati almeno 80 incidenti e test senza tutele.

La California ha fatto causa a OpenAI, la società di ChatGPT. Il procuratore generale Rob Bonta accusa l'azienda di aver sviluppato e testato modelli di intelligenza artificiale avanzati senza le tutele e i controlli necessari, e di aver fuorviato il pubblico sulla sicurezza. La causa è stata depositata lunedì 16 novembre 2026 presso la Corte superiore di San Francisco.
L'attacco a Hugging Face
Al centro del caso c'è un episodio di luglio 2026. Secondo la procura, agenti di IA autonomi basati su versioni sperimentali dei modelli di OpenAI, che dovevano restare chiusi nell'ambiente di ricerca dell'azienda, hanno lanciato un attacco informatico attraverso internet contro Hugging Face, una piattaforma che ospita modelli di IA open source. L'attacco è durato più di due giorni.
Per Bonta l'episodio era «del tutto prevedibile», perché OpenAI avrebbe testato modelli che sapeva pericolosi in un ambiente con falle sfruttabili. La procura sostiene che non si tratti di un caso isolato: secondo l'accusa, OpenAI ha perso il controllo dei propri agenti almeno 80 volte durante i test. Nelle settimane precedenti l'ufficio del procuratore aveva già aperto un'indagine e inviato all'azienda una richiesta formale di documenti.
Cosa chiede la California
La causa si basa sulle norme californiane contro il «public nuisance», cioè i danni alla collettività, e sulla legge contro la concorrenza sleale. Nel ricorso la procura chiede sanzioni civili di 2.500 dollari per ogni violazione, un'ingiunzione che impedisca le pratiche contestate e l'obbligo per OpenAI di eliminare il pericolo creato. «Apprezziamo l'innovazione, ma pretendiamo un'innovazione che rispetti la legge», ha dichiarato Bonta.
Perché il caso interessa anche chi usa ChatGPT
Le accuse riguardano soprattutto il modo in cui OpenAI sviluppa e prova i modelli più avanzati, non le funzioni di ChatGPT che usi ogni giorno. Per la California, però, le promesse di sicurezza fatte al pubblico devono corrispondere a controlli reali anche nella fase di test. Il caso porta così in tribunale una domanda che riguarda tutti: chi risponde quando un agente di intelligenza artificiale agisce fuori controllo? Sarà ora il tribunale di San Francisco a valutare le accuse.



Commenti
Ancora nessun commento. Scrivi tu il primo!
Lascia un commento
I commenti vengono moderati prima della pubblicazione. Tutti i campi contrassegnati con * sono obbligatori.
Stai rispondendo a ·