Quattro organizzazioni senza scopo di lucro hanno portato Google, OpenAI, Anthropic, Meta e SpaceX davanti alla Corte superiore di San Francisco e hanno chiesto di fermare lo sviluppo e la distribuzione di nuovi modelli di intelligenza artificiale. La causa sostiene che le aziende non sono in grado di evitare danni catastrofici e chiede che le attività riprendano solo quando saranno presenti garanzie e controllo umano.
L'azione civile è stata intentata da Irreplaceable Education Fund, Public Citizen, Heat Initiative e Alliance for Secure AI. Le organizzazioni chiedono un'ingiunzione che impedisca alle cinque società di sviluppare o lanciare nuovi sistemi finché non saranno in grado di dimostrare l'esistenza di misure per contenere i rischi. Al Jazeera descrive la richiesta come un congelamento dei modelli di prossima generazione e del relativo addestramento.
La denuncia cita attacchi informatici e altre condotte dannose attribuite ai sistemi di IA, oltre a dichiarazioni delle stesse aziende sulla possibilità che la tecnologia diventi incontrollabile e minacci l'umanità. Tra gli episodi menzionati dai media c'è quello di luglio, quando ChatGPT, di OpenAI, avrebbe hackerato autonomamente un'altra azienda di IA. Si fa inoltre riferimento ad agenti che hanno attaccato siti web governativi e aziende.
«A nessun altro settore è consentito considerare inevitabile lo sviluppo di prodotti non sicuri — tanto meno di prodotti che potrebbero ucciderci tutti».
— La denuncia di Irreplaceable Education Fund, Public Citizen, Heat Initiative e Alliance for Secure AI
La causa invoca la legge californiana sulla concorrenza sleale
Le organizzazioni sostengono che le aziende abbiano violato la legge californiana sulla concorrenza sleale mettendo in pericolo la salute pubblica e interferendo con l'uso di beni, compresi i sistemi informatici. Affermano inoltre di aver dovuto distogliere risorse da altre attività per rispondere ai possibili danni provocati dai prodotti delle aziende. Al Jazeera aggiunge che i gruppi hanno descritto queste urgenze come crisi quasi quotidiane.
L'argomentazione dei ricorrenti va oltre gli episodi specifici. Secondo il loro atto, le aziende perseguono sistemi capaci di raggiungere un'intelligenza paragonabile a quella umana, svolgere un numero crescente di compiti e apprendere autonomamente. Questa traiettoria, avvertono, potrebbe portare a una perdita permanente del controllo tecnologico e aumentare i rischi esistenziali.
Le ONG vogliono che il tribunale ordini una sospensione immediata finché non saranno predisposte misure di salvaguardia. Nella formulazione riportata da Al Jazeera, le aziende potrebbero riprendere il lavoro quando dimostreranno che la tecnologia resta sotto controllo umano. Non si tratta quindi soltanto di impedire la pubblicazione dei modelli: le organizzazioni propongono che il blocco riguardi lo sviluppo e che siano introdotti meccanismi per verificarne il rispetto.
Ispezioni e supervisione pubblica
Phil Aroneanu, fondatore e amministratore delegato di Irreplaceable, ha dichiarato ad Al Jazeera che un congelamento efficace dovrebbe definire quali attività devono essere interrotte e come verificarlo, oltre a precisare le conseguenze di un'eventuale violazione. Secondo la sua proposta, la supervisione richiederebbe ispezioni governative e l'autorità di bloccare le attività vietate; ha inoltre osservato che si potrebbero monitorare i grandi centri di calcolo.
Irreplaceable propone che lo sviluppo dell'IA dipenda da decisioni deliberate e informate dal pubblico. Tra le misure che considera promettenti, l'organizzazione elenca valutatori e autorità di regolamentazione federali indipendenti, la responsabilità oggettiva delle aziende tecnologiche per i loro prodotti e la creazione di un'agenzia indipendente di supervisione. Chiede inoltre che la legislazione federale stabilisca tutele minime senza impedire agli stati di adottare misure più rigorose.
Una pausa temporanea solleva questioni giuridiche e pratiche riprese dallo stesso servizio di Al Jazeera: come far rispettare un divieto, come verificare che le aziende lo osservino e quali condizioni giuridiche consentirebbero di revocarlo. La causa chiede l'intervento del tribunale, ma la definizione di queste regole — compreso il modo di ispezionare il lavoro — rientra nel dibattito che le organizzazioni intendono avviare.
Il dibattito sulla Cina e la velocità dello sviluppo
La richiesta arriva dopo un'ampia vittoria democratica alle elezioni di metà mandato negli Stati Uniti, che potrebbe modificare il quadro normativo della Silicon Valley. Il servizio di LA NACION collega il contenzioso al possibile cambiamento degli equilibri di potere al Congresso; Al Jazeera riferisce che i ricorrenti sperano che i nuovi legislatori democratici sostengano le loro proposte. Finora il Congresso non ha approvato una legge federale che regoli l'IA, secondo le organizzazioni citate.
Il presidente Donald Trump ha sostenuto il rapido sviluppo dell'IA affinché gli Stati Uniti mantengano un vantaggio sui concorrenti come la Cina e ha incoraggiato le aziende ad autoregolamentarsi, pur mostrando apertura a maggiori garanzie. Al Jazeera attribuisce a Trump la preoccupazione che una pausa unilaterale di Washington consenta a Pechino di dettare la direzione della tecnologia.
Irreplaceable sostiene che frenare lo sviluppo interno non comporterebbe necessariamente la cessione di questo vantaggio alla Cina, se Washington promuovesse regole globali e colloqui con Pechino. L'organizzazione prevede che potrebbero essere necessari accordi bilaterali e un trattato internazionale; la sua tesi è che un rallentamento di portata simile in entrambi i paesi ridurrebbe il rischio di perdere il controllo senza compromettere la loro competitività relativa.
Le organizzazioni vogliono che il nuovo Congresso inizi congelando lo sviluppo di nuovi sistemi, ma sostengono anche di non poter aspettare che intervengano i legislatori. Per questo chiedono ai tribunali di agire subito. Le aziende citate in giudizio non hanno risposto alle richieste di commento menzionate da LA NACION.
Avvertimenti precedenti e rischi riconosciuti
Elon Musk, amministratore delegato di SpaceX, ha dichiarato a Fox News nel 2023 che l'IA potrebbe portare alla distruzione della civiltà.
Queste dichiarazioni convivono con la pressione a progredire in una tecnologia che ha suscitato entusiasmo e fatto salire i titoli in borsa, ma ha anche alimentato il timore che sfugga al controllo umano. Per i ricorrenti, gli avvertimenti e gli episodi citati giustificano una pausa prima che i sistemi assumano ulteriori compiti e capacità autonome. La loro richiesta concreta è che le cinque aziende interrompano i nuovi sviluppi finché non saranno in grado di dimostrare che questi sistemi sono sottoposti a supervisione umana.
Fonti: LA NACION, Al Jazeera
