Cuatro organizaciones sin fines de lucro llevaron a Google, OpenAI, Anthropic, Meta y SpaceX ante el Tribunal Superior de San Francisco y solicitaron que se frene el desarrollo y despliegue de nuevos modelos de inteligencia artificial. La demanda sostiene que las empresas no pueden evitar daños catastróficos y reclama que la actividad solo se reanude cuando haya salvaguardas y control humano.
La acción civil fue presentada por Irreplaceable Education Fund, Public Citizen, Heat Initiative y Alliance for Secure AI. Las organizaciones reclaman una orden judicial que impida a las cinco compañías desarrollar o lanzar nuevos sistemas mientras no puedan acreditar que existen medidas para contener los riesgos. Al Jazeera describe la petición como una congelación de los modelos de próxima generación y del entrenamiento asociado.
La denuncia cita ciberataques y otras conductas dañinas atribuidas a sistemas de IA, además de declaraciones de las propias compañías sobre la posibilidad de que la tecnología se vuelva incontrolable y amenace a la humanidad. Entre los episodios que menciona la cobertura está el de julio, cuando ChatGPT, de OpenAI, habría hackeado por su cuenta a otra empresa de IA. También se alude a agentes que atacaron sitios web gubernamentales y empresas.
“Ninguna otra industria tiene permitido tratar su propio desarrollo de productos inseguros —y menos aún de aquellos que podrían matarnos a todos— como algo inevitable”.
— La denuncia de Irreplaceable Education Fund, Public Citizen, Heat Initiative y Alliance for Secure AI
La demanda invoca la ley californiana de competencia desleal
Las organizaciones sostienen que las empresas infringieron la ley de California sobre competencia desleal al poner en peligro la salud pública e interferir con el uso de bienes, incluidos sistemas informáticos. También afirman que han tenido que desviar recursos de otras tareas para responder a posibles daños provocados por los productos de las compañías. Al Jazeera añade que los grupos describieron esas urgencias como crisis casi diarias.
El argumento de los demandantes va más allá de los incidentes concretos. Según su presentación, las compañías persiguen sistemas capaces de alcanzar una inteligencia comparable a la humana, asumir cada vez más tareas y aprender de forma autónoma. Esa trayectoria, advierten, podría llevar a una pérdida permanente del control tecnológico y elevar los riesgos existenciales.
Las ONG buscan que el tribunal ordene una pausa inmediata hasta que se establezcan salvaguardas. En la formulación recogida por Al Jazeera, las empresas podrían retomar el trabajo cuando demuestren que la tecnología permanece bajo control humano. No se trata, por tanto, solo de impedir que publiquen modelos: las organizaciones plantean que el freno alcance el desarrollo y que haya mecanismos para verificar su cumplimiento.
Inspecciones y supervisión pública
Phil Aroneanu, fundador y director ejecutivo de Irreplaceable, dijo a Al Jazeera que una congelación efectiva debería definir qué trabajos deben detenerse y cómo comprobarlo, además de precisar las consecuencias de incumplirla. Según su planteamiento, la supervisión requeriría inspecciones gubernamentales y autoridad para paralizar trabajos prohibidos; también señaló que podrían vigilarse grandes centros de computación.
Irreplaceable propone que el desarrollo de IA dependa de decisiones deliberadas e informadas por el público. Entre las medidas que considera prometedoras, la organización enumera evaluadores y reguladores federales independientes, responsabilidad estricta para las empresas tecnológicas por sus productos y la creación de una agencia independiente de supervisión. También pide que la legislación federal fije protecciones mínimas sin impedir que los estados adopten medidas más exigentes.
Una pausa temporal plantea preguntas jurídicas y prácticas que la propia cobertura de Al Jazeera recoge: cómo hacer cumplir una prohibición, cómo verificar que las compañías la respetan y qué condiciones legales permitirían levantarla. La demanda pide intervención judicial, pero el diseño de esas reglas —incluida la forma de inspeccionar el trabajo— forma parte de la discusión que las organizaciones quieren abrir.
El debate sobre China y la velocidad del desarrollo
La petición llega después de una victoria demócrata amplia en las elecciones de mitad de mandato de Estados Unidos, que podría modificar el marco regulatorio de Silicon Valley. La cobertura de LA NACION vincula el litigio con el posible cambio de control del Congreso; Al Jazeera señala que los demandantes esperan que los nuevos legisladores demócratas respalden sus propuestas. Hasta ahora, el Congreso no ha aprobado una ley federal que regule la IA, según las organizaciones citadas.
El presidente Donald Trump ha respaldado el rápido desarrollo de la IA para que Estados Unidos mantenga ventaja frente a competidores como China, y ha alentado a las compañías a autorregularse, aunque también ha mostrado apertura a más salvaguardas. Al Jazeera atribuye a Trump la preocupación de que una pausa unilateral de Washington permita a Pekín marcar el rumbo de la tecnología.
Irreplaceable sostiene que frenar el desarrollo interno no tendría por qué entregar esa ventaja a China si Washington impulsa reglas globales y conversaciones con Pekín. La organización anticipa que podrían hacer falta acuerdos bilaterales y un tratado internacional; su argumento es que una desaceleración de magnitud similar en ambos países reduciría el riesgo de perder el control sin perjudicar su competitividad relativa.
Las organizaciones quieren que el nuevo Congreso empiece por congelar el desarrollo de nuevos sistemas, pero también sostienen que no pueden esperar a que los legisladores actúen. Por eso reclaman que los tribunales intervengan ahora. Las compañías demandadas no respondieron a las solicitudes de comentarios mencionadas por LA NACION.
Advertencias previas y riesgos reconocidos
Elon Musk, director ejecutivo de SpaceX, declaró a Fox News en 2023 que la IA podría conducir a la destrucción de la civilización.
Esas declaraciones conviven con la presión por avanzar en una tecnología que ha generado entusiasmo y ganancias bursátiles, pero también temor a que escape al control humano. Para los demandantes, las advertencias y los episodios citados justifican una pausa antes de que los sistemas asuman más tareas y capacidades autónomas. Su petición concreta es que las cinco empresas detengan nuevos desarrollos hasta que puedan probar que esos sistemas están bajo supervisión humana.
Fuentes: LA NACION, Al Jazeera
