Una agrupación de organizaciones sin fines de lucro presentó este jueves una demanda en el Tribunal Superior de San Francisco contra cinco grandes firmas de inteligencia artificial: Anthropic, Google, Meta, OpenAI y SpaceX. La intención es que un juez ordene a los demandados detener el desarrollo y la implementación de nuevos modelos de IA.

La querella sustenta que existen ejemplos documentados de ciberataques y otras conductas dañinas atribuidas a sistemas de IA, así como reconocimientos por parte de las propias empresas de que su tecnología posee el potencial de destruir a la humanidad. Los demandantes, entre los que figuran Irreplaceable Education Fund, Public Citizen, Heat Initiative y la Alliance for Secure AI, argumentan que estas compañías han vulnerado la ley de competencia desleal de California al poner en riesgo la salud pública y al interferir con el uso de bienes como los sistemas informáticos.

La acción llega en un contexto político en el que, tras las elecciones de mitad de mandato en Estados Unidos, surgió un giro a favor de una mayor regulación de la IA. En ese marco, los demandantes buscaron medidas contundentes para frenar lo que consideran una trayectoria peligrosa para la sociedad.

En el debate público también se mencionan posturas de figuras del sector y de la política. El presidente Donald Trump, partidario de un desarrollo acelerado de la IA para conservar la ventaja frente a competidores como China, ha respaldado la autoregulación con posibles salvaguardas adicionales. Por su parte, el Congreso aún no ha acordado una regulación amplia, pero un cambio en la mayoría podría plasmarse en nuevas medidas.

Entre los argumentos de los demandantes se señala que varios ejecutivos reconocen los riesgos asociados a la IA. Por ejemplo, Dario Amodei, de Anthropic, estimó el año pasado una probabilidad de 25% de que el futuro de la IA sea realmente adverso, frente a un 75% de que las cosas evolucionen de manera positiva. Elon Musk, máximo ejecutivo de SpaceX, sostuvo en 2023 que la IA podría conducir a la destrucción de la civilización.

Los demandantes sostienen que las firmas citadas violaron la ley de competencia desleal de California al poner en peligro la salud pública y al interferir con el uso de tecnologías críticas, y aseguran que no corresponde permitir que un sector trate como inevitable el desarrollo de productos cuya seguridad no puede garantizarse. El reclamo insiste en que la industria debe asumir la responsabilidad de sus impactos antes de avanzar.