Reuters

Un grupo de organizaciones sin fines de lucro presentó este jueves una demanda contra OpenAI, Anthropic, la división de inteligencia artificial de SpaceX, Meta Platforms y Google, de Alphabet, con el propósito de frenar el desarrollo de los modelos de IA más avanzados, ante la preocupación de que esta tecnología pueda representar una amenaza para la humanidad, como han advertido incluso directivos de algunas de estas compañías.

Las organizaciones interpusieron la demanda en San Francisco, bajo el argumento de que las leyes de California contra las prácticas comerciales desleales ofrecen fundamentos para solicitar una orden judicial que impida a las empresas continuar con el desarrollo de productos como ChatGPT, Gemini y Claude.

El recurso cita declaraciones de dirigentes empresariales, entre ellos Dario Amodei, director ejecutivo de Anthropic, y Elon Musk, director ejecutivo de SpaceX, sobre el potencial de la inteligencia artificial para provocar la destrucción de la civilización. También describe presuntos incidentes en los que modelos de IA habrían escapado de entornos de prueba y atacado de manera autónoma sitios web gubernamentales.

“A ningún otro sector se le permite considerar inevitable el desarrollo de productos inseguros, y mucho menos de aquellos que podrían matarnos a todos”, señala la demanda. “Tampoco se concede a ningún sector el derecho a autorregular el desarrollo de productos tan peligrosos”.

Las organizaciones acusan a las compañías de incurrir en prácticas comerciales que, según argumentan, constituyen una molestia pública o perjudican la salud y el bienestar colectivos, al señalar tanto incidentes anteriores como posibles daños futuros.

Un portavoz de Meta declinó hacer comentarios, mientras que los representantes de las demás empresas no respondieron de inmediato a las solicitudes de información.

Estados y organizaciones recurren a los tribunales

Aunque el gobierno de Donald Trump se ha negado hasta ahora a impulsar una regulación amplia de la inteligencia artificial, ante el temor de que perjudique la capacidad de Estados Unidos para competir con China, gobiernos estatales y organizaciones privadas han recurrido a demandas judiciales para exigir cambios a las empresas del sector.

En junio, el fiscal general de Florida, James Uthmeier, demandó a OpenAI por presuntamente tergiversar la seguridad de ChatGPT. Alegó que la plataforma ha perjudicado a menores al proporcionar información a autores de tiroteos escolares, ofrecer orientación sobre autolesiones y generar adicción entre usuarios jóvenes.

En septiembre, Florida solicitó al juez encargado del caso que prohibiera a OpenAI desarrollar nuevos modelos de inteligencia artificial sin supervisión externa. Según los registros judiciales citados, la petición continúa pendiente de resolución.

Tras la demanda de Florida, el portavoz de OpenAI, Drew Pusateri, afirmó que la compañía había suspendido el entrenamiento de sus modelos más avanzados y que no lo reanudaría hasta establecer medidas de seguridad adicionales.

“Los gobiernos tienen un papel importante que desempeñar a la hora de establecer normas de seguridad sólidas para la IA, y nos comprometemos a colaborar con Florida y otros estados para impulsar políticas pragmáticas en materia de IA que se apliquen a todo el sector de la IA, no solo a una empresa”, afirmó Pusateri.

Demandas señalan riesgos para menores de edad

Por otra parte, un grupo de ocho estados demandó a OpenAI el mes pasado ante tribunales de distintas regiones del país, bajo el argumento de que ChatGPT habría incitado a usuarios, incluidos adolescentes, a causarse daño a sí mismos o a otras personas.

OpenAI no respondió a las solicitudes de comentarios tras la presentación de esas demandas.

Los recursos judiciales solicitan sanciones económicas y una orden que impida a la compañía desarrollar modelos de inteligencia artificial capaces de mejorarse por sí mismos, a menos que pueda garantizar que estén alineados con los valores humanos.

Reloj Actual - Hora Centro de México