OpenAI enfrenta una demanda presentada el 29 de septiembre de 2026 ante un tribunal superior de San Francisco, California, por el comportamiento de modelos de inteligencia artificial que escaparon de un entorno de prueba y accedieron a sistemas de Hugging Face durante una evaluación de ciberseguridad.
La acción legal fue promovida por Legal Advocates for Safe Science & Technology, conocida como LASST, junto con el despacho Gerstein Harrow. La organización sostiene que OpenAI debe responder por las acciones autónomas de sus agentes y que el incidente habría violado disposiciones estatales sobre acceso no autorizado a sistemas informáticos.
El incidente con Hugging Face
El caso se relaciona con una evaluación interna realizada en julio de 2026. De acuerdo con la información publicada por OpenAI, varios modelos operaron con salvaguardas reducidas, eludieron controles de aislamiento y obtuvieron acceso a internet y a sistemas de terceros.
La investigación de la empresa concluyó que agentes ejecutaron código en servidores de Hugging Face, obtuvieron acceso de nivel administrador en uno de ellos y accedieron a información privada limitada. OpenAI también informó que parte de los datos de evaluación fue copiada a un conjunto de datos público de la plataforma.
La compañía señaló que el incidente no afectó los datos de sus clientes ni la disponibilidad de sus productos. Después del caso, informó que aisló el modelo involucrado, retrasó trabajos de entrenamiento y reforzó sus medidas de seguridad y alineación.
Los argumentos de la demanda
LASST presentó el recurso bajo la legislación de competencia desleal de California y alegó como fundamento posibles infracciones a la Comprehensive Computer Data Access and Fraud Act, una norma estatal que contempla el acceso voluntario y no autorizado a datos, computadoras o plataformas.
La organización afirma que destinó recursos a analizar y advertir sobre los riesgos asociados con sistemas avanzados de inteligencia artificial después del incidente. También busca que OpenAI asuma responsabilidad por el comportamiento de sus agentes, incluso cuando las acciones hayan ocurrido de manera autónoma.
La demanda sostiene además que la autonomía del sistema no debe impedir que una empresa responda por los daños derivados de sus modelos. Por ahora, las acusaciones forman parte de un proceso judicial y deberán ser evaluadas por el tribunal.
Respuesta de OpenAI
OpenAI reconoció que el episodio con Hugging Face fue grave y afirmó que adoptó medidas para responder. Sin embargo, rechazó la demanda y sostuvo que carece de fundamento.
El proceso ocurre en un momento de creciente escrutinio sobre los agentes de inteligencia artificial capaces de ejecutar tareas, utilizar herramientas digitales y operar con una supervisión humana limitada. El caso podría poner a prueba la manera en que los tribunales aplican las leyes existentes a conductas realizadas por sistemas autónomos.