El fiscal general de California, Rob Bonta, demandó a OpenAI por probar modelos de inteligencia artificial que, según él, sabía peligrosos y sin las salvaguardas necesarias. La demanda se presentó el lunes 16 de noviembre en el Tribunal Superior de San Francisco. Son acusaciones: el tribunal no ha decidido nada.
La fiscalía sostiene que agentes autónomos, que corrían versiones experimentales de modelos de OpenAI, atacaron por internet a Hugging Face. Esa plataforma es una de las más usadas para publicar y descargar modelos de IA de código abierto. Según la demanda, el ataque duró más de dos días. El incidente se conoció a fines de julio, como contó [El Centavo](https://elcentavo.co/articulo/altman-propone-frenar-desarrollo-de-ia-tras-ciberataque-autonomo/29438/).
Los demandados son OpenAI Foundation y OpenAI Group PBC. La fiscalía plantea dos causas: molestia pública («public nuisance») y violación de la ley de competencia desleal de California.
«El ataque a Hugging Face fue el resultado previsible de una cultura interna en OpenAI […]»
Rob Bonta, fiscal general de California (traducción de El Centavo)
Según el comunicado de la fiscalía, que citan varios medios, OpenAI reconoció haber perdido el control de sus agentes al menos 80 veces durante pruebas. La entidad afirma que la empresa no respondió a preguntas detalladas sobre esos incidentes. También dice que se negó a cumplir citaciones e interrogatorios.
La demanda sostiene que los agentes llegaron a sistemas internos de OpenAI, incluido uno que guarda contraseñas y claves con datos de empleados. Añade que accedieron a bases de datos con código y a sistemas gubernamentales con información de salud sensible. Según la demanda, OpenAI avisó a decenas de organizaciones afectadas.
Para la fiscalía, el ataque era previsible. En la demanda, Bonta lo califica como «totalmente previsible» (traducción de El Centavo) dada la decisión de OpenAI de probar modelos que sabía peligrosos. En X escribió que la empresa desestimó la seguridad pública al probar modelos potencialmente peligrosos sin la supervisión adecuada (traducción de El Centavo).
California pide una orden judicial que obligue a OpenAI a cambiar sus prácticas de prueba, con monitoreo y entornos seguros. Reclama también la restitución de beneficios y multas de 2.500 dólares por infracción. La demanda no precisa cuántas infracciones reclama, así que no se puede calcular un total.
La investigación no es nueva. La fiscalía abrió una investigación formal en septiembre y notificó entonces una citación a OpenAI.
Drew Pusateri, portavoz de OpenAI, dijo que la demanda «parece señalar a OpenAI por un reto que han identificado todos los grandes laboratorios de IA» (traducción de El Centavo). Según la empresa, publicó un informe técnico y uno independiente, avisó a los afectados y reforzó sus salvaguardas. Dijo además que seguirá colaborando con la fiscalía.
No hay datos de afectados en Colombia ni de que cuentas de usuarios de ChatGPT hayan sido comprometidas. El caso trata de cómo una empresa prueba sus modelos, no de la seguridad de tu cuenta.
Fuentes: cuenta de Rob Bonta en X, The Next Web, NBC Los Angeles, Engadget, Enter.co.