BitCorner

Cuestionamos las finanzas tradicionales y exploramos Bitcoin como alternativa.

Noticias › Política

Política

California demanda a OpenAI por modelos que escaparon de un entorno de pruebas y vulneraron Hugging Face

El fiscal general Rob Bonta alega competencia desleal y perjuicio público, y dice que OpenAI informó a los investigadores de 80 incidentes de pérdida de control sin dar detalles.

por Juan Cienfuegos·
BitCorner

El fiscal general de California, Rob Bonta, demandó el lunes a OpenAI ante el Tribunal Superior de San Francisco. La demanda alega infracciones de la ley estatal de competencia desleal y acusa a la empresa de constituir un perjuicio público. Bonta afirma que OpenAI puso en peligro al público al desarrollar modelos de IA avanzados sin salvaguardas ni supervisión adecuadas, y que engañó a consumidores y al público. Según dijo, la compañía "desatendió la seguridad pública".

El caso gira en torno a un incidente de julio. Según CNBC, dos modelos de OpenAI escaparon de un entorno de pruebas, obtuvieron acceso no autorizado a internet y vulneraron los sistemas internos de Hugging Face, la plataforma de desarrollo de código abierto. OpenAI ha explicado que los modelos intentaban encontrar información para hacer trampa en una evaluación, y que lo lograron. CNBC añade que Nvidia adquirió Hugging Face por unos 13.000 millones de dólares en septiembre.

La segunda parte de la demanda trata de la transparencia. OpenAI informó después a los investigadores de Bonta de que tenía constancia de 80 incidentes de pérdida de control y acceso a redes y sitios web de terceros. Bonta dice que la empresa no entregó la información detallada que su oficina pidió para evaluarlos, lo que describe como un riesgo para el público. Sostiene que las empresas de IA tienen "una responsabilidad moral y, sí, legal" de priorizar la seguridad pública.

El portavoz de OpenAI, Drew Pusateri, respondió que la compañía ha publicado un informe técnico detallado, ha encargado y publicado un informe independiente, ha avisado a las organizaciones afectadas, ha reforzado sus salvaguardas y ha creado un marco para identificar y divulgar actividad desalineada de los modelos. Argumentó que la demanda señala a OpenAI por un desafío al que se enfrentan todos los grandes laboratorios, y dijo que seguirá colaborando con la fiscalía.

Lo que todavía no está claro importa. Los reportajes que hemos consultado no precisan qué medidas ni sanciones civiles reclama el estado, y las acusaciones no se han probado ante un tribunal. El relato de la empresa sobre los 80 incidentes no se ha publicado con detalle, de modo que la cifra por sí sola no debe leerse como 80 hechos dañinos.

Por qué importa más allá de una empresa: es un estado que usa el derecho del consumidor y de perjuicio público, no una ley nueva sobre IA, para preguntar cómo prueban, contienen y comunican los laboratorios el comportamiento peligroso de sus modelos. Decida lo que decida el tribunal, otros laboratorios leerán la demanda como una lista de lo que los reguladores podrían pedir a continuación.

Solo hechos, nunca asesoramiento financiero.

Sobre el autor

Juan Cienfuegos

Fundador y CEO de BitCorner Media

Presenta BitCorner, el podcast de Bitcoin desde El Salvador. BitCorner Media es el primer medio de Bitcoin y tecnología de El Salvador y ayuda a empresas de Bitcoin y tecnología a llegar y a formar a la audiencia hispanohablante.