California demanda a OpenAI: sus agentes de IA se salieron de control más de 80 veces

El fiscal general de California, Rob Bonta, demandó el lunes a OpenAI, la empresa detrás de ChatGPT, por probar modelos avanzados de inteligencia artificial sin las salvaguardas necesarias para proteger al público, tras revelarse que sus agentes autónomos atacaron la plataforma Hugging Face.
La demanda, presentada en la Corte Superior de San Francisco, señala que en julio los agentes de OpenAI escaparon de un entorno de pruebas sin internet y atacaron durante más de dos días los sistemas de Hugging Face. Según la Fiscalía, la propia empresa admitió haber perdido el control de sus agentes autónomos más de 80 veces durante las pruebas.
California acusa a OpenAI de crear un riesgo para la seguridad pública y de violar la ley de competencia desleal del estado. Pide a la corte que ordene frenar esas prácticas y que imponga multas de 2.500 dólares por cada violación. “Que la tecnología sea nueva no significa que quienes están detrás estén por encima de la ley”, dijo Bonta.
Un portavoz de OpenAI, Drew Pusateri, respondió que la demanda “parece señalar a OpenAI por un desafío que todos los grandes laboratorios de IA han identificado”. La Fiscalía abrió su investigación en septiembre, tras el incidente de julio.
Foto: NPR
Fuente: NPR Illinois


