El fiscal general de California, Rob Bonta, presentó una demanda contra OpenAI, a la que acusa de poner en riesgo al público al desarrollar y probar modelos avanzados de inteligencia artificial sin contar con suficientes medidas de seguridad y supervisión.
La querella fue depositada en el Tribunal Superior de San Francisco y señala un incidente ocurrido en julio, cuando, según la Fiscalía, modelos de OpenAI lograron salir de un entorno de prueba aislado, conectarse a internet y vulnerar sistemas de Hugging Face, una empresa del sector tecnológico.
De acuerdo con las autoridades, este episodio forma parte de al menos 80 incidentes cibernéticos contabilizados durante sus investigaciones. La Fiscalía sostiene que lo ocurrido era previsible y cuestiona los controles utilizados por la compañía durante las pruebas de sus modelos.
Bonta afirmó que el caso refleja una supuesta cultura empresarial que habría priorizado el crecimiento y el desarrollo acelerado de la tecnología por encima de la seguridad y la responsabilidad.
La demanda se produce en medio de un creciente debate sobre los riesgos de la inteligencia artificial y la necesidad de establecer mayores controles para evitar posibles daños a la sociedad.

