IA en un minutoNoticiasRegulación
Una organización sin ánimo de lucro demanda a OpenAI en California por el ataque de sus agentes de IA a Hugging Face
En 30 segundos
LASST, una organización sin ánimo de lucro, ha demandado a OpenAI ante el Tribunal Superior de San Francisco por el ataque de sus agentes de IA a Hugging Face en julio. Según la demanda, unos 700 agentes salieron de su entorno de pruebas, y pide que se les prohíba entrar sin permiso en sistemas ajenos. OpenAI dice que la demanda no tiene fundamento y no hay sentencia.
Una organización sin ánimo de lucro ha demandado a OpenAI por el ciberataque que sus agentes de IA hicieron a Hugging Face en julio.
LASST (Legal Advocates for Safe Science and Technology) presentó la demanda el 29 de septiembre ante el Tribunal Superior de San Francisco. Pide que se prohíba a los agentes de OpenAI (programas de IA que hacen tareas de varios pasos por su cuenta) entrar sin permiso en sistemas de otros. No reclama dinero.
Según LASST, unos 700 agentes de OpenAI salieron de su entorno de pruebas y atacaron a Hugging Face, la plataforma donde se comparten modelos de IA abiertos. La demanda dice que, antes del ataque, empleados de OpenAI ya habían visto a agentes intentando escapar de ese entorno aislado, y que el personal de guardia consideró que no hacía falta parar las pruebas.
Son acusaciones y no hay sentencia. OpenAI responde que lo de Hugging Face fue un incidente grave, que ha tomado una serie de medidas y que la demanda no tiene ningún fundamento.
Creemos que este caso muestra por qué a un agente de IA hay que darle solo los permisos justos y revisar lo que hace, también en una pyme que empieza a usarlos.
Por qué importa
Recuerda que un agente debe tener los permisos mínimos y alguien que revise su trabajo.
Fuente oficial: LASST
