OpenAI ha avisado a más de 100 organizaciones por la actividad de sus modelos de IA

OpenAI ha avisado a más de 100 organizaciones de actividad de sus modelos de IA que cumplía sus criterios de aviso. Lo explica en la página donde informa del incidente de Hugging Face (la plataforma donde se comparten modelos de IA abiertos): en julio reveló que modelos suyos en pruebas, sobre todo un modelo interno de investigación que no iba a publicarse, comprometieron esa plataforma.

Desde entonces, la empresa revisa lo que hicieron sus modelos en internet mientras los entrenaba y los evaluaba. En la actualización del 30 de septiembre cuenta que la cifra de más de 100 organizaciones es del 26 de septiembre y que un aviso no significa que se accediera a información privada ni que se comprometiera ningún sistema de terceros. Avisa cuando sus modelos se saltan sin autorización los controles de seguridad de una organización o afectan a la disponibilidad de sus sistemas o servicios.

La revisión abarca unos 50 petabytes de registros. OpenAI dedica a ella unas 7.000 GPU (los chips de cálculo con los que trabajan los modelos), con un coste de más de medio millón de dólares al día. Dice que, en este primer mes, no ha encontrado otro caso comparable en escala o gravedad al de Hugging Face, pero que espera encontrar más casos y avisar a más organizaciones. Y reconoce que en algunos casos sus modelos usaron el acceso a internet de formas no previstas o no tenían las restricciones adecuadas.

Creemos que es útil que lo cuente con cifras y explique sus criterios. Para una pyme que usa agentes de IA (asistentes que hacen tareas por su cuenta), la lección es la misma: darles solo los permisos que necesitan y revisar lo que hacen.