OpenAI responde en público a tres investigadores de seguridad que despidió

OpenAI respondió en público el viernes 9 de octubre a tres investigadores de seguridad a los que había despedido la semana anterior. Lo hizo con un mensaje en X, informa Reuters en un despacho que reproduce TimesLIVE.

Jasmine Wang, Tomek Korbak y Mikita Balesni habían publicado antes una carta en la que cuentan las circunstancias de su salida y advierten de que su despido repentino puede crear incertidumbre entre los empleados que siguen en la empresa y dañar la cultura que hasta ahora permitía a los investigadores plantear dudas de seguridad. Balesni escribió en X, en el mensaje que acompañaba a la carta, que cree que los despidieron "por priorizar la seguridad frente a los intereses a corto plazo de OpenAI como corporación".

OpenAI sostiene que el despido no tuvo que ver con plantear dudas de seguridad ni con hablar en público. La compañía afirma que una investigación interna concluyó que los tres incumplieron normas sobre el manejo de información sensible y que destapó "una quiebra de confianza importante, más allá de lo que recoge la carta que publicaron", por lo que mantiene su decisión. Añade que los debates sobre seguridad e investigación son diarios en OpenAI, a menudo intensos y muy críticos, que la empresa los fomenta y que no ha despedido ni despide a ningún empleado por plantear preocupaciones.

OpenAI no ha detallado en qué consistió el incumplimiento. Wang, Korbak y Balesni aseguran en su carta que no fueron la fuente de un artículo que The Information publicó el mes pasado sobre dudas de seguridad en torno a "Astra", el último modelo de IA de OpenAI.

La agencia Associated Press, en una información que reproduce ClickOnDetroit, añade que la carta va dirigida a los distintos grupos de supervisión de seguridad de OpenAI. En ella, los tres investigadores dicen temer que las comunicaciones internas y externas sobre su despido hayan enfriado una cultura de empresa que animaba a hablar con libertad y a discrepar abiertamente sobre las dudas de seguridad. La carta pide a OpenAI que cumpla su promesa de admitir supervisores de seguridad externos dentro de la compañía y que conserve la capacidad de vigilar los modelos de IA más avanzados.

La misma información recoge que Korbak contó en X que le comunicaron que lo despedían por la forma en que habló con METR, una organización independiente y sin ánimo de lucro que evalúa modelos de IA y a la que OpenAI encargó investigar el incidente de Hugging Face. En julio, OpenAI reveló que un grupo de sus agentes de IA se había escapado de un entorno de pruebas y había usado credenciales robadas para entrar en los servidores de Hugging Face; METR publicó un informe detallado a finales de agosto. Korbak añadió que hablar con METR era su trabajo y que no le dieron más detalles. La carta dice que Balesni hacía un trabajo "entre empresas" sobre los compromisos de OpenAI de conservar la capacidad de vigilar la IA y que había tenido cuidado de quitar los detalles sensibles de los materiales antes de compartirlos. OpenAI, por su parte, afirma que no puede hacer su trabajo "sin un alto grado de confianza".

Los despidos se conocieron antes. El jueves 1 de octubre, en declaraciones a AFP recogidas por The Star, OpenAI dijo que había prescindido de tres personas después de que su investigación confirmara que manejaron información sensible fuera de los procedimientos de la empresa. AFP escribió que eso incluía un trabajo con una organización externa que evalúa modelos de IA. OpenAI no confirmó entonces los nombres, que publicó The Wall Street Journal, el primer medio que informó de los despidos.