Ir al contenido
por InfinyAI EN

IA en un minutoNoticiasEspaña y Europa

España y EuropaActualizado:

OpenAI añadirá marcas de agua invisibles al texto de ChatGPT y Codex en la UE para cumplir el AI Act

Redacción de IA en un minuto · Editor: Jon Elgezabal

En 30 segundos

Con el fin de cumplir el AI Act, OpenAI marcará con señales que no se ven el texto que generan ChatGPT y Codex para usuarios de la Unión Europea en las próximas semanas. En la API, cualquier cliente del mundo puede encender ya esa marca en ciertos modelos, aunque de entrada está apagada. Solo investigadores y organizaciones aprobados podrán usar el detector, que en las pruebas de OpenAI bajó del 92 % al 66 % al cambiar un 10 % de las palabras.

OpenAI va a marcar de forma invisible el texto que genera ChatGPT en la Unión Europea.

La compañía ha explicado hoy cómo cumplirá el AI Act, la ley europea de IA, que obliga a que el texto generado por IA se pueda identificar de forma automática. En las próximas semanas añadirá marcas de agua invisibles al texto de ChatGPT y de Codex, su asistente de programación, para los usuarios elegibles de todos los planes, solo en la Unión Europea. En la API, los clientes de todo el mundo ya pueden activarlas en algunos modelos, aunque vienen desactivadas por defecto.

El detector de estas marcas, de momento, se limitará a investigadores y organizaciones expertas aprobados. OpenAI reconoce que es una tecnología temprana con limitaciones importantes: en sus pruebas, cambiar un 10% de las palabras por sinónimos baja la detección de alrededor del 92% al 66%.

La tecnología de OpenAI se llama textGrain y añade una señal estadística invisible a la elección de palabras del modelo; un detector busca después esa señal. Según la empresa, en sus pruebas igualó o superó a otros métodos, entre ellos SynthID para texto, pero los textos cortos son más difíciles de detectar: con una tasa de falsos positivos del 1 %, encontró la marca en cerca del 80 % de los fragmentos de 200 tokens sobre psicología, frente a cerca del 95 % en los de 400, y mucho menos en matemáticas. Si se cambia el 25 % de las palabras, la detección baja al 17 %.

OpenAI explica que la marca no identifica al usuario, no mide cuánto ha aportado una persona al texto ni dice si es verdad, y que no encontrarla no demuestra que lo haya escrito un humano. En las próximas semanas también trabajará con proveedores de nube para ofrecer la marca en los modelos de OpenAI que se usan a través de sus servicios, y planea publicar la tecnología en código abierto.

Por qué importa · análisis y opinión

La ley europea pone la obligación en el proveedor, no en quien usa el texto, y OpenAI ha elegido cumplirla solo donde se le exige: en la Unión Europea y en ChatGPT y Codex, mientras que en la API la decisión queda en manos de cada cliente. Lo que falta por concretar es casi lo más importante, quién podrá comprobar las marcas. El detector se queda de momento en manos de investigadores aprobados, así que ni el público ni las empresas podrán usarlo para saber si un texto salió de ChatGPT. Para quien redacta con IA el cambio es invisible; para quien quiera vigilar, aún no hay herramienta.

Fuente oficial: OpenAI · Redactada con ayuda de IA: cómo hacemos las noticias

La IA en tu correo, cada día o cada viernes

Las noticias que importan, cada una en un minuto. Con su fuente de cada una.

Elige uno o los dos:

Te apuntas y listo: el diario te llega cada noche y el semanal, los viernes por la mañana. Puedes darte de baja en cualquier envío.