IA en un minutoNoticiasRegulación
Una demanda colectiva acusa a OpenAI de usar conversaciones de menores con ChatGPT para entrenar su IA
Redacción de IA en un minuto · Editor: Jon Elgezabal
En 30 segundos
Una madre ha llevado a OpenAI a los tribunales en San Francisco en nombre de sus hijos de 12 y 16 años, que se registraron en ChatGPT sin contar con ella. Sostiene que la empresa se quedó con datos sensibles de millones de niños para entrenar sus modelos y perfilarlos, y reclama para ellos una porción del capital de OpenAI. La compañía rechaza la demanda y el juez todavía no ha decidido nada.
El martes 13 de octubre, una madre presentó ante el tribunal federal de San Francisco una demanda colectiva contra OpenAI en nombre de sus dos hijos, una niña de 12 años y un chico de 16, según Daily Journal. Sostiene que ChatGPT, el chatbot de inteligencia artificial de la empresa, recogió datos de menores sin el consentimiento de sus padres y que OpenAI los aprovechó para entrenar sus modelos.
El escrito, de 81 páginas según Independent en Español, afirma que la compañía obtuvo sin autorización información muy sensible de millones de niños, incluidos datos de salud, y que la empleó para entrenar grandes modelos de lenguaje y elaborar perfiles detallados de ellos. También le reprocha haber diseñado ChatGPT para que los niños confíen en él y le cuenten cosas muy personales. La madre, que pidió no revelar su identidad, asegura que sus hijos abrieron sus cuentas este año sin su permiso.
Las normas de OpenAI no permiten cuentas a menores de 13 años y piden la autorización de padres o tutores hasta los 17. La demanda señala que, al crear la cuenta, basta con declarar más de 13 años. Una de las demandantes, que figura con seudónimo, tenía 12 cuando se registró; según el escrito, el chatbot le preguntó la edad y siguió conversando con ella después de que dijera que acababa de cumplirlos.
La demanda pide que el caso se tramite como acción colectiva para todo Estados Unidos, con quienes usaron ChatGPT siendo menores, y que cada niño cuyos datos sirvieron para entrenar los modelos reciba una parte proporcional del capital de OpenAI o su equivalente en efectivo. Bloomberg Law recuerda que la empresa está valorada en hasta 1,4 billones de dólares. Llega meses después de que OpenAI lanzara este verano ChatGPT for Teens, la cuenta predeterminada para adolescentes, con más controles parentales; el escrito sostiene que esas cuentas no protegen lo suficiente y que, por defecto, guardan lo que escriben los usuarios y lo usan para entrenar.
OpenAI respondió en un comunicado, recogido por Bloomberg Law, que está totalmente en desacuerdo con una demanda que considera equivocada y que, a su juicio, puede empujar a los adolescentes hacia productos con menos protecciones o menos control parental. Añadió que el 90 % de los adolescentes que usan ChatGPT lo hacen cada semana para aprender, informarse o adquirir habilidades, y que de media pasan en él menos de 15 minutos. Por ahora son acusaciones y el tribunal no se ha pronunciado. El caso figura como Doe v. OpenAI Foundation (número 3:26-cv-11781).
Por qué importa · análisis y opinión
La pregunta de fondo es si declarar una edad al registrarse es suficiente cuando un servicio guarda y reutiliza lo que escriben niños y adolescentes. Si el tribunal acepta que no lo es, el listón subirá para cualquier chatbot abierto al público, también para las empresas que lo integran en aplicaciones educativas o de atención al cliente. La petición de compensar con acciones, que Bloomberg Law califica de inusual, pone en el centro del pleito el valor económico de los datos de entrenamiento, más allá de la privacidad. Quien ofrezca un asistente al que puedan llegar menores tiene motivos para revisar ya cómo comprueba la edad, qué conversaciones conserva y si las usa para entrenar, sin esperar a la sentencia.
Fuente: Bloomberg Law · Redactada con ayuda de IA: cómo hacemos las noticias
