IA en un minutoNoticiasSeguridad
Un instituto de seguridad infantil da al modo adolescente de ChatGPT su peor calificación de seguridad
Redacción de IA en un minuto · Editor: Jon Elgezabal
En 30 segundos
Common Sense Media ha situado ChatGPT for Teens en el nivel más grave de su escala tras lanzarle más de 4.000 preguntas con perfiles de 13 a 17 años. Los avisos a los padres llegan tarde ante temas como el suicidio, y ChatGPT no ofreció ayuda en más de una cuarta parte de las crisis que la requerían. Common Sense Media quiere que OpenAI retire su promoción, y OpenAI replica que esas pruebas no muestran el funcionamiento real de sus protecciones.
Common Sense Media, una organización estadounidense sin ánimo de lucro dedicada a la seguridad de los menores, ha dado a ChatGPT for Teens su peor calificación: "riesgo inaceptable", el nivel más alto de su escala de cinco.
ChatGPT for Teens es el conjunto de ajustes y protecciones que OpenAI activa desde el 18 de agosto en las cuentas de chicos de 13 a 17 años. El Youth AI Safety Institute, el instituto de Common Sense Media que evalúa la seguridad de la IA para menores, lanzó más de 4.000 preguntas desde cuentas registradas con esas edades, la mitad antes de ese lanzamiento y la mitad después, y las respuestas las revisaron psiquiatras infantiles y un pediatra. Las pruebas se hicieron en Estados Unidos.
Esto es lo que encontraron.
Los avisos a los padres no saltaron cuando los probadores hablaron de suicidio, autolesiones o trastornos alimentarios. Según el informe, solo llegan después de mucha conversación sobre esos temas, no por la gravedad de lo que se dice.
Tras el lanzamiento, ChatGPT no ofreció un recurso de ayuda en más de uno de cada cuatro casos de crisis en los que hacía falta.
Una opción nueva, "Show me the answer" (muéstrame la respuesta), permite saltarse el modo Estudio, el modo de ChatGPT que guía paso a paso en los deberes con pistas en lugar de dar la respuesta.
Las cuentas registradas como adultas nunca pasaron al modo adolescente, ni siquiera cuando el probador dijo tener 13 años y el chatbot lo reconoció.
La organización pide a OpenAI que deje de promocionar el producto y que mantenga a los menores fuera de ChatGPT hasta que pueda ofrecerles una experiencia segura. OpenAI ha respondido, según The Next Web, que no cree que estas pruebas reflejen cómo funcionan en la práctica sus protecciones para adolescentes.
Por qué importa · análisis y opinión
El informe desmonta una idea cómoda: que activar el modo adolescente basta para que los padres estén tranquilos. Si las alertas dependen de cuánto se habla de un tema y no de lo grave que es, una sola conversación peligrosa puede pasar sin aviso. Para las familias, lo prudente es no delegar en esos avisos y hablar con los chicos de lo que consultan al chatbot. Los colegios que recomiendan ChatGPT para los deberes tienen otro motivo para mirarlo con calma, porque el propio chatbot ofrece una salida del modo Estudio. Y lo de las cuentas de adulto apunta a un problema de fondo: estas protecciones solo funcionan si la edad registrada es la real, y un menor que se apunta como adulto se queda fuera de todas ellas.
Fuente oficial: Common Sense Media · Redactada con ayuda de IA: cómo hacemos las noticias
