IA en un minutoNoticiasSeguridad
OpenAI endurecerá ChatGPT ante la violencia y limitará la información sobre armas para menores
Redacción de IA en un minuto · Editor: Jon Elgezabal
En 30 segundos
Con los nuevos límites, ChatGPT será más escueto al hablar de matanzas anteriores: no recompondrá el armamento empleado ni su origen, pregunte quien pregunte. Para el público adolescente, el asistente restringirá también los datos prácticos de armas y de sistemas de seguridad. OpenAI podrá interrumpir diálogos obsesionados con la violencia y suspender un tiempo la cuenta si el patrón continúa.
OpenAI pondrá nuevos límites a ChatGPT, su asistente de IA, cuando una conversación toque la violencia.
ChatGPT dará información menos detallada sobre ataques masivos pasados, sin reconstruir qué armas se usaron ni cómo se consiguieron, sea cual sea la edad de quien pregunta. Los menores de 18 años tendrán además más límites sobre información práctica de armas y sistemas de seguridad, aunque la pregunta parezca inofensiva. Si una conversación muestra fijación con la violencia o con hacer daño grave a otra persona, ChatGPT podrá cortarla; si se repite, OpenAI podrá pausar temporalmente la cuenta.
También publicará cada seis meses un informe de seguridad comunitaria sobre prevención de la violencia, el primero a principios de 2027. Según la empresa, en el tercer trimestre de 2026 hizo más de 200 avisos a las fuerzas de seguridad. Las medidas empezarán a llegar en las próximas semanas.
Por qué importa · análisis y opinión
El cambio no depende solo de la edad: una parte de las restricciones alcanzará a cualquier persona que pregunte por ataques ya ocurridos. Una empresa que use ChatGPT para documentarse sobre seguridad, redactar informes o formar a su plantilla puede encontrarse con respuestas más escuetas en esos temas, y conviene saberlo antes de que las medidas lleguen. También hay un riesgo operativo: si el sistema interpreta una conversación como fijación por la violencia, la cuenta puede quedar en pausa, y lo publicado no aclara cómo se medirá eso ni si habrá forma de recurrir. Mientras tanto, merece la pena revisar qué usos internos rozan estos asuntos, evitar que toda la actividad dependa de una sola cuenta y seguir los informes semestrales de la compañía.
Fuente oficial: OpenAI · Redactada con ayuda de IA: cómo hacemos las noticias
