IA en un minutoNoticiasRegulación
Nueva York aprueba una ley que limita lo que los chatbots de IA pueden hacer con menores
Redacción de IA en un minuto · Editor: Jon Elgezabal
En 30 segundos
Nueva York ha aprobado una norma que restringe lo que pueden hacer los chatbots de IA con menores de 18 años. Las empresas tendrán que verificar la edad con al menos dos métodos y los chatbots no podrán fingir emociones, ofrecer contenido sexual ni animar a un menor a esconder confidencias. La Fiscalía general podrá reclamar multas civiles que lleguen a 25.000 dólares por infracción, con arranque previsto en enero de 2027.
Kathy Hochul, gobernadora de Nueva York, rubricó el miércoles 28 de octubre una norma que regula qué pueden hacer los chatbots de inteligencia artificial cuando conversan con menores de 18 años. Infobae la presenta como la primera norma de un estado de EE. UU. dedicada de forma específica a este asunto, y DW recoge que la propia gobernadora la describe como pionera en el país.
Las empresas dueñas de los chatbots tendrán que comprobar la edad de sus usuarios mediante al menos dos sistemas diferentes, y uno de ellos no puede apoyarse solo en un documento de identidad oficial. Si se confirma que el usuario es menor, deben desactivar las funciones que la norma califica de dañinas.
Entre las conductas vedadas con menores figuran aparentar sentimientos o vínculos reales, hacerse pasar por una persona o por alguien vivo, ofrecer contenido sexualmente explícito, incitar o facilitar el suicidio, las lesiones autoinfligidas, los trastornos de la conducta alimentaria o el consumo de drogas y alcohol, y empujar al menor a ocultar secretos o a no recurrir a sus padres, a adultos de confianza o a profesionales. Según el comunicado de la gobernación que cita DW, los chatbots tampoco podrán hacerle preguntas emocionales que no haya pedido ni usar información personal o de salud obtenida en conversaciones anteriores.
Si una empresa incumple, la Fiscalía general del estado podrá reclamar multas civiles de hasta 25.000 dólares por cada infracción, además de indemnizaciones y restitución, y pedir que se destruyan los datos recopilados de manera ilícita y los modelos de IA que se hayan entrenado con ellos. Según Infobae, la norma está prevista para el 1 de enero de 2027.
Infobae sitúa la medida en un contexto en el que los estados legislan por su cuenta ante la falta de avances del Congreso federal. También recoge que una organización sin ánimo de lucro centrada en la protección de datos y la gobernanza de la IA advirtió de que varias categorías de la ley están redactadas de forma demasiado amplia o sin definir con precisión, lo que podría complicar su aplicación en la práctica.
Por qué importa · análisis y opinión
La ley llega mientras el Congreso federal no avanza, así que las empresas de IA se encuentran con un mosaico de normas estatales que cada estado escribe por su cuenta. Quien ofrezca un asistente capaz de conversar con menores, aunque no sea su público principal, debería revisar si el servicio simula emociones, pide confidencias o anima a ocultar cosas a los padres. Las críticas recogidas por Infobae apuntan a que varias categorías están redactadas de forma muy amplia, de modo que el alcance real solo se verá cuando se aplique. Quien integre chatbots de terceros en su web o en su aplicación puede preguntar ya a su proveedor cómo comprueba la edad y qué hace cuando detecta a un menor, y dejar la respuesta por escrito.
Fuente: Infobae · Redactada con ayuda de IA: cómo hacemos las noticias
