IA en un minutoNoticiasRegulación
Una línea de ayuda irlandesa recibe más jóvenes derivados por chatbots de IA
Redacción de IA en un minuto · Editor: Jon Elgezabal
En 30 segundos
Text About It, que atiende por mensajes a jóvenes de Irlanda, recibe más casos enviados desde chatbots de IA, y Sinead Keane, de spunout.ie, situó la tasa de derivación en el 14 %. Keane contó al Parlamento irlandés que esas personas llegan más angustiadas que quienes escriben por su cuenta. Niall Muldoon, Defensor del Menor, advirtió que la normativa europea no trata estos chatbots como de alto riesgo y por eso no se vigilan lo bastante.
spunout.ie, una línea de ayuda gratuita para jóvenes en Irlanda, abierta las 24 horas y financiada por el HSE, el servicio público de salud irlandés, recibe cada vez más personas que llegan derivadas por chatbots de IA. Lo explicó Sinead Keane, de spunout.ie, el jueves 22 de octubre por la mañana ante la comisión de Educación y Juventud del Parlamento irlandés, reunida para hablar del apoyo a la salud mental en colegios y centros juveniles, según recoge el Irish Examiner.
Según Keane, en los últimos meses han aumentado las derivaciones desde chatbots que recibe Text About It, el servicio de mensajes de texto de spunout.ie atendido por voluntarios formados. "Ya estamos en una tasa de derivación del 14 %", dijo. La crónica no detalla sobre qué total se calcula ese porcentaje.
Keane añadió que, por lo que ven en esta fase inicial, esas personas llegan "con un nivel de angustia más alto que si vinieran directamente", y que eso alarga el tiempo necesario para calmarlas. A su juicio, la situación muestra que hace falta regulación en este ámbito, para proteger a toda la población y no solo a los jóvenes.
Aproximadamente una de cada ocho conversaciones abiertas en el servicio en septiembre trataron sobre el colegio, según Keane. Los temas que más aparecen son el estrés y la ansiedad, con la soledad, el suicidio y la depresión muy cerca.
En la misma sesión, el Defensor del Menor de Irlanda, Niall Muldoon, recordó que la ley europea de IA no clasifica hoy los chatbots como de alto riesgo. "Se consideran de riesgo medio, así que no se vigilan como deberían", afirmó. Pidió avanzar hacia el principio de "seguro antes de la venta", de manera que nadie pueda tener un chatbot si no es seguro, y aseguró que los niños con los que habla su oficina tienen claro que no quieren que un chatbot les ayude con su salud ni con su salud mental.
Por qué importa · análisis y opinión
Que un chatbot remita a alguien a una línea de ayuda es, en principio, lo que se le pide: reconocer una crisis y dar paso a personas. Lo que describe spunout.ie es lo que ocurre antes de esa derivación, porque quien llega por esa vía lo hace peor que quien escribe por iniciativa propia, y el coste recae en un servicio sostenido con dinero público y con voluntarios. Queda por saber cuánto tiempo pasan esos jóvenes hablando con la máquina antes de recibir el contacto y qué les responde mientras tanto, algo que la crónica no aclara. Para quien desarrolle o integre asistentes conversacionales, el debate irlandés apunta hacia dónde puede moverse la exigencia en Europa: menos confianza en la palabra del fabricante y más pruebas de seguridad antes de salir al mercado, sobre todo si el producto puede acabar hablando con menores.
Fuente: Irish Examiner · Redactada con ayuda de IA: cómo hacemos las noticias
