IA en un minutoNoticiasSeguridad
Una investigación de Science revela que varios fabricantes de diademas EEG usan datos cerebrales de sus clientes para entrenar IA
Redacción de IA en un minuto · Editor: Jon Elgezabal
En 30 segundos
Science y el Pulitzer Center han visto que varias marcas de diademas EEG reutilizan las grabaciones cerebrales de su clientela para crear IA, sin avisarlo al principio. Interaxon, dueña de Muse, ha usado unas 50.000 horas de EEG para entrenar un modelo y, como Emotiv, ha corregido sus condiciones tras preguntarle la revista. Science añade que más de dos tercios de esas empresas pueden ceder los datos en una venta sin permiso del usuario.
Algunas diademas que miden el sueño registran la actividad eléctrica del cerebro de quien las lleva, y esas grabaciones también se están usando para entrenar inteligencia artificial. Es lo que ha encontrado una investigación de la revista Science con la red AI Accountability Network del Pulitzer Center, según recoge Tom's Hardware.
Las empresas de neurotecnología de consumo analizadas acumulan decenas de millones de horas de electroencefalogramas (EEG, el registro de la actividad eléctrica del cerebro). Varias las emplean para desarrollar modelos fundacionales del cerebro: una IA que aprende los patrones que se repiten en esa actividad y que después se puede adaptar para reconocer distintos estados cerebrales o para ayudar en tareas de investigación. Lo hicieron sin haberlo explicado al principio en sus políticas de privacidad.
Una de ellas es Interaxon, la empresa canadiense que fabrica Muse, una diadema para dormir y meditar. Ya ha entrenado un modelo con unas 50.000 horas de registros y asegura que antes elimina los datos que identifican al usuario, como el nombre, el correo electrónico o la dirección. Hasta que habló con Science, su política de privacidad no decía de forma explícita que las grabaciones podían servir para entrenar este tipo de modelos; después la ha actualizado.
Emotiv, otro fabricante de diademas EEG, entrena su modelo Large Brain en parte con grabaciones de los clientes que usan sus equipos de gama alta. También cambió su política tras las preguntas de Science: ahora informa de que usa datos neuronales sin identificar para entrenar modelos, siempre que el usuario lo acepte de forma expresa.
Según Science, más de dos tercios de las empresas estudiadas se reservan la posibilidad de transferir los datos en operaciones corporativas sin el consentimiento del usuario, de modo que, si se vende una pequeña empresa de neurotecnología, sus grabaciones podrían acabar en manos del comprador. Colorado y California han modificado sus leyes de privacidad para incluir los datos neuronales; otros estados de EE. UU. no lo han hecho todavía.
Tom's Hardware recuerda que estas diademas no leen el pensamiento: la mayoría usa entre uno y seis electrodos, frente a los 19 a 25 de los equipos clínicos, y sus registros son menos completos.
Por qué importa · análisis y opinión
Los registros del cerebro no son un dato cualquiera: sirven para reconocer distintos estados cerebrales, y un cambio de política hecho a posteriori no protege a quien ya había entregado sus grabaciones. El caso muestra cómo un aparato de bienestar puede convertirse en fuente de entrenamiento para la IA sin que el usuario lo perciba, y cómo una cláusula sobre operaciones corporativas puede llevar esos registros a otro dueño. Por ahora solo algunos estados de EE. UU. tratan la información neuronal como una categoría que proteger. Quien use una de estas diademas debería leer la política vigente, comprobar si el entrenamiento de modelos depende de aceptarlo expresamente y valorar si le compensa seguir sincronizando sus registros.
Fuente: Tom's Hardware · Redactada con ayuda de IA: cómo hacemos las noticias
