IA en un minutoNoticiasRegulación
El fiscal general de Texas demanda a OpenAI y a Sam Altman por presunto engaño sobre los riesgos de su chatbot ChatGPT
Redacción de IA en un minuto · Editor: Jon Elgezabal
En 30 segundos
Ken Paxton lleva a OpenAI y a su jefe, Sam Altman, a los tribunales: la Fiscalía de Texas sostiene que ChatGPT se vendió como seguro sin avisar de los riesgos. El estado reclama hasta 10.000 dólares por infracción, que Altman responda en persona y un evaluador independiente antes de cada modelo nuevo en Texas. Florida y otros ocho estados ya habían demandado a la empresa este año.
El fiscal general de Texas, Ken Paxton, presentó el viernes 23 de octubre una demanda contra OpenAI y su director ejecutivo, Sam Altman, en un juzgado de distrito del condado de Collin. Según el escrito de la demanda, la Fiscalía sostiene que la compañía vendió ChatGPT, su chatbot, como una herramienta segura y fiable sin advertir de sus peligros, y la acusa de vulnerar dos leyes del estado: la Ley de Prácticas Comerciales Engañosas, su principal norma de protección al consumidor, y la ley SCOPE, que protege a los menores en internet.
La nota de la Fiscalía enumera los daños que atribuye al uso de ChatGPT: autores de tiroteos masivos que habrían recibido ayuda, personas vulnerables empujadas al suicidio, usuarios que habrían perdido capacidad de pensamiento crítico y menores enganchados a una herramienta que, según el texto, imita la compasión humana para recoger sus datos sin control de los padres. Son acusaciones que tendrá que resolver un tribunal. Paxton añade en la nota que OpenAI tiene la responsabilidad de proteger a sus usuarios y de avisarles de los peligros de su plataforma.
Texas reclama multas de hasta 10.000 dólares por cada infracción, que Altman responda personalmente, el decomiso de bienes de los demandados y un juicio con jurado. Entre las medidas que pide al juez figuran prohibir a OpenAI que ofrezca ChatGPT a menores en Texas y que lance allí cualquier modelo nuevo de IA sin que un evaluador independiente, aprobado por el tribunal, haya revisado sus salvaguardas y autorizado su salida.
Texas no es el primer estado en dar este paso. Florida demandó a OpenAI en junio y el miércoles 14 de octubre lo hicieron, cada uno en sus propios tribunales, Iowa, Kansas, Nebraska, Virginia Occidental, Arkansas, Arizona, Idaho y Montana, según CNBC. Con Texas ya son al menos diez, según Infobae. Ante las demandas de octubre, un portavoz de OpenAI, Drew Pusateri, dijo a CNBC que la empresa ha incorporado protecciones por edad que "muchos otros productos de IA no tienen"; según Infobae, la compañía no había respondido en público a la de Texas.
Por qué importa · análisis y opinión
La petición que más lejos llega no es la multa, sino el filtro previo: si un juez aceptara que un evaluador externo apruebe cada modelo antes de llegar a Texas, un estado estaría fijando por vía judicial algo parecido a una licencia de lanzamiento. Pasará tiempo hasta que haya sentencia, pero la suma de demandas estatales ya empuja en una dirección: comprobar la edad, avisar con claridad de los riesgos y documentar las pruebas de seguridad. Quien integre ChatGPT u otro chatbot en un servicio abierto al público, sobre todo si pueden usarlo menores, hará bien en revisar ya qué advierte al usuario, cómo verifica su edad y qué registro guarda de sus pruebas, porque son justo las preguntas que están planteando los fiscales.
Fuente oficial: Fiscalía General de Texas · Redactada con ayuda de IA: cómo hacemos las noticias
