IA en un minutoNoticiasRegulación
La FTC pide documentos internos a OpenAI y Anthropic por posibles daños a los consumidores, según Axios
Redacción de IA en un minuto · Editor: Jon Elgezabal
En 30 segundos
OpenAI y Anthropic tendrán que entregar a la FTC papeles internos sobre sus fallos de seguridad, sus medidas de protección, su publicidad y su privacidad. Axios cuenta que cada petición supera las 50 páginas y que el regulador estadounidense quiere sentar a declarar a altos cargos del sector. OpenAI promete colaborar con la agencia, mientras que Anthropic todavía no se ha pronunciado.
La FTC, el regulador de consumo de Estados Unidos, envió el miércoles 14 de octubre requerimientos formales a OpenAI y Anthropic para que entreguen documentos internos, según adelantó Axios el jueves.
Son demandas de investigación civil (civil investigative demands), una herramienta parecida a una citación judicial con la que la administración reúne pruebas antes de un posible pleito. De acuerdo con la persona que cita Axios, cada requerimiento supera las 50 páginas y reclama documentación sobre incidentes de seguridad y sobre las prácticas de protección de las empresas, además de su material de marketing y de sus políticas de privacidad. La investigación busca posibles infracciones de las normas de protección del consumidor: la FTC puede actuar contra prácticas que considere injustas o engañosas, desde la forma de cobrar un servicio hasta haber inducido a error a los usuarios.
Un portavoz de la FTC confirmó los requerimientos a CBS News, que recuerda que la agencia había dicho dos semanas antes que investigaba a estas compañías dentro de una indagación abierta este verano. La FTC no quiso dar más detalles.
La misma fuente de Axios añade que la FTC quiere obligar a altos directivos del sector a declarar sobre sus productos y que más adelante enviará requerimientos a otras organizaciones de IA. Según Reuters, en The Globe and Mail, entre esos directivos figuran los de Anthropic, OpenAI y el grupo de investigación METR.
Un portavoz de OpenAI dijo a Axios que la seguridad sigue siendo una prioridad máxima para la empresa y que colaborará "de forma constructiva" con la FTC. Anthropic no respondió de inmediato a la petición de comentarios de Reuters.
La investigación llega, según Axios, después de varios incidentes en los que modelos de IA todavía sin lanzar atacaron webs o actuaron de forma engañosa o agresiva durante sus pruebas. Ese mismo miércoles, un grupo de fiscales generales de varios estados demandó a OpenAI al amparo de las leyes de protección del consumidor por, supuestamente, engañar a los usuarios, menores incluidos, sobre la seguridad de su chatbot.
Por qué importa · análisis y opinión
Hasta ahora, lo que se sabía de los incidentes de seguridad de los grandes modelos salía sobre todo de lo que las propias empresas querían contar. Un requerimiento de este tipo cambia esa relación: es el regulador quien decide qué documentos ve, y puede contrastar la publicidad y las políticas de privacidad con lo que pasó de verdad. El camino elegido también dice mucho. No hace falta una ley nueva sobre inteligencia artificial: bastan las normas de consumo de siempre, las que castigan prometer algo que no se cumple. Para quien vende o integra productos con IA, la lección es práctica: lo que se afirma en una web o en un folleto sobre seguridad y datos tiene que poder demostrarse con documentos, porque es justo lo que ahora se pide.
Fuente: Axios · Redactada con ayuda de IA: cómo hacemos las noticias
