IA en un minutoNoticiasSeguridad
Una coalición de científicos y figuras tecnológicas acusa a Anthropic de no ser una empresa de IA segura antes de su salida a bolsa
Redacción de IA en un minuto · Editor: Jon Elgezabal

En 30 segundos
Anthropic recibe, a las puertas de su estreno en bolsa, una declaración firmada por el Center for AI Safety y por nombres como Judea Pearl, Max Tegmark o Steven Pinker. Según los firmantes, la compañía presume de seguridad mientras compite por crear una IA que se perfeccione sola. La coalición le reprocha además haber rebajado sus compromisos en febrero y haber presionado contra varias leyes de IA.
Científicos, juristas y figuras de la tecnología han firmado juntos un mismo texto contra Anthropic.
El Center for AI Safety (CAIS), una organización sin ánimo de lucro de San Francisco que investiga y hace campaña sobre los riesgos de la IA avanzada, se ha sumado este 18 de noviembre a la MisAnthropic Statement, una declaración pública que se ha publicado en su propia web. Lo ha anunciado en un comunicado de prensa distribuido por Business Wire y recogido por Yahoo Finance UK, a las puertas de la salida a bolsa de Anthropic.
La declaración sostiene que "Anthropic no es una empresa de IA segura". Según el texto, la compañía advierte de que una IA capaz de mejorarse a sí misma podría concentrar poder y escapar al control humano, pero aun así compite por ser la primera en construirla, y se sirve de su imagen de seguridad para atraer a inversores, empleados y al público.
Entre los firmantes hay investigadores de seguridad de la IA, defensores del código abierto, especialistas en ética y aceleracionistas, grupos que casi nunca coinciden. Figuran el psicólogo Steven Pinker y el nobel de Economía Oliver Hart, los dos de Harvard; Judea Pearl, premio Turing; los juristas Laurence Tribe y Lawrence Lessig; Max Tegmark, del MIT; Thomas Wolf, de Hugging Face; Igor Babuschkin, cofundador de xAI; Tristan Harris, George Hotz y Guillaume Verdon, además de los medallistas Fields Peter Scholze, James Maynard y David Mumford.
El texto acusa a la empresa de haber debilitado en febrero su Política de Escalado Responsable (sus compromisos de seguridad), hasta abandonar por completo su compromiso unilateral de pausar el desarrollo. También le atribuye presiones para rebajar la SB 1047, la RAISE Act y la AEGIS Act, y haber defendido en privado que la ley federal prevalezca sobre las leyes estatales de IA.
Dan Hendrycks, director ejecutivo del CAIS, afirma en el comunicado que la empresa no puede presentarse como segura mientras rebaja sus compromisos anteriores y pide al público decenas de miles de millones de dólares para construir esa IA.
Son acusaciones de la coalición. El comunicado no recoge ninguna respuesta de Anthropic.
Por qué importa · análisis y opinión
La salida a bolsa obliga a Anthropic a explicar sus riesgos a un tipo de inversor que hasta ahora no tenía, y esta declaración entra de lleno en esa conversación. Lo llamativo no son las críticas en sí, sino quién las firma a la vez: gente que quiere acelerar la IA y gente que pide frenarla. La seguridad ha sido para la empresa un argumento frente a sus rivales; si ese argumento se discute en público, pierde parte de su fuerza. Quien use Claude en su trabajo no tiene por qué cambiar nada por un manifiesto, pero sí le conviene seguir dos cosas: qué responde Anthropic y qué cuentan los documentos de su salida a bolsa sobre sus compromisos de seguridad.
Fuente: Yahoo Finance UK · Redactada con ayuda de IA: cómo hacemos las noticias


