IA en un minutoNoticiasEmpresas y producto
Varios empleados de Google DeepMind dimiten por los contratos militares de IA de Google, según la BBC
Redacción de IA en un minuto · Editor: Jon Elgezabal
En 30 segundos
Una investigación de la BBC recoge la salida de trabajadores de Google DeepMind que rechazan el uso militar de la IA de Google. Sofia Liguori dejó su puesto en Londres esta semana y Andreas Kirsch se fue este mes, convencido de que la supervisión de Google no basta para ese uso. Google responde que revisa estos acuerdos conforme a sus normas de uso y a sus principios de IA.
Varios trabajadores de Google DeepMind, la compañía de IA de Google, han dimitido o están a punto de irse por los contratos militares de la empresa, según una investigación de BBC Eye publicada el miércoles 21 de octubre.
Entre ellos está Sofia Liguori, ingeniera de investigación en Londres, que dejó la compañía esta semana tras tres años en ella. Habló con la BBC a título personal, aunque su contrato se lo restringe, y explicó que se va por el trabajo creciente de Google con los ejércitos de Estados Unidos e Israel: ver que su empresa impulsa cada vez más sistemas de IA en operaciones militares hace que se sienta "avergonzada" de trabajar allí. El investigador Andreas Kirsch también dimitió este mes. En declaraciones a la BBC, considera que la gobernanza y la supervisión de Google no bastan para usar la IA de forma segura y responsable en entornos militares y clasificados, y que la empresa no parece tener derecho a controlar ni a vetar lo que el Pentágono hace con ella.
Google es una de las tecnológicas que firmaron este año contratos con el ejército estadounidense para llevar la IA a entornos militares clasificados; OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia y la empresa emergente Reflection firmaron acuerdos parecidos. El de Google permite usar sus modelos para "cualquier fin gubernamental legal" y recoge que no deberían emplearse para la vigilancia masiva dentro del país ni para armas autónomas, incluida la selección de objetivos, sin la supervisión y el control humanos adecuados.
Un portavoz de Google respondió a la BBC que la empresa sigue un proceso coherente para revisar y firmar estos contratos, que incluye comprobar que cumplen sus políticas de uso aceptable y sus principios de IA, y que la plantilla tiene canales propios para plantear sus preocupaciones, con normas estrictas contra cualquier represalia. Otros empleados actuales que hablaron con la BBC sin dar su nombre dicen que el personal teme alzar la voz porque sus contratos les prohíben criticar en público a la compañía.
Por qué importa · análisis y opinión
Varias de las grandes tecnológicas de IA han firmado este año contratos con el ejército de Estados Unidos, y el coste empieza a notarse dentro de las propias empresas. Cuando quien se marcha son ingenieros e investigadores que llegaron atraídos por una misión concreta, el problema deja de ser de imagen y pasa a ser de talento. Lo que señalan quienes se van no es solo el uso militar, sino la falta de control: si el proveedor no puede vetar ni ver cómo se usa su modelo, sus principios éticos quedan en manos del cliente. La misma pregunta vale, a otra escala, para cualquier organización que compre IA: qué condiciones de uso acepta su proveedor con terceros y qué margen tiene de verdad para hacerlas cumplir.
Fuente: BBC · Redactada con ayuda de IA: cómo hacemos las noticias
