IA en un minutoNoticiasSeguridad
Apple endurece las normas de la App Store contra las apps que generan desnudos con IA
Redacción de IA en un minuto · Editor: Jon Elgezabal
En 30 segundos
Apple obliga ahora a las apps de su tienda a frenar y borrar por su cuenta las imágenes íntimas sin consentimiento, también las hechas con IA. Los desarrolladores sin protección suficiente, o que no arreglen el fallo tras un aviso, pueden quedar fuera de la App Store. Las apps que ocultan en la revisión lo que hacen y cambian una vez aprobadas podrán ser retiradas de la tienda y quedar fuera del Programa para Desarrolladores.
Apple ha endurecido las normas de la App Store contra las imágenes íntimas no consentidas, también las creadas con IA. Lo anunció el viernes 16 de octubre en su web para desarrolladores.
La compañía ha actualizado sus Directrices de revisión de apps, las normas que deben cumplir las aplicaciones de su tienda. En el apartado 1.2, el de la moderación de contenidos, esas imágenes aparecen ahora citadas de forma expresa, incluidas las generadas con herramientas de IA, y las apps tienen que impedir que se publiquen y retirarlas por iniciativa propia. Los desarrolladores que no pongan medidas de seguridad suficientes, o que no corrijan el problema después de recibir un aviso, pueden incumplir el Código de conducta para desarrolladores de Apple y quedarse fuera de la App Store.
Apple recuerda que la pornografía lleva tiempo prohibida en su tienda, y que eso incluye las apps que fabrican imágenes sexuales explícitas de personas reales sin su consentimiento. Las apps que alojan contenido de sus usuarios ya estaban obligadas a filtrar el material ofensivo, a ofrecer una forma de denunciarlo y a dejar bloquear las cuentas que acosan.
La actualización añade también la norma 2.5.19, que deja más clara una prohibición que ya existía: la de las apps que esconden durante la revisión lo que de verdad hacen y cambian después de ser aprobadas, por ejemplo con funciones que no estaban en la versión enviada. Apple cita las apps que solo enseñan su función de desnudar a personas una vez aprobadas, una táctica que en inglés se conoce como bait-and-switch. Las que lo hagan podrán ser retiradas de la App Store y expulsadas del Programa para Desarrolladores de Apple.
En la misma revisión, Apple deja claro que las apps que faciliten la trata de personas o la explotación infantil se retirarán de la App Store y tampoco podrán distribuirse por otras vías. Según la lista de cambios, las traducciones de las directrices actualizadas llegarán a la web para desarrolladores en el plazo de un mes.
Según Apple, el año pasado evitó que más de 150.000 apps con problemas de seguridad llegaran a los usuarios y cerró más de 193.000 cuentas de desarrolladores por fraude y abuso. La empresa atribuye esas infracciones a actores maliciosos, en algunos casos redes de fraude organizadas, que esconden contenido dañino que solo se activa cuando la app ya ha sido aprobada.
Por qué importa · análisis y opinión
El cambio pone la responsabilidad en quien publica la app: ya no basta con no fabricar desnudos, también hay que impedir que los usuarios los suban y retirarlos sin esperar a una denuncia. La norma alcanza a redes sociales, chats, foros y editores de fotos con IA que dejen compartir lo creado, aunque su función principal sea otra. Para quien tenga una app en la tienda o prepare una actualización, lo prudente es repasar ya los filtros previos a la publicación, comprobar que el botón de denuncia funciona y que alguien atiende los avisos de Apple. La regla contra las apps que cambian tras la aprobación apunta además a un riesgo menos visible: las funciones que se encienden después de la revisión, que pueden acabar con la salida del programa de desarrolladores.
Fuente oficial: Apple · Redactada con ayuda de IA: cómo hacemos las noticias
¿Qué significa para tu negocio? · análisis y opinión
El cambio toca sobre todo a los estudios pequeños y a los desarrolladores autónomos de España y Latinoamérica que publican en la App Store aplicaciones donde los usuarios suben contenido o que crean o editan imágenes con IA. Para la empresa que solo usa apps en sus iPhone, en el día a día no cambia nada.
Quien tenga una app de ese tipo debería revisarla ya con la lista que la propia Apple recuerda: filtrar el material objetable, ofrecer a los usuarios una forma de denunciar contenido ofensivo y permitirles bloquear cuentas abusivas. Si la app genera o retoca fotos de personas, nuestro consejo es añadir controles antes de que la imagen se muestre, preparar un procedimiento sencillo para retirar contenido en cuanto llegue un aviso y dejar por escrito qué medidas se han puesto. Tampoco conviene activar después de la aprobación funciones que no se enseñaron en la revisión, porque eso es justo lo que la norma prohíbe.
El coste principal es tiempo de desarrollo y de moderación, algo que en un equipo pequeño pesa. El riesgo de no hacerlo es mayor: la retirada de la app de la App Store e incluso del Programa para Desarrolladores, es decir, perder ese canal de venta. Si se usa un servicio externo de IA para generar imágenes, lo prudente es comprobar qué salvaguardas ofrece antes de depender de él.
