IA en un minutoNoticiasSeguridad
Google DeepMind y el Gobierno de Singapur presentan una IA que detecta estafas en el propio móvil
Redacción de IA en un minuto · Editor: Jon Elgezabal
En 30 segundos
En Singapur, GovTech y Google DeepMind han creado un detector de estafas que trabaja dentro del teléfono: un Gemma reducido y entrenado con engaños locales. Cuando una charla huele a manipulación, salta una alerta para frenar a la víctima antes de que entregue datos o dinero. El análisis ocurre en el aparato, incluso con chats cifrados, y DeepMind aún no ha dado fecha ni aplicaciones.
Google DeepMind y GovTech, la agencia tecnológica del Gobierno de Singapur, han desarrollado un modelo que detecta estafas en el propio teléfono y está optimizado para los móviles habituales en Singapur. Lo han presentado en la Singapore International Cyber Week 2026 (SICW). Es fruto de la alianza nacional de IA que DeepMind anunció con el Gobierno de Singapur en mayo.
En Singapur, las estafas son más de la mitad de los delitos denunciados y han causado pérdidas de más de 4.000 millones de dólares de Singapur desde 2019. Según DeepMind, han pasado del phishing simple a una ingeniería social compleja, en la que el atacante se gana a la víctima con conversaciones convincentes antes de pedirle dinero. Ese tipo de estafa supone ya hasta el 80 % de las pérdidas.
Los modelos genéricos suelen fallar ante los engaños con rasgos locales. Por eso, DeepMind ha ajustado una versión ligera de Gemma, la familia de modelos abiertos de Google, con conversaciones de estafas de Singapur, desde suplantaciones de instituciones públicas, bancos y personajes conocidos hasta timos de moda en la región, para que distinga una charla normal de una manipulación real.
Cuando el modelo detecta una conversación manipuladora, muestra en el móvil un aviso que invita a la persona a hacer una pausa y a tener cuidado antes de compartir datos sensibles o dinero. Para gastar poca batería, trabaja en dos fases: un clasificador ligero revisa los mensajes que llegan y, si ve algo sospechoso, el modelo Gemma analiza un fragmento más amplio de la conversación para confirmar la amenaza o descartar la falsa alarma.
El análisis se hace en el teléfono y no en servidores en la nube, que es como suele funcionar la detección de amenazas, porque muchas plataformas de mensajería cifran los chats de extremo a extremo y no pueden revisarlos. "Luchar contra las estafas no debería significar sacrificar la privacidad", dijo Mark Chen, director de Confianza y Seguridad de GovTech. Según DeepMind, el ajuste se hizo en un entorno de Google Cloud gestionado por GovTech, que mantuvo aislado el material de entrenamiento. Se usaron datos anonimizados de denuncias de estafas y de fuentes de inteligencia, sin información personal de los ciudadanos, y el modelo se probó con diálogos sintéticos y textos locales.
DeepMind no ha dicho cuándo ni en qué aplicaciones llegará a los usuarios. Según la empresa, las plataformas de mensajería y los fabricantes de sistemas operativos pueden integrar directamente estos modelos ligeros para proteger a sus usuarios en el propio dispositivo.
Por qué importa · análisis y opinión
El planteamiento resuelve un choque que parecía sin salida: el cifrado de extremo a extremo impide que la plataforma vigile los chats, y precisamente por ahí llegan los engaños más caros. Si el análisis vive en el teléfono, nadie de fuera lee nada y aun así la alarma puede saltar a tiempo. Que lo impulse un gobierno junto a una tecnológica marca además un camino para otros países con el mismo problema. Falta lo decisivo: que las aplicaciones de mensajería o los sistemas operativos lo integren de verdad, y saber cuántas falsas alarmas da en el uso diario. Mientras tanto, la defensa sigue siendo la de siempre: desconfiar de quien mete prisa para pedir dinero o claves, aunque diga ser el banco o un organismo público.
Fuente oficial: Google DeepMind · Redactada con ayuda de IA: cómo hacemos las noticias
