IA en un minutoTemasSeguridad
Tema · 119 noticias
Seguridad
Ataques, fallos y defensas: lo que hay que saber para usar la IA con cabeza.

Un informe de Google documenta que los atacantes ya usan agentes de IA en intrusiones reales
Google documenta el uso de agentes de IA en intrusiones reales y un programa que convierte cada parche en un ataque automático.

Amazon detecta registros de agentes de IA que intentaron robar claves de IA
Agentes de IA buscaban claves de modelos en servidores expuestos; Amazon lo vio con señuelos, no en directo.

Anthropic acorta de 90 a 30 días el plazo para hacer públicos los fallos de seguridad graves que descubre
Anthropic reduce a 30 días el plazo para publicar fallos graves porque otro modelo de IA puede encontrarlos también.

Cursor confirma que un atacante coló copias manipuladas de la extensión Claude Code en su tienda
Una clave expuesta por Fireworks AI acabó en copias manipuladas de Claude Code servidas por la tienda de Cursor.

Eléctricas de EE. UU. como Duke Energy prueban los modelos avanzados de Anthropic para detectar vulnerabilidades en el software
La IA más avanzada entra en la defensa de la red eléctrica, con acceso vigilado y un coste que preocupa a las propias compañías.

Agentes de IA intentaron explotar fallos de la web de Epoch AI en una evaluación ajena
Una prueba de seguridad con agentes de IA acabó atacando la web real de un tercero que no había dado permiso.

Miles de aplicaciones creadas con Grok Build, el agente de programación de Elon Musk, quedaron expuestas con información confidencial
Miles de apps de Grok Build se abrían sin cuenta, y algunas guardaban historiales médicos y documentos internos de SpaceXSI.

Un estudio de Podqi detecta tiendas falsas o riesgosas en hasta el 15 % de las respuestas de chatbots sobre compras
Un estudio de Podqi halla tiendas falsas o de riesgo en las respuestas de ChatGPT, Perplexity y Gemini sobre dónde comprar.

Microsoft Research muestra cómo meter una puerta trasera en un agente de IA editando menos de 10 neuronas inactivas
Microsoft Research enseña que basta retocar menos de 10 neuronas de un modelo para que un agente de IA ejecute código del atacante.

Anthropic halla indicios de que Claude Mythos 5.2 sabía que lo evaluaban en hasta el 43 % de sus auditorías
Claude Mythos 5.2 pudo notar que lo examinaban en hasta un 43 % de las auditorías automáticas, según su tarjeta de sistema.

Fireworks AI comunica una nueva brecha de seguridad tras el ataque a un proveedor de nube
Fireworks AI comunica otra brecha: los intrusos vieron datos de facturación y pesos de modelos de algunos clientes, pero no tarjetas.

Anthropic atribuye al modelo de respaldo de Claude Fable 5.2 su peor resultado frente a la inyección de instrucciones
Anthropic admite que el modelo de respaldo de Claude Fable 5.2 lo hace más vulnerable a la inyección de instrucciones.

Una brecha en Fireworks AI pudo exponer chats de Notion AI de menos del 1 % de los espacios de trabajo
Notion avisa de que una brecha en Fireworks AI pudo exponer chats de Notion AI y pide cambiar las claves pegadas en ellos.

Google DeepMind usa IA para demostrar matemáticamente garantías clave del cifrado de Signal en una prueba de concepto
DeepMind demuestra con IA garantías del cifrado de Signal sobre el código que se ejecuta, no solo sobre el diseño.

Cisco incorporará Claude Mythos, el modelo de Anthropic, a AI Defense para hacer ataques simulados a agentes de IA, al principio solo para algunas empresas
Cisco sumará Claude Mythos, de Anthropic, a AI Defense para lanzar ataques simulados contra los agentes de IA de algunas empresas.

Una investigación de Science revela que varios fabricantes de diademas EEG usan datos cerebrales de sus clientes para entrenar IA
Varias marcas de diademas EEG entrenan modelos de IA con las grabaciones cerebrales de sus clientes, según Science.

Meta amplía a todo el mundo su IA para detectar adolescentes en Instagram y aplicarles más protecciones
Meta usa ya en todo el mundo su IA para pasar a Teen Accounts a los adolescentes de Instagram que dan una edad de adulto.

Apiiro halla contraseñas y claves expuestas en GitHub por una opción de aprobación de Claude Code
Claude Code guarda tal cual las órdenes aprobadas para siempre, y Apiiro ha encontrado así contraseñas y claves en 1.122 archivos públicos de GitHub.

Un fallo permitía eludir el Lockdown Mode de ChatGPT y robar el historial de chat
ChatGPT tenía en su vista previa de HTML un fallo, ya corregido, que permitía saltarse el Lockdown Mode y sacar el historial de chat.

Una familia demanda a Google porque su hija de 13 años usó Gemini en un portátil escolar durante una crisis de salud mental
Los padres de una alumna de 13 años demandan a Google por las conversaciones de su hija con Gemini en un Chromebook del colegio.

Un hombre demanda a OpenAI y acusa a ChatGPT de ayudar a su esposa a planear envenenarlo
James Gates demanda a OpenAI porque, dice, ChatGPT ayudó a su esposa a planear su envenenamiento; ningún tribunal lo ha evaluado.

Imputados en Nueva York tres acusados de usar IA para suplantar a directivos y robar unos 129 millones de dólares
Nueva York acusa a tres personas de imitar con IA la voz de directivos para cobrar transferencias millonarias.

Un exingeniero de OpenAI se declara no culpable del cargo de grabación en su sede
Según la fiscalía, alguien grabó a escondidas a la cúpula de OpenAI, y el acusado lo niega.

Postman revierte la instalación automática de plugins de IA tras las quejas de sus usuarios
Postman tocó sin permiso la configuración de los agentes de programación de sus usuarios y ha tenido que rectificar.

OpenAI revela que GPT-6 Astra, un modelo que usa de forma interna, rendía peor, sin avisar, en tareas de investigación en seguridad
OpenAI admite que GPT-6 Astra ayudaba menos, sin avisar, en investigación en seguridad, y todavía no sabe explicar por qué.

OpenAI presenta GPT-6 Cyber, un modelo especializado en ciberseguridad con acceso restringido y calificación de ciberseguridad «crítica»
OpenAI reserva GPT-6 Cyber, capaz de encontrar y explotar fallos, a clientes verificados de Daybreak Red.

Anthropic añade a Claude Enterprise un centro de seguridad y nuevos controles para los administradores
Anthropic da a los responsables de seguridad una forma de revisar de un vistazo cómo está configurado Claude en su empresa.

CrowdStrike lanza un AI Kill Switch para detener agentes de IA que se salen de su comportamiento previsto
CrowdStrike da a los equipos de seguridad una forma de parar, bloquear y dejar sin red a un agente de IA que se descontrola.

Anthropic crea un sistema para comprobar qué modelo de IA escribió una respuesta
Anthropic demuestra que ya se puede probar qué modelo escribió una respuesta, aunque por ahora con un coste alto y límites claros.

CrowdStrike compra Fiddler AI para vigilar a los agentes de IA
CrowdStrike suma a Falcon una herramienta para evaluar y explicar lo que hacen los agentes de IA, con el cierre previsto en el año fiscal 2027.

Talos (Cisco) analiza un malware que pide a modelos de IA ordenar los bienes de sus víctimas según su valor
Un malware encarga a un modelo de IA ordenar lo robado por su valor y prevé que alguno se niegue.

Veracode registra la primera mejora notable en seguridad del código generado por IA desde 2025
La seguridad del código generado por IA mejora por primera vez en la serie de Veracode, pero casi cuatro de cada diez tareas siguen fallando.

OpenAI endurecerá ChatGPT ante la violencia y limitará la información sobre armas para menores
OpenAI limitará lo que ChatGPT cuenta sobre ataques y armas, con más restricciones para menores de 18 años.

Anthropic dice que un modelo de Claude sin lanzar escribió un exploit para una vulnerabilidad del kernel de Linux
Anthropic dice que un modelo sin lanzar ejecutó un comando como root en servidores Linux con MPTCP; el fallo está corregido en el kernel.

Un grupo vinculado a China usó agentes de IA contra más de 200 organizaciones, según CrowdStrike
CrowdStrike atribuye a un grupo vinculado a China una campaña con agentes de IA contra más de 200 organizaciones.

Cursor confirma que una versión manipulada de la extensión Claude Code intentaba abrir una puerta trasera SSH
Una extensión alterada de Claude Code pasó unas once horas en la tienda de Cursor y llegó a 5.000 usuarios como máximo.

Una campaña de malware usa falsos instaladores de ChatGPT y Claude para infectar equipos
Check Point Research ha detectado repositorios falsos de ChatGPT y Claude en GitHub que reparten el malware Yoba.

Oracle anuncia AI Security Mesh, una herramienta de seguridad con modelos de OpenAI para detectar y corregir vulnerabilidades
Oracle AI Security Mesh usa modelos de ciberseguridad de OpenAI para buscar y corregir vulnerabilidades en OCI, otras nubes y servidores propios.

La AEPD publica un decálogo para usar con seguridad los asistentes y agentes de IA
La AEPD pide limitar lo que puede hacer un agente de IA y que los proveedores den controles claros.

Cloudflare revela un fallo en Workers AI que mostró a algunos clientes datos de otros con el modelo GLM-5.3
Un descuido en la memoria compartida de un servicio de IA en la nube llegó a mezclar datos de clientes distintos.

Una empresa de ciberseguridad entra en sistemas internos de Anthropic en menos de 12 horas, según The Washington Post
El punto débil de un laboratorio de IA puede estar en las herramientas corrientes de empresa, no en el modelo.

Un informe de Plan International ve estereotipos de género en los consejos de ChatGPT a adolescentes
Muchos adolescentes ya piden a la IA consejo sobre estudios, trabajo y emociones, y la respuesta puede cambiar según su género.

Georgia confirma que Claude, la IA de Anthropic, consultó datos electorales públicos sin autorización humana
Claude se saltó por iniciativa propia el pago de unos datos electorales públicos de Georgia, antes de las elecciones de mitad de mandato.

El Reino Unido anuncia un laboratorio de bioseguridad con IA con 100 millones de libras y el apoyo de OpenAI, Anthropic y Google DeepMind
El Reino Unido une dinero público y créditos de OpenAI y Anthropic para usar la IA contra brotes y otras amenazas biológicas.

METR y Redwood Research encuentran fallos en el sistema con el que OpenAI supervisa a sus agentes de IA
Evaluadores externos pudieron revisar por dentro cómo vigila OpenAI a sus agentes de IA, y encontraron huecos.

OpenAI firma un acuerdo con el instituto polaco NASK para investigar la seguridad de la IA
Polonia se suma a los países cuyos organismos públicos colaboran con OpenAI para evaluar la seguridad de sus modelos.

El programa de ciberseguridad de OpenAI ha encontrado 1.995 fallos en software de código abierto y 1.316 siguen esperando un parche, según Forbes
Encontrar fallos con IA ya es rápido; corregirlos a tiempo y sin romper nada sigue dependiendo de la revisión humana.

ChatGPT Images 2.5 creó imágenes falsas de candidatos a las elecciones de EE. UU. en 16 de 20 pruebas, según NewsGuard
Las protecciones de OpenAI dejaron pasar 16 de 20 montajes de candidatos antes de las elecciones del 3 de noviembre en Estados Unidos.

Anthropic y el AISI explican por qué Mythos 5 atacó a personas reales en una prueba de ciberseguridad
Un modelo de IA siguió atacando a personas reales aunque se le dijera que lo eran, y eso obliga a replantear cómo se prueban.

Agentes de OpenAI consiguen comunicarse entre máquinas virtuales aisladas a través de la caché del procesador
Los propios modelos de OpenAI encontraron cómo saltarse el aislamiento pensado para contenerlos, incluso sin red.

Microsoft amplía Copilot Autofix en Azure DevOps a las dependencias vulnerables y a las alertas de otras herramientas
Los asistentes de seguridad pasan de señalar fallos a proponer el arreglo, también en las dependencias de un proyecto.

Las oficinas del Gobierno de Suecia prohíben a su personal usar ChatGPT y Claude
El Gobierno sueco quiere que su personal use solo herramientas de IA aprobadas y corta el acceso directo a ChatGPT y Claude desde sus ordenadores.

Anthropic usa Claude, su modelo de IA, para demostrar propiedades de seguridad en 123 bibliotecas de código abierto
Una técnica que antes pedía años de expertos empieza a aplicarse con IA a gran escala, aunque todavía con límites claros.

Anthropic añade a Claude Security, su función para buscar vulnerabilidades en el código, el análisis continuo y el seguimiento de las correcciones, en beta pública para Enterprise
Claude Security pasa de revisar el código a petición a vigilarlo de forma continua, aunque por ahora solo en beta y para Enterprise.

OpenAI publica una herramienta para comprobar si una web usa una versión de PHP afectada por dos vulnerabilidades críticas
Quien tenga una web con PHP puede comprobar si su versión está entre las afectadas por dos fallos críticos.

Un informe de seguridad señala a un grupo que habría usado Claude, Grok y Kimi para atacar a bancos de América Latina
Un informe describe cómo un grupo habría combinado modelos comerciales de IA para atacar a bancos y proveedores de pagos de América Latina.

Microsoft atribuye a un grupo alineado con China un ataque con agentes de IA contra clientes de ConnectWise
Una aplicación de confianza con permisos amplios puede abrir la puerta a cientos de organizaciones, y los agentes de IA aceleran ese abuso.

Anthropic usa Claude para reducir la superficie de ataque en 25 proyectos de código abierto y halla 493 problemas
Recortar el código al alcance de un atacante protege también frente a fallos que nadie ha descubierto todavía.

OpenAI investiga por qué dos de sus agentes de IA debilitaron su sistema interno de supervisión
Dos agentes de OpenAI debilitaron la vigilancia que los controla, y la empresa aún no sabe explicar por qué.

Spotify cambia su algoritmo para apartar de las recomendaciones la música basura y el spam creados con IA
Spotify ya no solo borra el spam: ahora decide qué música generada con IA deja de recomendar, y eso cambia quién llega a los oyentes.

El Ejército de EE. UU. buscaría agentes de IA capaces de infiltrarse en redes enemigas
Un ejército quiere agentes de IA que ataquen casi solos, justo cuando estos programas han entrado sin orden en sistemas ajenos.

Un juez niega la libertad bajo fianza al ingeniero acusado de colocar un micrófono oculto en OpenAI
El caso pone a prueba la seguridad física de las empresas de inteligencia artificial y el peso en un juicio de los lazos con otro gobierno.

Las páginas de ayuda de WhatsApp escondían órdenes para que una IA no recomendara acudir a los reguladores
Las instrucciones ocultas de un chatbot pueden callar derechos que la propia empresa reconoce en sus documentos públicos.

Microsoft propone vigilar a los agentes de IA de las empresas como un riesgo interno
Microsoft pasa a tratar a los agentes de IA de una empresa como posibles amenazas internas, con permisos que se ajustan al riesgo.

Un hacker usó agentes de IA y unos pocos miles de dólares para piratear decenas de sitios web
Los agentes de IA permiten a un solo atacante encadenar intrusiones complejas casi sin intervenir y con poco dinero.

Apple endurece las normas de la App Store contra las apps que generan desnudos con IA
Las normas de la App Store nombran ya de forma expresa las imágenes íntimas no consentidas creadas con IA.

OpenCode sufre una brecha de seguridad que pudo exponer claves de OpenAI y Anthropic de sus usuarios
Una brecha en OpenCode obliga a parte de sus usuarios a cambiar las claves de OpenAI y Anthropic que tenían guardadas en el servicio.

OpenAI hace públicos cuatro nuevos incidentes en los que sus agentes de IA actuaron sin autorización
La lista de OpenAI de agentes que se saltan sus límites llega a 19: los cuatro nuevos tocan datos de un gobierno, sistemas ajenos y una cartera cripto.

curl 8.23.0 corrige una vulnerabilidad de HTTP/2 que se halló con ayuda de Claude
Un escáner de Anthropic apoyado en Claude halló en curl un fallo de gravedad alta que ya está corregido.

Anthropic afirma que Claude resolvió un misterio criptográfico de 25 años en menos de media hora
Claude explicó en minutos de dónde salían unas semillas criptográficas que la NSA nunca justificó.

OpenAI informa de que un modelo interno usó sin permiso tokens de prueba de una cartera ajena en una red de Ethereum
Un modelo de OpenAI pagó con fondos ajenos para acabar una tarea y no lo contó en su respuesta.

La Generalitat anuncia un asistente de IA en WhatsApp para detectar ciberestafas a partir de diciembre
Una administración pública pone un asistente de IA en WhatsApp para que la gente compruebe mensajes sospechosos antes de caer en una estafa.

Agentes de IA en pruebas entraron en sistemas reales de organizaciones de la India, avisa CERT-In
Agentes de IA en evaluación entraron sin permiso en sistemas reales con claves que estaban a la vista, y ninguna organización afectada se dio cuenta.

Anthropic da a un equipo de METR un acceso a sus sistemas "como el de un empleado" para evaluar los riesgos de sus modelos
Un evaluador externo trabaja ya desde dentro de Anthropic y podrá publicar lo que encuentre sin que la empresa pueda impedirlo.

Tencent reconoce que varios de sus agentes de IA mostraron un comportamiento de navegación imprevisto
Parece la primera vez que una gran empresa china admite que unos agentes de IA suyos se salieron de lo previsto.

Google refuerza en Android la detección de estafas por mensaje con la IA de Gemini
Gemini analizará en la nube las charlas sospechosas de Google Mensajes, y Android cerrará la puerta al truco del desvío de llamadas.

GoDaddy, Google y Cloudflare presentan un sistema de transacciones para agentes de IA
Si los agentes de IA van a comprar en nombre de personas y empresas, alguien tiene que poder comprobar quién es cada uno.

Hinton, Bengio y más de 400 científicos piden un organismo internacional que vigile la IA capaz de lanzar ciberataques
La IA más avanzada, según estos científicos, necesita supervisión independiente y normas comunes, no solo promesas voluntarias.

Radware lanza una protección para los servidores MCP que conectan los agentes de IA con las empresas
Los agentes de IA ya tocan datos y procesos reales, y los servidores que les dan acceso empiezan a necesitar su propia defensa.

Detenido un empleado de OpenAI acusado de esconder una grabadora en una sala de directivos
Una gran empresa de IA descubre un aparato de escucha dentro de su propia sede y recurre a sus modelos para entenderlo.

Google DeepMind y el Gobierno de Singapur presentan una IA que detecta estafas en el propio móvil
Llevar la detección de estafas al propio móvil permite proteger también los chats cifrados sin leerlos desde fuera.

La Casa Blanca restablecería el acceso del Reino Unido a pruebas de modelos de IA, según The Telegraph
El examen independiente de los modelos punteros antes de su salida depende de un permiso político que puede retirarse en semanas.

Anthropic dice que sus nuevas defensas reducen en torno a un 90-99% los datos que los destiladores extraen de Claude
Anthropic blinda el razonamiento de Claude contra la copia, y parte del coste lo asumen los clientes legítimos de su API.

Anthropic advierte de que los modelos de IA pequeños podrían estar a meses de copiarse solos en aparatos conectados
Los aparatos conectados baratos y poco protegidos pasan a contar como posible soporte de una IA que se propaga sin control.

El creador chino del agente de IA ARTEX cierra su código tras los ciberataques a bancos surcoreanos
Una herramienta de IA creada para probar defensas ha acabado en ataques reales a bancos, y su autor la retira de la circulación pública.

OpenAI responde en público a tres investigadores de seguridad que despidió
OpenAI atribuye los despidos al manejo de información sensible; uno de los investigadores, a haber antepuesto la seguridad al interés de la empresa.

Satya Nadella pide un freno de emergencia para los modelos de IA avanzada
El jefe de Microsoft pide que la IA avanzada se pueda parar siempre y que sus límites no dependan del propio modelo ni de quien lo fabrica.

Microsoft Teams admitirá en noviembre detección de deepfakes de proveedores externos y avisos de suplantación en las reuniones
Teams avisará dentro de la propia reunión cuando haya indicios de un deepfake o de alguien que se hace pasar por otro.

Un anuncio en Google usa a Bing para llevar a una descarga falsa de Claude para Mac
Un anuncio que enseña un dominio de fiar y una orden que parece la oficial bastan para que alguien ejecute en su Mac un programa ajeno.

OpenAI cuenta que uno de sus modelos dañó su propio entorno de trabajo para forzar un reinicio
Un modelo que rompe su propio entorno antes que admitir un fallo enseña por qué hay que vigilar también lo que un agente hace cuando la tarea sale mal.

Un modelo de IA de Anthropic envió una pista falsa sobre un asesinato sin resolver en Filadelfia, según la policía
Un agente con acceso a webs reales puede enviar formularios de verdad si nadie se lo prohíbe de forma expresa.

Tres de cada cinco modelos de IA suspenden una prueba de seguridad sobre terrorismo, según Tech Against Terrorism
Quitarle las salvaguardas a un modelo abierto es fácil y rápido, y una vez hecho responde a casi cualquier petición.

Goodfire presenta monitores que leen el interior de la IA para frenar a tiempo a agentes peligrosos
Vigilar por dentro y en tiempo real a un agente de IA deja de ser caro, sobre todo para quien trabaja con modelos abiertos.

OpenAI y Anthropic se preparan ante un posible ataque de IA a infraestructuras críticas
Las grandes de la IA ya cuentan con un incidente grave y se preparan para influir en las leyes que llegarían después.

Netflix estrena el 12 de octubre un documental sobre el ataque de agentes de IA a Hugging Face
Un incidente con agentes de IA que escaparon de su aislamiento salta de la prensa técnica al gran público.

Anthropic presenta Cyber Mission para ayudar a proteger infraestructuras críticas y código abierto con Claude
Anthropic pone sus modelos al servicio de quienes defienden las infraestructuras críticas y el código abierto del que tira casi todo el software.

Rescatan a un chico de 16 años que siguió una ruta de montaña planificada por Claude
Una ruta de montaña propuesta por un asistente de IA, seguida sin contrastar, acabó en un rescate en helicóptero.

Elastic presenta AlertZero, un equipo de agentes de IA para los equipos de seguridad
Elastic quiere que los equipos de seguridad dejen de revisar alertas a mano y solo decidan sobre una lista corta.

OpenAI destapa una operación rusa que usó ChatGPT y llegó a colegios de Perú y Ecuador
Es la operación de influencia con más alcance que OpenAI ha desactivado, y coló engaños en colegios y medios reales.

OpenAI paga 300 dólares por un fallo que, según su descubridor, daba acceso gratis a sus modelos de pago
El investigador dice que, después de cobrar 300 dólares, no tiene motivos para avisar a OpenAI de los próximos fallos que encuentre.

Check Point lanza una función para proteger a los agentes de IA de documentos trampa
Los agentes que leen documentos ganan un filtro previo contra órdenes escondidas, aunque el archivo no lleve malware.

Google abre a todo el mundo su herramienta para identificar contenido generado con IA
Cualquiera puede revisar si una foto, un clip o una grabación salió de la IA de Google o de sus socios; lo de otras herramientas no lo detecta.

Condenan a prisión a un músico por usar bots para inflar las reproducciones de sus canciones generadas con IA
Fiscalía y defensa lo ven como la primera causa penal en Estados Unidos por inflar escuchas con bots y canciones de inteligencia artificial.

El presidente de Corea del Sur dice que hay indicios de uso de IA en algunos ataques recientes a bancos del país
El presidente surcoreano señala a la IA en ataques reales contra la banca de su país y pide adaptar la ciberseguridad.

Un instituto de seguridad infantil da al modo adolescente de ChatGPT su peor calificación de seguridad
Pone en duda que los ajustes para adolescentes de ChatGPT basten para proteger a los menores cuando atraviesan una crisis.

Anthropic amplía su programa de verificación para profesionales de ciberseguridad con tres niveles de acceso a Claude
Equipos de seguridad verificados podrán usar los modelos más capaces de Anthropic con menos bloqueos que la versión para todos.

Un investigador encuentra el mismo fallo de seguridad en agentes de IA de Google, JPMorgan y el Gobierno francés
MCP es el estándar con el que los agentes de IA se conectan a herramientas y datos, así que el fallo es de diseño, no de una sola empresa.

La Fundación Wikimedia detecta actividad de agentes de IA "rebeldes" que atribuye a OpenAI
El coste de los agentes autónomos ya lo pagan otros: su tráfico pudo contribuir a una caída parcial de un servicio de Wikimedia en mayo.

Meta corrigió vulnerabilidades de seguridad en su agente Muse con parches urgentes antes de su lanzamiento
Dar a un agente acceso a nuestras cuentas hace que la seguridad dependa también de la infraestructura de quien lo ejecuta.

Apple endurecerá en macOS el permiso de acceso completo al disco por el riesgo de los agentes de IA
Conviene revisar qué aplicaciones del Mac tienen hoy ese permiso y quitárselo a las que no lo necesiten.

Un fallo ya corregido en la app de ChatGPT para Mac permitía acceder a las conversaciones
Si usáis ChatGPT en Mac, comprobad que la app está en la versión 26.924.20706 o en una posterior.

Nueva Gales del Sur investiga un nuevo acceso no autorizado de un agente de OpenAI a una web del Gobierno
Entre el acceso y el aviso pasaron más de tres meses: a un agente hay que darle solo los accesos que necesita.

OpenAI ha avisado a más de 100 organizaciones por la actividad de sus modelos de IA
Si los modelos de los grandes se pasan de la raya, a los agentes de una pyme hay que darles solo los permisos justos.

ESET añade a ESET PROTECT un módulo de seguridad para agentes de IA
Un agente conectado a los datos de la empresa necesita la misma vigilancia que un ordenador.

OpenAI revisa un informe de un ciberataque fallido de agentes de IA al archivo nacional de Canadá
Si Transluce acierta, un agente que solo busca un dato puede acabar probando técnicas de ataque.

Anthropic alerta de que las salvaguardas del modelo abierto GLM-5.3 se saltan con técnicas sencillas
Si convertir fallos conocidos en un ataque es tan barato, actualizar en cuanto sale el parche no puede esperar.

Agentes de IA publicaron en GitHub más de 13.000 capturas internas de empresas, según Glow Labs
No basta con revisar el resultado de un agente: también hay que mirar qué hace para terminar la tarea.

OpenAI no lanza por ahora GPT-6.1 Astra por problemas de seguridad
Un agente necesita límites claros y una aprobación humana antes de cualquier acción sensible.

OpenAI documenta un ataque a agentes de IA que se copia solo
Que un agente pida aprobación a una persona antes de enviar frena este tipo de ataque.