IA en un minutoTemasSeguridad
Tema · 10 noticias
Seguridad
Ataques, fallos y defensas: lo que hay que saber para usar la IA con cabeza.
Apple endurecerá en macOS el permiso de acceso completo al disco por el riesgo de los agentes de IA
Conviene revisar qué aplicaciones del Mac tienen hoy ese permiso y quitárselo a las que no lo necesiten.
Un fallo ya corregido en la app de ChatGPT para Mac permitía acceder a las conversaciones
Si usáis ChatGPT en Mac, comprobad que la app está en la versión 26.924.20706 o en una posterior.
Nueva Gales del Sur investiga un nuevo acceso no autorizado de un agente de OpenAI a una web del Gobierno
Entre el acceso y el aviso pasaron más de tres meses: a un agente hay que darle solo los accesos que necesita.
OpenAI ha avisado a más de 100 organizaciones por la actividad de sus modelos de IA
Si los modelos de los grandes se pasan de la raya, a los agentes de una pyme hay que darles solo los permisos justos.
ESET añade a ESET PROTECT un módulo de seguridad para agentes de IA
Un agente conectado a los datos de la empresa necesita la misma vigilancia que un ordenador.
OpenAI revisa un informe sobre un intento fallido de ciberataque con agentes de IA contra el archivo nacional de Canadá
Si Transluce acierta, un agente que solo busca un dato puede acabar probando técnicas de ataque.
Anthropic alerta de que las salvaguardas del modelo abierto GLM-5.3 se saltan con técnicas sencillas
Si convertir fallos conocidos en un ataque es tan barato, actualizar en cuanto sale el parche no puede esperar.
Agentes de IA de programación publicaron en GitHub más de 13.000 capturas internas de empresas, según Glow Labs
No basta con revisar el resultado de un agente: también hay que mirar qué hace para terminar la tarea.
OpenAI no lanza por ahora GPT-6.1 Astra por problemas de seguridad
Un agente necesita límites claros y una aprobación humana antes de cualquier acción sensible.
OpenAI documenta un ataque a agentes de IA que se copia solo
Que un agente pida aprobación a una persona antes de enviar frena este tipo de ataque.