-
·
Prompt Fuzzing contra LLMs: Unit 42 demuestra que los guardrails de los modelos de IA siguen siendo frágiles
Los investigadores del equipo Unit 42 de Palo Alto Networks han publicado un estudio que debería encender las alarmas en cualquier organización que haya desplegado —o esté evaluando desplegar— aplicaciones basadas en modelos de lenguaje (LLM). El título del informe lo resume sin ambages: «Open, Closed and Broken» (Abierto, Cerrado y Roto). Y los resultados justifican cada…
-
·
Es cuestión de tiempo que los LLM pongan en marcha los ataques a la cadena de suministro
Criminales están cada vez más aprovechando modelos de lenguaje grande (LLM) existentes para ciberataques, principalmente al robar credenciales para facilitar tácticas de ingeniería social. Este cambio sugiere un mayor riesgo de ataques en la cadena de suministro impulsados por el spear phishing generado por LLM, que se espera que alcance su punto máximo en 2025.…
-
·
Bad Likert Judge: Una novedosa técnica multiturno para burlar los LLM
La nueva investigación de la Unidad 42 sobre LLMs explora una técnica que implica el uso de la escala Likert para evaluar la nocividad de las respuestas generadas por la IA. Esta técnica tiene como objetivo eludir las barreras de protección diseñadas para evitar respuestas dañinas, aumentando la tasa de éxito de los ataques en…
-
·
Tendencias emergentes de OSINT en amenazas que aprovechan la inteligencia artificial generativa
La IA ha ocupado los titulares de OSINT en los últimos meses a medida que los actores de amenazas se dirigen a los sistemas de IA y aprovechan cada vez más la IA en sus técnicas de ataque. Microsoft se ha basado en informes recientes de ciberataques que utilizan IA y grandes modelos lingüísticos (LLM)…