Criminales están cada vez más aprovechando modelos de lenguaje grande (LLM) existentes para ciberataques, principalmente al robar credenciales para facilitar tácticas de ingeniería social. Este cambio sugiere un mayor riesgo de ataques en la cadena de suministro impulsados por el spear phishing generado por LLM, que se espera que alcance […]
Bad Likert Judge: Una novedosa técnica multiturno para burlar los LLM
La nueva investigación de la Unidad 42 sobre LLMs explora una técnica que implica el uso de la escala Likert para evaluar la nocividad de las respuestas generadas por la IA. Esta técnica tiene como objetivo eludir las barreras de protección diseñadas para evitar respuestas dañinas, aumentando la tasa de […]
Tendencias emergentes de OSINT en amenazas que aprovechan la inteligencia artificial generativa
La IA ha ocupado los titulares de OSINT en los últimos meses a medida que los actores de amenazas se dirigen a los sistemas de IA y aprovechan cada vez más la IA en sus técnicas de ataque. Microsoft se ha basado en informes recientes de ciberataques que utilizan IA […]