Meta ha anunciado una serie de nuevas herramientas de seguridad para sus modelos de inteligencia artificial, con el objetivo de hacer más seguro el desarrollo y el uso de la IA, tanto para los creadores como para los defensores en el campo de la ciberseguridad.
Las novedades se refieren en particular a la familia de modelos Llama, que ahora dispone de recursos actualizados y más sofisticados para enfrentar las amenazas emergentes.
Índice
Llama Guard 4: seguridad multimodal para texto e imágenes en el nuevo programa AI de Meta
Una de las principales actualizaciones está representada por Llama Guard 4, la evolución del filtro de seguridad personalizable de Meta.
La gran innovación de esta versión es su capacidad multimodal, es decir, la posibilidad de analizar y aplicar reglas de seguridad no solo al texto, sino también a las imágenes. Este paso es crucial, considerando que las aplicaciones de IA están volviéndose cada vez más visuales.
Llama Guard 4 ya está integrado en la nueva API Llama de Meta, actualmente disponible en vista previa limitada. Los desarrolladores pueden acceder a esta herramienta a través de la página oficial de las protecciones de Llama, o mediante las plataformas Hugging Face y GitHub.
Otra novedad significativa es LlamaFirewall, un sistema diseñado para funcionar como centro de comando de la seguridad en los sistemas de inteligencia artificial. Esta herramienta permite coordinar diferentes modelos de protección y se integra con las otras herramientas de seguridad de Meta.
LlamaFirewall está diseñado para contrarrestar amenazas sofisticadas como las iniezioni rapide (prompt injection), la generación de código potencialmente peligroso y los comportamientos riesgosos de los plug-in AI.
En esencia, representa un baluarte contra los ataques más insidiosos que pueden comprometer la integridad de los sistemas basados en la inteligencia artificial.
Meta ha inoltre aggiornato su sistema de detección de los intentos de jailbreak e inyección de prompt con el nuevo Prompt Guard 2 (86M). Este modelo ha sido diseñado para identificar con mayor precisión los intentos de manipulación de la IA.
Junto a esto, se ha introducido Prompt Guard 2 22M, una versión más ligera y rápida. Con una reducción de la latencia y de los costos de cálculo hasta el 75%, esta versión es ideal para quienes trabajan con recursos limitados pero no quieren renunciar a la seguridad.
CyberSec Eval 4: nuevos benchmarks para la seguridad AI
Meta no solo ha proporcionado herramientas para los desarrolladores, sino que también ha actualizado su suite de benchmark CyberSec Eval 4, diseñada para evaluar las capacidades de los sistemas AI en el ámbito de la ciberseguridad.
Esta suite de código abierto ayuda a las organizaciones a medir la eficacia de la inteligencia artificial en la detección y respuesta a las amenazas digitales.
Dos nuevas herramientas enriquecen esta suite:
- – Evaluación de CyberSOC: desarrollado en colaboración con CrowdStrike, este marco evalúa el rendimiento de la IA en un contexto real de Security Operation Center (SOC), ofreciendo una visión concreta de la eficacia operativa de la inteligencia artificial.
- – AutoPatchBench: un benchmark que prueba la capacidad de los modelos AI, incluidos los de la familia Llama, de identificar y corregir automáticamente las vulnerabilidades en el código antes de que sean explotadas por actores maliciosos.
Para facilitar la adopción de estas herramientas, Meta ha lanzado el programa Llama Defenders, que ofrece acceso privilegiado a una selección de soluciones AI – algunas open source, otras en vista previa o propietarias – pensadas para enfrentar desafíos específicos en el campo de la seguridad.
Entre las herramientas compartidas también figura el clasificador automático de documentos sensibles, utilizado internamente por Meta.
Este sistema aplica etiquetas de seguridad a los documentos dentro de una organización, impidiendo que información confidencial sea accidentalmente insertada en sistemas AI donde podría ser expuesta.
Meta también ha abordado el creciente problema del audio falso generado por inteligencia artificial, cada vez más utilizado en estafas e intentos de phishing. Se han puesto a disposición de los socios dos nuevas herramientas:
- – Detector de Audio Generado por Llama
- – Detector de marcas de agua de audio Llama
Estos instrumentos ayudan a identificar voces sintéticas en llamadas sospechosas. Empresas como ZenDesk, Bell Canada y AT&T ya están evaluando la integración de estas tecnologías en sus propios sistemas de seguridad.
Elaboración privada: IA útil sin comprometer la privacidad
Finalmente, Meta ofreció un adelanto de una tecnología en desarrollo para WhatsApp, llamada elaboración privada.
El objetivo es permitir que la inteligencia artificial proporcione funcionalidades útiles, como resumir mensajes no leídos o sugerir respuestas, sin que ni Meta ni WhatsApp puedan acceder al contenido de los mensajes.
Esta tecnología representa un paso importante hacia una IA respetuosa de la privacidad. Meta está adoptando un enfoque transparente, publicando su propio modelo de amenaza e invitando a la comunidad de investigadores a probar su robustez antes del lanzamiento oficial.
Con esta serie de anuncios, Meta demuestra un compromiso concreto en reforzar la seguridad de la inteligencia artificial, tanto desde el punto de vista del desarrollo como de la defensa.
El objetivo es doble. Es decir, proteger a los usuarios finales y proporcionar a los desarrolladores y a los profesionales de la seguridad herramientas avanzadas para enfrentar las amenazas digitales en continua evolución.
En un panorama tecnológico en rápida transformación, donde la IA juega un papel cada vez más central, iniciativas como estas son fundamentales para garantizar un futuro digital más seguro, transparente y responsable.




