Cortafuegos de IA

¿Qué es Cortafuegos de IA?

Un cortafuegos de IA es una capa de protección entre los usuarios, las fuentes de datos y un modelo de IA. Revisa las entradas en busca de intentos de manipulación, como la inyección de prompts o el jailbreak, y controla las salidas, por ejemplo para detectar datos confidenciales o contenido no deseado, antes de entregarlas. Puede basarse en reglas, modelos de clasificación o un segundo modelo de lenguaje. Reduce riesgos, pero no ofrece protección total ni sustituye a los permisos limitados y las pruebas.