ES
Iniciar sesiónEmpezar
Glosario

Jailbreaking

¿Qué es Jailbreaking?

El jailbreaking son intentos de eludir las reglas de seguridad de un modelo de IA mediante entradas formuladas con astucia, para que genere contenidos o realice acciones que debería rechazar. Para una empresa supone un riesgo, porque un chatbot podría, por ejemplo, revelar instrucciones confidenciales o responder de forma inadecuada. Entre las medidas de protección están unas instrucciones de sistema claras, el filtrado de entradas y salidas, permisos limitados, el registro de actividad y pruebas de seguridad periódicas (red teaming).

Cómo ayuda KI.ordo

Las plantillas de KI.ordo de cortafuegos de IA y de auditoría de seguridad de chatbots te ayudan a detectar entradas sospechosas y a revisar las instrucciones de tus propios agentes.

Más información →: Jailbreaking

Plantillas adecuadas

Temas

  • Seguridad
  • Prevención de abusos
  • LLM

Probar KI.ordo

Agentes, flujos y plantillas en un solo espacio de trabajo – demo gratuita de 24 horas.

Iniciar demo
← Todos los términos

Términos relacionados

Inyección de prompt indirecta

En una inyección de prompt indirecta, las instrucciones manipuladoras no están en lo que escribe el usuario, sino ocultas en contenidos que el sistema de IA procesa por el camino, como páginas web, correos o documentos. Al leerlos, un agente puede tomar órdenes ocultas por tareas reales y, por ejemplo, revelar datos. Para protegerte conviene tratar el contenido externo estrictamente como datos, limitar permisos, revisar las entradas y exigir aprobación humana para acciones críticas.

  • Seguridad
  • Inyección de prompt
  • +1
Plantilla

Cortafuegos de IA

Un cortafuegos de IA es una capa de protección entre los usuarios, las fuentes de datos y un modelo de IA. Revisa las entradas en busca de intentos de manipulación, como la inyección de prompts o el jailbreak, y controla las salidas, por ejemplo para detectar datos confidenciales o contenido no deseado, antes de entregarlas. Puede basarse en reglas, modelos de clasificación o un segundo modelo de lenguaje. Reduce riesgos, pero no ofrece protección total ni sustituye a los permisos limitados y las pruebas.

  • Seguridad
  • Inyección de prompts
  • +1
Plantilla

Red teaming de IA

El red teaming de IA es la evaluación estructurada de un sistema de IA desde la perspectiva de posibles atacantes o usos indebidos. Especialistas comprueban de forma controlada si un chatbot revela instrucciones confidenciales, adopta comportamientos no deseados, da datos falsos o expone información; los hallazgos mejoran instrucciones, filtros y permisos. Una auditoría de seguridad de chatbot es una variante más ligera, basada en áreas de riesgo conocidas como el OWASP Top 10 para aplicaciones LLM.

  • Seguridad de la IA
  • Pruebas de seguridad
  • +1
Plantilla

Extracción del prompt del sistema

La extracción del prompt del sistema son los intentos de lograr que un chatbot o agente de IA revele sus instrucciones de sistema ocultas. Si lo consigue, se habla de prompt leaking: la extracción es el ataque y la filtración, su consecuencia. Para protegerte, no incluyas contraseñas, claves ni reglas confidenciales en las instrucciones y asume que podrían hacerse públicas; los controles de entrada y las pruebas periódicas refuerzan la defensa.

  • Seguridad
  • Prompt leaking
  • +1
Plantilla