ES
Iniciar sesiónEmpezar
Glosario

Exfiltración de datos

¿Qué es Exfiltración de datos?

La exfiltración de datos es la salida no autorizada de datos de un sistema. En aplicaciones de IA puede ocurrir cuando se manipula a un chatbot o agente mediante entradas preparadas o contenidos trampa, por ejemplo en una página web que lee, para que revele o reenvíe información confidencial. Se protege con permisos de acceso mínimos, control de entradas, límites a las conexiones salientes y supervisión de las respuestas.

Cómo ayuda KI.ordo

La plantilla «KI-Firewall» de KI.ordo se coloca como subflujo delante de un agente y retiene las entradas que intentan, por ejemplo, obtener instrucciones del sistema o datos.

Más información →: Exfiltración de datos

Plantillas adecuadas

Temas

  • seguridad de IA
  • protección de datos
  • inyección de prompts

Probar KI.ordo

Agentes, flujos y plantillas en un solo espacio de trabajo – demo gratuita de 24 horas.

Iniciar demo
← Todos los términos

Términos relacionados

Cortafuegos de IA

Un cortafuegos de IA es una capa de protección entre los usuarios, las fuentes de datos y un modelo de IA. Revisa las entradas en busca de intentos de manipulación, como la inyección de prompts o el jailbreak, y controla las salidas, por ejemplo para detectar datos confidenciales o contenido no deseado, antes de entregarlas. Puede basarse en reglas, modelos de clasificación o un segundo modelo de lenguaje. Reduce riesgos, pero no ofrece protección total ni sustituye a los permisos limitados y las pruebas.

  • Seguridad
  • Inyección de prompts
  • +1
Plantilla

Inyección de prompt indirecta

En una inyección de prompt indirecta, las instrucciones manipuladoras no están en lo que escribe el usuario, sino ocultas en contenidos que el sistema de IA procesa por el camino, como páginas web, correos o documentos. Al leerlos, un agente puede tomar órdenes ocultas por tareas reales y, por ejemplo, revelar datos. Para protegerte conviene tratar el contenido externo estrictamente como datos, limitar permisos, revisar las entradas y exigir aprobación humana para acciones críticas.

  • Seguridad
  • Inyección de prompt
  • +1
Plantilla

Filtración de prompts

La filtración de prompts (prompt leaking) es la revelación involuntaria de las instrucciones internas de un sistema de IA, por ejemplo cuando un chatbot reproduce su prompt de sistema ante una pregunta hábil. Es un problema si esas instrucciones contienen lógica de negocio, información interna o incluso credenciales. La lista de OWASP para aplicaciones LLM recoge este riesgo de forma expresa. La mejor protección: escribe las instrucciones como si pudieran hacerse públicas, nunca guardes secretos en ellas y revisa también las respuestas.

  • seguridad de IA
  • prompt de sistema
  • +1
Plantilla

Seguridad de LLM

La seguridad de LLM abarca todas las medidas que protegen las aplicaciones basadas en grandes modelos de lenguaje frente a abusos, fugas de datos y comportamientos no deseados. Riesgos típicos son la inyección de prompts, la revelación de instrucciones o datos confidenciales y agentes con permisos excesivos. La protección se construye en varias capas: instrucciones claras, derechos limitados, control de entradas y salidas, cortafuegos de IA, red teaming y auditorías periódicas.

  • seguridad
  • modelos de lenguaje
  • +1
Plantilla