ES
Iniciar sesiónEmpezar
Glosario

Inyección de prompt indirecta

¿Qué es Inyección de prompt indirecta?

En una inyección de prompt indirecta, las instrucciones manipuladoras no están en lo que escribe el usuario, sino ocultas en contenidos que el sistema de IA procesa por el camino, como páginas web, correos o documentos. Al leerlos, un agente puede tomar órdenes ocultas por tareas reales y, por ejemplo, revelar datos. Para protegerte conviene tratar el contenido externo estrictamente como datos, limitar permisos, revisar las entradas y exigir aprobación humana para acciones críticas.

Cómo ayuda KI.ordo

KI.ordo ofrece una plantilla de cortafuegos de IA que puedes colocar delante de un agente como capa de control adicional, por ejemplo cuando el contenido llega con la herramienta de lectura de páginas web.

Más información →: Inyección de prompt indirecta

Plantillas adecuadas

Temas

  • Seguridad
  • Inyección de prompt
  • Agentes

Probar KI.ordo

Agentes, flujos y plantillas en un solo espacio de trabajo – demo gratuita de 24 horas.

Iniciar demo
← Todos los términos

Términos relacionados

Cortafuegos de IA

Un cortafuegos de IA es una capa de protección entre los usuarios, las fuentes de datos y un modelo de IA. Revisa las entradas en busca de intentos de manipulación, como la inyección de prompts o el jailbreak, y controla las salidas, por ejemplo para detectar datos confidenciales o contenido no deseado, antes de entregarlas. Puede basarse en reglas, modelos de clasificación o un segundo modelo de lenguaje. Reduce riesgos, pero no ofrece protección total ni sustituye a los permisos limitados y las pruebas.

  • Seguridad
  • Inyección de prompts
  • +1
Plantilla

Jailbreaking

El jailbreaking son intentos de eludir las reglas de seguridad de un modelo de IA mediante entradas formuladas con astucia, para que genere contenidos o realice acciones que debería rechazar. Para una empresa supone un riesgo, porque un chatbot podría, por ejemplo, revelar instrucciones confidenciales o responder de forma inadecuada. Entre las medidas de protección están unas instrucciones de sistema claras, el filtrado de entradas y salidas, permisos limitados, el registro de actividad y pruebas de seguridad periódicas (red teaming).

  • Seguridad
  • Prevención de abusos
  • +1
Plantilla

Seguridad de LLM

La seguridad de LLM abarca todas las medidas que protegen las aplicaciones basadas en grandes modelos de lenguaje frente a abusos, fugas de datos y comportamientos no deseados. Riesgos típicos son la inyección de prompts, la revelación de instrucciones o datos confidenciales y agentes con permisos excesivos. La protección se construye en varias capas: instrucciones claras, derechos limitados, control de entradas y salidas, cortafuegos de IA, red teaming y auditorías periódicas.

  • seguridad
  • modelos de lenguaje
  • +1
Plantilla

OWASP LLM Top 10

El OWASP Top 10 para aplicaciones LLM recoge los principales riesgos de seguridad de las aplicaciones con grandes modelos de lenguaje y lo publica el OWASP GenAI Security Project. La edición 2026, aparecida en agosto de 2026 (a octubre de 2026), incluye: inyección de prompts, revelación de información sensible, autonomía excesiva, cadena de suministro, envenenamiento de datos y modelos, consumo ilimitado, desinformación, exposición del contexto oculto, debilidades en vectores y embeddings, y gestión inadecuada de la salida. Sirve como lista de control para desarrollo y auditorías.

  • seguridad
  • estándar
  • +1
Plantilla