ES
Iniciar sesiónEmpezar
Glosario

OWASP LLM Top 10

¿Qué es OWASP LLM Top 10?

El OWASP Top 10 para aplicaciones LLM recoge los principales riesgos de seguridad de las aplicaciones con grandes modelos de lenguaje y lo publica el OWASP GenAI Security Project. La edición 2026, aparecida en agosto de 2026 (a octubre de 2026), incluye: inyección de prompts, revelación de información sensible, autonomía excesiva, cadena de suministro, envenenamiento de datos y modelos, consumo ilimitado, desinformación, exposición del contexto oculto, debilidades en vectores y embeddings, y gestión inadecuada de la salida. Sirve como lista de control para desarrollo y auditorías.

Cómo ayuda KI.ordo

La plantilla de KI.ordo «Auditoría de seguridad de chatbot» evalúa las instrucciones y conversaciones de ejemplo de un agente según las áreas de riesgo del OWASP Top 10 para aplicaciones LLM.

Más información →: OWASP LLM Top 10

Plantillas adecuadas

Temas

  • seguridad
  • estándar
  • auditoría

Probar KI.ordo

Agentes, flujos y plantillas en un solo espacio de trabajo – demo gratuita de 24 horas.

Iniciar demo
← Todos los términos

Términos relacionados

Seguridad de LLM

La seguridad de LLM abarca todas las medidas que protegen las aplicaciones basadas en grandes modelos de lenguaje frente a abusos, fugas de datos y comportamientos no deseados. Riesgos típicos son la inyección de prompts, la revelación de instrucciones o datos confidenciales y agentes con permisos excesivos. La protección se construye en varias capas: instrucciones claras, derechos limitados, control de entradas y salidas, cortafuegos de IA, red teaming y auditorías periódicas.

  • seguridad
  • modelos de lenguaje
  • +1
Plantilla

Inyección de prompt indirecta

En una inyección de prompt indirecta, las instrucciones manipuladoras no están en lo que escribe el usuario, sino ocultas en contenidos que el sistema de IA procesa por el camino, como páginas web, correos o documentos. Al leerlos, un agente puede tomar órdenes ocultas por tareas reales y, por ejemplo, revelar datos. Para protegerte conviene tratar el contenido externo estrictamente como datos, limitar permisos, revisar las entradas y exigir aprobación humana para acciones críticas.

  • Seguridad
  • Inyección de prompt
  • +1
Plantilla

Auditoría de seguridad de chatbots

Una auditoría de seguridad de chatbots es una revisión estructurada para comprobar si un chatbot de IA protege adecuadamente los datos confidenciales, sus instrucciones internas y sus permisos para actuar. Analiza, entre otras cosas, la vulnerabilidad a la inyección de prompts, la revelación involuntaria de información y los accesos demasiado amplios a herramientas, a menudo siguiendo el OWASP Top 10 para aplicaciones LLM. El resultado es un informe con una valoración por área de riesgo y medidas concretas.

  • seguridad
  • auditoría
  • +1
Plantilla

Filtración de prompts

La filtración de prompts (prompt leaking) es la revelación involuntaria de las instrucciones internas de un sistema de IA, por ejemplo cuando un chatbot reproduce su prompt de sistema ante una pregunta hábil. Es un problema si esas instrucciones contienen lógica de negocio, información interna o incluso credenciales. La lista de OWASP para aplicaciones LLM recoge este riesgo de forma expresa. La mejor protección: escribe las instrucciones como si pudieran hacerse públicas, nunca guardes secretos en ellas y revisa también las respuestas.

  • seguridad de IA
  • prompt de sistema
  • +1
Plantilla