ES
Iniciar sesiónEmpezar
Glosario

Seguridad de LLM

¿Qué es Seguridad de LLM?

La seguridad de LLM abarca todas las medidas que protegen las aplicaciones basadas en grandes modelos de lenguaje frente a abusos, fugas de datos y comportamientos no deseados. Riesgos típicos son la inyección de prompts, la revelación de instrucciones o datos confidenciales y agentes con permisos excesivos. La protección se construye en varias capas: instrucciones claras, derechos limitados, control de entradas y salidas, cortafuegos de IA, red teaming y auditorías periódicas.

Cómo ayuda KI.ordo

En KI.ordo, los roles de observador a propietario determinan quién puede cambiar agentes y conocimiento, un registro de cambios hace trazables los ajustes y una plantilla de auditoría de seguridad para chatbots te ayuda a revisarlos.

Más información →: Seguridad de LLM

Plantillas adecuadas

Temas

  • seguridad
  • modelos de lenguaje
  • gestión de riesgos

Probar KI.ordo

Agentes, flujos y plantillas en un solo espacio de trabajo – demo gratuita de 24 horas.

Iniciar demo
← Todos los términos

Términos relacionados

Cortafuegos de IA

Un cortafuegos de IA es una capa de protección entre los usuarios, las fuentes de datos y un modelo de IA. Revisa las entradas en busca de intentos de manipulación, como la inyección de prompts o el jailbreak, y controla las salidas, por ejemplo para detectar datos confidenciales o contenido no deseado, antes de entregarlas. Puede basarse en reglas, modelos de clasificación o un segundo modelo de lenguaje. Reduce riesgos, pero no ofrece protección total ni sustituye a los permisos limitados y las pruebas.

  • Seguridad
  • Inyección de prompts
  • +1
Plantilla

Red teaming de IA

El red teaming de IA es la evaluación estructurada de un sistema de IA desde la perspectiva de posibles atacantes o usos indebidos. Especialistas comprueban de forma controlada si un chatbot revela instrucciones confidenciales, adopta comportamientos no deseados, da datos falsos o expone información; los hallazgos mejoran instrucciones, filtros y permisos. Una auditoría de seguridad de chatbot es una variante más ligera, basada en áreas de riesgo conocidas como el OWASP Top 10 para aplicaciones LLM.

  • Seguridad de la IA
  • Pruebas de seguridad
  • +1
Plantilla

Inyección de prompt indirecta

En una inyección de prompt indirecta, las instrucciones manipuladoras no están en lo que escribe el usuario, sino ocultas en contenidos que el sistema de IA procesa por el camino, como páginas web, correos o documentos. Al leerlos, un agente puede tomar órdenes ocultas por tareas reales y, por ejemplo, revelar datos. Para protegerte conviene tratar el contenido externo estrictamente como datos, limitar permisos, revisar las entradas y exigir aprobación humana para acciones críticas.

  • Seguridad
  • Inyección de prompt
  • +1
Plantilla

OWASP LLM Top 10

El OWASP Top 10 para aplicaciones LLM recoge los principales riesgos de seguridad de las aplicaciones con grandes modelos de lenguaje y lo publica el OWASP GenAI Security Project. La edición 2026, aparecida en agosto de 2026 (a octubre de 2026), incluye: inyección de prompts, revelación de información sensible, autonomía excesiva, cadena de suministro, envenenamiento de datos y modelos, consumo ilimitado, desinformación, exposición del contexto oculto, debilidades en vectores y embeddings, y gestión inadecuada de la salida. Sirve como lista de control para desarrollo y auditorías.

  • seguridad
  • estándar
  • +1
Plantilla