ES
Iniciar sesiónEmpezar
Glosario

Red teaming de IA

¿Qué es Red teaming de IA?

El red teaming de IA es la evaluación estructurada de un sistema de IA desde la perspectiva de posibles atacantes o usos indebidos. Especialistas comprueban de forma controlada si un chatbot revela instrucciones confidenciales, adopta comportamientos no deseados, da datos falsos o expone información; los hallazgos mejoran instrucciones, filtros y permisos. Una auditoría de seguridad de chatbot es una variante más ligera, basada en áreas de riesgo conocidas como el OWASP Top 10 para aplicaciones LLM.

Cómo ayuda KI.ordo

La plantilla de KI.ordo «Auditoría de seguridad de chatbot» evalúa instrucciones y conversaciones de ejemplo según las áreas de riesgo de OWASP y propone preguntas de autoprueba inofensivas; no sustituye un red teaming completo realizado por especialistas.

Más información →: Red teaming de IA

Plantillas adecuadas

Temas

  • Seguridad de la IA
  • Pruebas de seguridad
  • Chatbot

Probar KI.ordo

Agentes, flujos y plantillas en un solo espacio de trabajo – demo gratuita de 24 horas.

Iniciar demo
← Todos los términos

Términos relacionados

Auditoría de seguridad de chatbots

Una auditoría de seguridad de chatbots es una revisión estructurada para comprobar si un chatbot de IA protege adecuadamente los datos confidenciales, sus instrucciones internas y sus permisos para actuar. Analiza, entre otras cosas, la vulnerabilidad a la inyección de prompts, la revelación involuntaria de información y los accesos demasiado amplios a herramientas, a menudo siguiendo el OWASP Top 10 para aplicaciones LLM. El resultado es un informe con una valoración por área de riesgo y medidas concretas.

  • seguridad
  • auditoría
  • +1
Plantilla

OWASP LLM Top 10

El OWASP Top 10 para aplicaciones LLM recoge los principales riesgos de seguridad de las aplicaciones con grandes modelos de lenguaje y lo publica el OWASP GenAI Security Project. La edición 2026, aparecida en agosto de 2026 (a octubre de 2026), incluye: inyección de prompts, revelación de información sensible, autonomía excesiva, cadena de suministro, envenenamiento de datos y modelos, consumo ilimitado, desinformación, exposición del contexto oculto, debilidades en vectores y embeddings, y gestión inadecuada de la salida. Sirve como lista de control para desarrollo y auditorías.

  • seguridad
  • estándar
  • +1
Plantilla

Prueba de penetración de IA

Una prueba de penetración de IA es una revisión de seguridad encargada y controlada en la que especialistas buscan a propósito debilidades en un sistema de IA, como inyección de prompts, filtración de datos confidenciales o permisos excesivos de un agente. A diferencia del red teaming, más amplio, se centra en un alcance bien delimitado con hallazgos y medidas documentados. Conviene hacerla antes de publicar un chatbot y tras cambios importantes.

  • Seguridad
  • Auditoría
  • +1
Plantilla

Seguridad de LLM

La seguridad de LLM abarca todas las medidas que protegen las aplicaciones basadas en grandes modelos de lenguaje frente a abusos, fugas de datos y comportamientos no deseados. Riesgos típicos son la inyección de prompts, la revelación de instrucciones o datos confidenciales y agentes con permisos excesivos. La protección se construye en varias capas: instrucciones claras, derechos limitados, control de entradas y salidas, cortafuegos de IA, red teaming y auditorías periódicas.

  • seguridad
  • modelos de lenguaje
  • +1
Plantilla