PT
Iniciar sessãoComeçar agora
Glossário

Red teaming de IA

O que é Red teaming de IA?

O red teaming de IA é a análise estruturada de um sistema de IA na perspetiva de potenciais atacantes ou de utilização abusiva. Especialistas testam de forma controlada se um chatbot revela instruções confidenciais, pode ser levado a comportamentos indesejados, fornece factos falsos ou expõe dados. As conclusões servem para melhorar instruções, filtros e permissões. Uma auditoria de segurança de chatbot é uma forma mais ligeira: avalia a configuração e conversas de exemplo face a áreas de risco conhecidas, como as do OWASP Top 10 para aplicações LLM.

Como o KI.ordo ajuda

O modelo KI.ordo «Auditoria de segurança de chatbot» avalia instruções e conversas de exemplo face às áreas de risco da OWASP e sugere perguntas de autoteste inofensivas; não substitui um red teaming completo realizado por especialistas.

Saber mais : Red teaming de IA

Modelos correspondentes

Temas

  • Segurança da IA
  • Testes de segurança
  • Chatbot

Experimentar o KI.ordo

Agentes, fluxos e modelos num só espaço de trabalho – demonstração gratuita de 24 horas.

Iniciar demonstração
← Todos os termos

Termos relacionados

Auditoria de segurança de chatbot

Uma auditoria de segurança de chatbot é uma análise estruturada para verificar se um chatbot de IA protege adequadamente os dados confidenciais, as suas instruções internas e as suas permissões de ação. Examina, entre outros aspetos, a suscetibilidade à injeção de prompt, a divulgação involuntária de informações e o acesso demasiado amplo a ferramentas – muitas vezes seguindo o OWASP Top 10 para aplicações LLM. O resultado é um relatório com uma avaliação por área de risco e medidas concretas.

  • segurança
  • auditoria
  • +1
Modelo

OWASP LLM Top 10

O OWASP Top 10 para Aplicações LLM é uma lista dos principais riscos de segurança em aplicações baseadas em grandes modelos de linguagem, publicada pelo OWASP GenAI Security Project. A edição atual de 2026 surgiu em agosto de 2026 (à data de outubro de 2026) e abrange: injeção de prompts, divulgação de informações sensíveis, agência excessiva, cadeia de fornecimento, envenenamento de dados e de modelos, consumo ilimitado, desinformação, exposição de contexto oculto, vulnerabilidades de vetores e embeddings e tratamento inadequado de saídas. Serve de lista de verificação para o desenvolvimento e as auditorias.

  • segurança
  • norma
  • +1
Modelo

Testes de intrusão em IA

Um teste de intrusão em IA é uma avaliação de segurança controlada e encomendada, em que especialistas sondam deliberadamente um sistema de IA em busca de vulnerabilidades, como prompt injection, fuga de dados confidenciais ou um agente com permissões excessivas. Ao contrário do red teaming mais abrangente, centra-se num âmbito claramente definido, com resultados e medidas corretivas documentados. Vale a pena realizá-lo antes de um chatbot entrar em produção e após alterações importantes.

  • Segurança
  • Avaliação
  • +1
Modelo

segurança dos LLM

A segurança dos LLM abrange todas as medidas que protegem aplicações construídas sobre grandes modelos de linguagem contra utilização abusiva, fuga de dados e comportamentos indesejados. Os riscos típicos incluem prompt injection, divulgação de instruções ou dados confidenciais e agentes com permissões excessivas. A proteção resulta de várias camadas: instruções claras, direitos restritos, verificações de entradas e saídas, firewalls de IA, red teaming e auditorias regulares.

  • segurança
  • modelos de linguagem
  • +1
Modelo