PT
Iniciar sessãoComeçar agora
Glossário

Auditoria de segurança de chatbot

O que é Auditoria de segurança de chatbot?

Uma auditoria de segurança de chatbot é uma análise estruturada para verificar se um chatbot de IA protege adequadamente os dados confidenciais, as suas instruções internas e as suas permissões de ação. Examina, entre outros aspetos, a suscetibilidade à injeção de prompt, a divulgação involuntária de informações e o acesso demasiado amplo a ferramentas – muitas vezes seguindo o OWASP Top 10 para aplicações LLM. O resultado é um relatório com uma avaliação por área de risco e medidas concretas.

Como o KI.ordo ajuda

O KI.ordo oferece um modelo que, a partir das instruções e de conversas de exemplo de um agente, redige um relatório de auditoria com medidas e perguntas de autoteste inofensivas.

Saber mais : Auditoria de segurança de chatbot

Modelos correspondentes

Temas

  • segurança
  • auditoria
  • OWASP

Experimentar o KI.ordo

Agentes, fluxos e modelos num só espaço de trabalho – demonstração gratuita de 24 horas.

Iniciar demonstração
← Todos os termos

Termos relacionados

OWASP LLM Top 10

O OWASP Top 10 para Aplicações LLM é uma lista dos principais riscos de segurança em aplicações baseadas em grandes modelos de linguagem, publicada pelo OWASP GenAI Security Project. A edição atual de 2026 surgiu em agosto de 2026 (à data de outubro de 2026) e abrange: injeção de prompts, divulgação de informações sensíveis, agência excessiva, cadeia de fornecimento, envenenamento de dados e de modelos, consumo ilimitado, desinformação, exposição de contexto oculto, vulnerabilidades de vetores e embeddings e tratamento inadequado de saídas. Serve de lista de verificação para o desenvolvimento e as auditorias.

  • segurança
  • norma
  • +1
Modelo

Red teaming de IA

O red teaming de IA é a análise estruturada de um sistema de IA na perspetiva de potenciais atacantes ou de utilização abusiva. Especialistas testam de forma controlada se um chatbot revela instruções confidenciais, pode ser levado a comportamentos indesejados, fornece factos falsos ou expõe dados. As conclusões servem para melhorar instruções, filtros e permissões. Uma auditoria de segurança de chatbot é uma forma mais ligeira: avalia a configuração e conversas de exemplo face a áreas de risco conhecidas, como as do OWASP Top 10 para aplicações LLM.

  • Segurança da IA
  • Testes de segurança
  • +1
Modelo

segurança dos LLM

A segurança dos LLM abrange todas as medidas que protegem aplicações construídas sobre grandes modelos de linguagem contra utilização abusiva, fuga de dados e comportamentos indesejados. Os riscos típicos incluem prompt injection, divulgação de instruções ou dados confidenciais e agentes com permissões excessivas. A proteção resulta de várias camadas: instruções claras, direitos restritos, verificações de entradas e saídas, firewalls de IA, red teaming e auditorias regulares.

  • segurança
  • modelos de linguagem
  • +1
Modelo

Fuga de prompt

A fuga de prompt (prompt leaking) designa a divulgação involuntária das instruções internas de um sistema de IA, por exemplo quando um chatbot revela o seu prompt de sistema em resposta a um pedido habilmente formulado. Isto torna-se um problema se essas instruções contiverem lógica de negócio, informações internas ou até credenciais. A lista OWASP para aplicações LLM refere este risco de forma explícita. A salvaguarda mais eficaz é escrever as instruções como se pudessem tornar-se públicas, nunca nelas guardar segredos e verificar também as saídas.

  • Segurança da IA
  • prompt de sistema
  • +1
Modelo