PT
Iniciar sessãoComeçar agora
Glossário

OWASP LLM Top 10

O que é OWASP LLM Top 10?

O OWASP Top 10 para Aplicações LLM é uma lista dos principais riscos de segurança em aplicações baseadas em grandes modelos de linguagem, publicada pelo OWASP GenAI Security Project. A edição atual de 2026 surgiu em agosto de 2026 (à data de outubro de 2026) e abrange: injeção de prompts, divulgação de informações sensíveis, agência excessiva, cadeia de fornecimento, envenenamento de dados e de modelos, consumo ilimitado, desinformação, exposição de contexto oculto, vulnerabilidades de vetores e embeddings e tratamento inadequado de saídas. Serve de lista de verificação para o desenvolvimento e as auditorias.

Como o KI.ordo ajuda

O modelo «Auditoria de segurança do chatbot» do KI.ordo avalia as instruções de um agente e conversas de exemplo em função das áreas de risco do OWASP Top 10 para Aplicações LLM.

Saber mais : OWASP LLM Top 10

Modelos correspondentes

Temas

  • segurança
  • norma
  • auditoria

Experimentar o KI.ordo

Agentes, fluxos e modelos num só espaço de trabalho – demonstração gratuita de 24 horas.

Iniciar demonstração
← Todos os termos

Termos relacionados

segurança dos LLM

A segurança dos LLM abrange todas as medidas que protegem aplicações construídas sobre grandes modelos de linguagem contra utilização abusiva, fuga de dados e comportamentos indesejados. Os riscos típicos incluem prompt injection, divulgação de instruções ou dados confidenciais e agentes com permissões excessivas. A proteção resulta de várias camadas: instruções claras, direitos restritos, verificações de entradas e saídas, firewalls de IA, red teaming e auditorias regulares.

  • segurança
  • modelos de linguagem
  • +1
Modelo

Prompt injection indireta

Numa prompt injection indireta, as instruções manipuladoras não estão na entrada do utilizador, mas escondidas em conteúdos que um sistema de IA processa pelo caminho, como páginas web, e-mails ou documentos. Quando um agente lê esse conteúdo, pode confundir comandos ocultos com tarefas genuínas e, por exemplo, divulgar dados. As salvaguardas incluem tratar o conteúdo externo estritamente como dados, limitar as permissões, filtrar as entradas e exigir aprovação humana para ações críticas.

  • Segurança
  • Prompt injection
  • +1
Modelo

Auditoria de segurança de chatbot

Uma auditoria de segurança de chatbot é uma análise estruturada para verificar se um chatbot de IA protege adequadamente os dados confidenciais, as suas instruções internas e as suas permissões de ação. Examina, entre outros aspetos, a suscetibilidade à injeção de prompt, a divulgação involuntária de informações e o acesso demasiado amplo a ferramentas – muitas vezes seguindo o OWASP Top 10 para aplicações LLM. O resultado é um relatório com uma avaliação por área de risco e medidas concretas.

  • segurança
  • auditoria
  • +1
Modelo

Fuga de prompt

A fuga de prompt (prompt leaking) designa a divulgação involuntária das instruções internas de um sistema de IA, por exemplo quando um chatbot revela o seu prompt de sistema em resposta a um pedido habilmente formulado. Isto torna-se um problema se essas instruções contiverem lógica de negócio, informações internas ou até credenciais. A lista OWASP para aplicações LLM refere este risco de forma explícita. A salvaguarda mais eficaz é escrever as instruções como se pudessem tornar-se públicas, nunca nelas guardar segredos e verificar também as saídas.

  • Segurança da IA
  • prompt de sistema
  • +1
Modelo