PT
Iniciar sessãoComeçar agora
Glossário

Fuga de prompt

O que é Fuga de prompt?

A fuga de prompt (prompt leaking) designa a divulgação involuntária das instruções internas de um sistema de IA, por exemplo quando um chatbot revela o seu prompt de sistema em resposta a um pedido habilmente formulado. Isto torna-se um problema se essas instruções contiverem lógica de negócio, informações internas ou até credenciais. A lista OWASP para aplicações LLM refere este risco de forma explícita. A salvaguarda mais eficaz é escrever as instruções como se pudessem tornar-se públicas, nunca nelas guardar segredos e verificar também as saídas.

Como o KI.ordo ajuda

O modelo «Auditoria de segurança do chatbot» do KI.ordo ajuda a verificar as instruções dos agentes quanto a este risco; nunca se devem colocar nelas palavras-passe ou outros segredos.

Saber mais : Fuga de prompt

Modelos correspondentes

Temas

  • Segurança da IA
  • prompt de sistema
  • proteção de dados

Experimentar o KI.ordo

Agentes, fluxos e modelos num só espaço de trabalho – demonstração gratuita de 24 horas.

Iniciar demonstração
← Todos os termos

Termos relacionados

Extração do prompt de sistema

A extração do prompt de sistema designa as tentativas de levar um chatbot ou agente de IA a revelar as suas instruções de sistema ocultas. Se essa tentativa tiver êxito, o resultado chama-se fuga de prompt: a extração é o ataque, a fuga é a consequência. Uma proteção eficaz começa por manter palavras-passe, chaves e regras confidenciais fora das instruções e por partir do princípio de que podem tornar-se públicas; verificações das entradas e testes regulares acrescentam outras salvaguardas.

  • Segurança
  • Fuga de prompt
  • +1
Modelo

Firewall de IA

Uma firewall de IA é uma camada de proteção entre os utilizadores, as fontes de dados e um modelo de IA. Filtra as entradas para detetar tentativas de manipulação, como prompt injection ou jailbreaks, e verifica as saídas, por exemplo quanto a dados confidenciais ou conteúdos indesejados, antes de as transmitir. Pode usar regras, modelos de classificação ou um segundo modelo de linguagem. Uma firewall de IA reduz o risco, mas não oferece proteção total e não substitui nem as permissões limitadas nem os testes.

  • Segurança
  • Prompt injection
  • +1
Modelo

OWASP LLM Top 10

O OWASP Top 10 para Aplicações LLM é uma lista dos principais riscos de segurança em aplicações baseadas em grandes modelos de linguagem, publicada pelo OWASP GenAI Security Project. A edição atual de 2026 surgiu em agosto de 2026 (à data de outubro de 2026) e abrange: injeção de prompts, divulgação de informações sensíveis, agência excessiva, cadeia de fornecimento, envenenamento de dados e de modelos, consumo ilimitado, desinformação, exposição de contexto oculto, vulnerabilidades de vetores e embeddings e tratamento inadequado de saídas. Serve de lista de verificação para o desenvolvimento e as auditorias.

  • segurança
  • norma
  • +1
Modelo

Auditoria de segurança de chatbot

Uma auditoria de segurança de chatbot é uma análise estruturada para verificar se um chatbot de IA protege adequadamente os dados confidenciais, as suas instruções internas e as suas permissões de ação. Examina, entre outros aspetos, a suscetibilidade à injeção de prompt, a divulgação involuntária de informações e o acesso demasiado amplo a ferramentas – muitas vezes seguindo o OWASP Top 10 para aplicações LLM. O resultado é um relatório com uma avaliação por área de risco e medidas concretas.

  • segurança
  • auditoria
  • +1
Modelo