PT
Iniciar sessãoComeçar agora
Glossário

Extração do prompt de sistema

O que é Extração do prompt de sistema?

A extração do prompt de sistema designa as tentativas de levar um chatbot ou agente de IA a revelar as suas instruções de sistema ocultas. Se essa tentativa tiver êxito, o resultado chama-se fuga de prompt: a extração é o ataque, a fuga é a consequência. Uma proteção eficaz começa por manter palavras-passe, chaves e regras confidenciais fora das instruções e por partir do princípio de que podem tornar-se públicas; verificações das entradas e testes regulares acrescentam outras salvaguardas.

Como o KI.ordo ajuda

O modelo «Auditoria de segurança do chatbot» do KI.ordo verifica as instruções de um agente quanto a riscos como a divulgação de instruções de sistema e fornece perguntas de autoteste inofensivas.

Saber mais : Extração do prompt de sistema

Modelos correspondentes

Temas

  • Segurança
  • Fuga de prompt
  • Chatbots

Experimentar o KI.ordo

Agentes, fluxos e modelos num só espaço de trabalho – demonstração gratuita de 24 horas.

Iniciar demonstração
← Todos os termos

Termos relacionados

Fuga de prompt

A fuga de prompt (prompt leaking) designa a divulgação involuntária das instruções internas de um sistema de IA, por exemplo quando um chatbot revela o seu prompt de sistema em resposta a um pedido habilmente formulado. Isto torna-se um problema se essas instruções contiverem lógica de negócio, informações internas ou até credenciais. A lista OWASP para aplicações LLM refere este risco de forma explícita. A salvaguarda mais eficaz é escrever as instruções como se pudessem tornar-se públicas, nunca nelas guardar segredos e verificar também as saídas.

  • Segurança da IA
  • prompt de sistema
  • +1
Modelo

Jailbreaking

Jailbreaking designa tentativas de contornar as regras de segurança de um modelo de IA através de entradas habilmente formuladas, para que produza conteúdos ou execute ações que deveria recusar. Para as organizações, é um risco, porque um chatbot poderia, por exemplo, revelar instruções confidenciais ou responder de forma inadequada. As medidas de proteção incluem instruções de sistema claras, filtragem de entradas e saídas, permissões limitadas, registos e testes de segurança regulares (red teaming).

  • Segurança
  • Prevenção de abusos
  • +1
Modelo

Auditoria de segurança de chatbot

Uma auditoria de segurança de chatbot é uma análise estruturada para verificar se um chatbot de IA protege adequadamente os dados confidenciais, as suas instruções internas e as suas permissões de ação. Examina, entre outros aspetos, a suscetibilidade à injeção de prompt, a divulgação involuntária de informações e o acesso demasiado amplo a ferramentas – muitas vezes seguindo o OWASP Top 10 para aplicações LLM. O resultado é um relatório com uma avaliação por área de risco e medidas concretas.

  • segurança
  • auditoria
  • +1
Modelo

OWASP LLM Top 10

O OWASP Top 10 para Aplicações LLM é uma lista dos principais riscos de segurança em aplicações baseadas em grandes modelos de linguagem, publicada pelo OWASP GenAI Security Project. A edição atual de 2026 surgiu em agosto de 2026 (à data de outubro de 2026) e abrange: injeção de prompts, divulgação de informações sensíveis, agência excessiva, cadeia de fornecimento, envenenamento de dados e de modelos, consumo ilimitado, desinformação, exposição de contexto oculto, vulnerabilidades de vetores e embeddings e tratamento inadequado de saídas. Serve de lista de verificação para o desenvolvimento e as auditorias.

  • segurança
  • norma
  • +1
Modelo