Glossário

Firewall de IA

O que é Firewall de IA?

Uma firewall de IA é uma camada de proteção entre os utilizadores, as fontes de dados e um modelo de IA. Filtra as entradas para detetar tentativas de manipulação, como prompt injection ou jailbreaks, e verifica as saídas, por exemplo quanto a dados confidenciais ou conteúdos indesejados, antes de as transmitir. Pode usar regras, modelos de classificação ou um segundo modelo de linguagem. Uma firewall de IA reduz o risco, mas não oferece proteção total e não substitui nem as permissões limitadas nem os testes.

Como o KI.ordo ajuda

O KI.ordo oferece um modelo pronto de firewall de IA que classifica as entradas como inofensivas ou suspeitas e pode ser colocado à frente de um agente como subfluxo.

Saber mais

Modelos correspondentes

Firewall de IA: verificar entradaVerifica uma entrada quanto a tentativas de alterar instruções, mudar de função ou pedir dados internos e só deixa passar texto seguro; em caso de dúvida, bloqueia. Coloque-o como subfluxo antes de um agente.Ver modelo

Temas

Segurança
Prompt injection
Camada de proteção

Experimentar o KI.ordo

Agentes, fluxos e modelos num só espaço de trabalho – demonstração gratuita de 24 horas.

Iniciar demonstração

← Todos os termos

Termos relacionados

Prompt injection indireta

Numa prompt injection indireta, as instruções manipuladoras não estão na entrada do utilizador, mas escondidas em conteúdos que um sistema de IA processa pelo caminho, como páginas web, e-mails ou documentos. Quando um agente lê esse conteúdo, pode confundir comandos ocultos com tarefas genuínas e, por exemplo, divulgar dados. As salvaguardas incluem tratar o conteúdo externo estritamente como dados, limitar as permissões, filtrar as entradas e exigir aprovação humana para ações críticas.

Segurança
Prompt injection
+1

Modelo

Jailbreaking

Jailbreaking designa tentativas de contornar as regras de segurança de um modelo de IA através de entradas habilmente formuladas, para que produza conteúdos ou execute ações que deveria recusar. Para as organizações, é um risco, porque um chatbot poderia, por exemplo, revelar instruções confidenciais ou responder de forma inadequada. As medidas de proteção incluem instruções de sistema claras, filtragem de entradas e saídas, permissões limitadas, registos e testes de segurança regulares (red teaming).

Segurança
Prevenção de abusos
+1

Modelo

segurança dos LLM

A segurança dos LLM abrange todas as medidas que protegem aplicações construídas sobre grandes modelos de linguagem contra utilização abusiva, fuga de dados e comportamentos indesejados. Os riscos típicos incluem prompt injection, divulgação de instruções ou dados confidenciais e agentes com permissões excessivas. A proteção resulta de várias camadas: instruções claras, direitos restritos, verificações de entradas e saídas, firewalls de IA, red teaming e auditorias regulares.

segurança
modelos de linguagem
+1

Modelo

OWASP LLM Top 10

O OWASP Top 10 para Aplicações LLM é uma lista dos principais riscos de segurança em aplicações baseadas em grandes modelos de linguagem, publicada pelo OWASP GenAI Security Project. A edição atual de 2026 surgiu em agosto de 2026 (à data de outubro de 2026) e abrange: injeção de prompts, divulgação de informações sensíveis, agência excessiva, cadeia de fornecimento, envenenamento de dados e de modelos, consumo ilimitado, desinformação, exposição de contexto oculto, vulnerabilidades de vetores e embeddings e tratamento inadequado de saídas. Serve de lista de verificação para o desenvolvimento e as auditorias.

segurança
norma
+1

Modelo