Glossário

IA na cibersegurança

O que é IA na cibersegurança?

A IA na cibersegurança tem dois lados. Por um lado, as técnicas de IA ajudam a detetar ataques mais depressa, por exemplo identificando anomalias no tráfego de rede, inícios de sessão suspeitos ou e-mails de phishing, e aliviam as equipas de segurança na triagem de alertas. Por outro lado, os próprios sistemas de IA têm de ser protegidos, por exemplo contra a prompt injection ou a fuga de dados. A IA só é eficaz neste domínio em combinação com processos claros, sistemas atualizados e pessoas formadas.

Temas

Segurança
Deteção de ameaças
Proteção

Experimentar o KI.ordo

Agentes, fluxos e modelos num só espaço de trabalho – demonstração gratuita de 24 horas.

Iniciar demonstração

← Todos os termos

Termos relacionados

Deteção de anomalias

A deteção de anomalias encontra pontos de dados, eventos ou padrões que se afastam claramente da norma. Podem ser transações invulgarmente elevadas, saltos súbitos nas leituras de sensores, registos duplicados ou atividade de rede suspeita. É utilizada nas finanças, na segurança informática, na produção e no controlo de qualidade. Os métodos vão desde simples limiares estatísticos até modelos de aprendizagem; os resultados são indícios que uma pessoa deve avaliar.

Análise de dados
Controlo de qualidade
+1

Modelo

segurança dos LLM

A segurança dos LLM abrange todas as medidas que protegem aplicações construídas sobre grandes modelos de linguagem contra utilização abusiva, fuga de dados e comportamentos indesejados. Os riscos típicos incluem prompt injection, divulgação de instruções ou dados confidenciais e agentes com permissões excessivas. A proteção resulta de várias camadas: instruções claras, direitos restritos, verificações de entradas e saídas, firewalls de IA, red teaming e auditorias regulares.

segurança
modelos de linguagem
+1

Modelo

Testes de intrusão em IA

Um teste de intrusão em IA é uma avaliação de segurança controlada e encomendada, em que especialistas sondam deliberadamente um sistema de IA em busca de vulnerabilidades, como prompt injection, fuga de dados confidenciais ou um agente com permissões excessivas. Ao contrário do red teaming mais abrangente, centra-se num âmbito claramente definido, com resultados e medidas corretivas documentados. Vale a pena realizá-lo antes de um chatbot entrar em produção e após alterações importantes.

Segurança
Avaliação
+1

Modelo

Red teaming de IA

O red teaming de IA é a análise estruturada de um sistema de IA na perspetiva de potenciais atacantes ou de utilização abusiva. Especialistas testam de forma controlada se um chatbot revela instruções confidenciais, pode ser levado a comportamentos indesejados, fornece factos falsos ou expõe dados. As conclusões servem para melhorar instruções, filtros e permissões. Uma auditoria de segurança de chatbot é uma forma mais ligeira: avalia a configuração e conversas de exemplo face a áreas de risco conhecidas, como as do OWASP Top 10 para aplicações LLM.

Segurança da IA
Testes de segurança
+1

Modelo