Glossário

Explicabilidade

O que é Explicabilidade?

A explicabilidade (IA explicável, XAI) descreve em que medida se consegue compreender por que razão um sistema de IA chegou a determinado resultado. Abrange métodos que mostram que entradas mais influenciaram uma decisão, bem como auxiliares práticos como referências às fontes e registos. A explicabilidade é importante para a confiança, a resolução de problemas e a regulamentação – por exemplo, quando um banco tem de justificar por que razão recusou um pedido.

Como o KI.ordo ajuda

O KI.ordo torna os resultados rastreáveis: os agentes citam as suas fontes e os fluxos registam cada passo – isto mostra de onde veio uma resposta, não o funcionamento interno do modelo de linguagem.

Saber mais

Temas

XAI
Transparência
Confiança

Experimentar o KI.ordo

Agentes, fluxos e modelos num só espaço de trabalho – demonstração gratuita de 24 horas.

Iniciar demonstração

← Todos os termos

Termos relacionados

Transparência da IA

A transparência da IA significa divulgar quando a IA está envolvida, em que dados e fontes se baseiam os seus resultados e como são tomadas as decisões. Isto inclui a identificação de conteúdos de IA, referências às fontes rastreáveis, registos e alterações documentadas. A transparência gera confiança, facilita a resolução de problemas e é em parte exigida por lei, por exemplo pelas obrigações de transparência do Regulamento Europeu da IA, segundo as quais as pessoas devem poder perceber que estão a interagir com uma IA.

Transparência
Confiança
+1

Interpretabilidade do modelo

A interpretabilidade do modelo descreve em que medida as pessoas conseguem compreender como um modelo de IA chega aos seus resultados. Modelos simples, como as árvores de decisão, são por natureza fáceis de ler; nas redes neuronais complexas, podem ajudar técnicas que revelam a influência de cada característica. A interpretabilidade é importante para a depuração, a confiança e os requisitos regulamentares, por exemplo quando é preciso justificar a recusa de um crédito.

explicabilidade
transparência
+1

Transparência algorítmica

A transparência algorítmica significa que é possível compreender como um sistema automatizado chega a um resultado: que dados utiliza, que regras segue e onde estão os seus limites. Isto gera confiança, facilita a deteção de erros e é cada vez mais uma exigência legal, por exemplo através dos deveres de informação previstos no RGPD e no Regulamento Europeu da IA. Na prática, ajudam a documentação, a citação de fontes, os registos e avisos claros para as pessoas afetadas.

Transparência
Ética da IA
+1

Ética da IA

A ética da IA ocupa-se das questões morais em torno do desenvolvimento e da utilização da IA: equidade e discriminação, transparência e explicabilidade, proteção de dados, responsabilidade por erros, segurança e os efeitos no trabalho e na sociedade. Para as organizações, concretiza-se em diretrizes, avaliações de risco, supervisão humana e comunicação honesta sobre os limites da IA. Exemplo: antes de introduzir uma ferramenta de triagem de currículos, verifica-se se esta prejudica determinados grupos.

Ética
Área responsável
+1