Glossário

Interpretabilidade do modelo

O que é Interpretabilidade do modelo?

A interpretabilidade do modelo descreve em que medida as pessoas conseguem compreender como um modelo de IA chega aos seus resultados. Modelos simples, como as árvores de decisão, são por natureza fáceis de ler; nas redes neuronais complexas, podem ajudar técnicas que revelam a influência de cada característica. A interpretabilidade é importante para a depuração, a confiança e os requisitos regulamentares, por exemplo quando é preciso justificar a recusa de um crédito.

Temas

explicabilidade
transparência
confiança

Experimentar o KI.ordo

Agentes, fluxos e modelos num só espaço de trabalho – demonstração gratuita de 24 horas.

Iniciar demonstração

← Todos os termos

Termos relacionados

Explicabilidade

A explicabilidade (IA explicável, XAI) descreve em que medida se consegue compreender por que razão um sistema de IA chegou a determinado resultado. Abrange métodos que mostram que entradas mais influenciaram uma decisão, bem como auxiliares práticos como referências às fontes e registos. A explicabilidade é importante para a confiança, a resolução de problemas e a regulamentação – por exemplo, quando um banco tem de justificar por que razão recusou um pedido.

XAI
Transparência
+1

Transparência da IA

A transparência da IA significa divulgar quando a IA está envolvida, em que dados e fontes se baseiam os seus resultados e como são tomadas as decisões. Isto inclui a identificação de conteúdos de IA, referências às fontes rastreáveis, registos e alterações documentadas. A transparência gera confiança, facilita a resolução de problemas e é em parte exigida por lei, por exemplo pelas obrigações de transparência do Regulamento Europeu da IA, segundo as quais as pessoas devem poder perceber que estão a interagir com uma IA.

Transparência
Confiança
+1

Transparência algorítmica

A transparência algorítmica significa que é possível compreender como um sistema automatizado chega a um resultado: que dados utiliza, que regras segue e onde estão os seus limites. Isto gera confiança, facilita a deteção de erros e é cada vez mais uma exigência legal, por exemplo através dos deveres de informação previstos no RGPD e no Regulamento Europeu da IA. Na prática, ajudam a documentação, a citação de fontes, os registos e avisos claros para as pessoas afetadas.

Transparência
Ética da IA
+1

Árvore de decisão

Uma árvore de decisão é um modelo que representa uma decisão como uma sequência de perguntas simples de sim/não: cada ramo testa uma característica e cada folha dá um resultado. No machine learning, estas árvores são aprendidas automaticamente a partir de dados e usadas para classificação ou previsão. O seu ponto forte é a transparência – por exemplo, mostrar por que razão um pedido de crédito foi assinalado com base no rendimento, no prazo e no historial de pagamentos.

Aprendizagem automática
Classificação
+1