Glossário

Transparência da IA

O que é Transparência da IA?

A transparência da IA significa divulgar quando a IA está envolvida, em que dados e fontes se baseiam os seus resultados e como são tomadas as decisões. Isto inclui a identificação de conteúdos de IA, referências às fontes rastreáveis, registos e alterações documentadas. A transparência gera confiança, facilita a resolução de problemas e é em parte exigida por lei, por exemplo pelas obrigações de transparência do Regulamento Europeu da IA, segundo as quais as pessoas devem poder perceber que estão a interagir com uma IA.

Como o KI.ordo ajuda

Os agentes do KI.ordo respondem com referências às fontes, os fluxos registam cada passo e um registo de auditoria documenta as alterações. O chat do site mostra, logo que é aberto, um aviso de que um assistente de IA está a responder.

Saber mais

Temas

Transparência
Confiança
Rastreabilidade

Experimentar o KI.ordo

Agentes, fluxos e modelos num só espaço de trabalho – demonstração gratuita de 24 horas.

Iniciar demonstração

← Todos os termos

Termos relacionados

Transparência algorítmica

A transparência algorítmica significa que é possível compreender como um sistema automatizado chega a um resultado: que dados utiliza, que regras segue e onde estão os seus limites. Isto gera confiança, facilita a deteção de erros e é cada vez mais uma exigência legal, por exemplo através dos deveres de informação previstos no RGPD e no Regulamento Europeu da IA. Na prática, ajudam a documentação, a citação de fontes, os registos e avisos claros para as pessoas afetadas.

Transparência
Ética da IA
+1

Explicabilidade

A explicabilidade (IA explicável, XAI) descreve em que medida se consegue compreender por que razão um sistema de IA chegou a determinado resultado. Abrange métodos que mostram que entradas mais influenciaram uma decisão, bem como auxiliares práticos como referências às fontes e registos. A explicabilidade é importante para a confiança, a resolução de problemas e a regulamentação – por exemplo, quando um banco tem de justificar por que razão recusou um pedido.

XAI
Transparência
+1

Interpretabilidade do modelo

A interpretabilidade do modelo descreve em que medida as pessoas conseguem compreender como um modelo de IA chega aos seus resultados. Modelos simples, como as árvores de decisão, são por natureza fáceis de ler; nas redes neuronais complexas, podem ajudar técnicas que revelam a influência de cada característica. A interpretabilidade é importante para a depuração, a confiança e os requisitos regulamentares, por exemplo quando é preciso justificar a recusa de um crédito.

explicabilidade
transparência
+1

Ética da IA

A ética da IA ocupa-se das questões morais em torno do desenvolvimento e da utilização da IA: equidade e discriminação, transparência e explicabilidade, proteção de dados, responsabilidade por erros, segurança e os efeitos no trabalho e na sociedade. Para as organizações, concretiza-se em diretrizes, avaliações de risco, supervisão humana e comunicação honesta sobre os limites da IA. Exemplo: antes de introduzir uma ferramenta de triagem de currículos, verifica-se se esta prejudica determinados grupos.

Ética
Área responsável
+1