Glossário

Ética da IA

O que é Ética da IA?

A ética da IA ocupa-se das questões morais em torno do desenvolvimento e da utilização da IA: equidade e discriminação, transparência e explicabilidade, proteção de dados, responsabilidade por erros, segurança e os efeitos no trabalho e na sociedade. Para as organizações, concretiza-se em diretrizes, avaliações de risco, supervisão humana e comunicação honesta sobre os limites da IA. Exemplo: antes de introduzir uma ferramenta de triagem de currículos, verifica-se se esta prejudica determinados grupos.

Temas

Ética
Área responsável
Fairness

Experimentar o KI.ordo

Agentes, fluxos e modelos num só espaço de trabalho – demonstração gratuita de 24 horas.

Iniciar demonstração

← Todos os termos

Termos relacionados

Bias

Em IA, o enviesamento (bias) designa uma distorção sistemática dos resultados. Resulta frequentemente de dados de treino desequilibrados ou historicamente distorcidos, mas também do design do modelo ou da forma como uma pergunta é formulada. Um exemplo conhecido: uma ferramenta de triagem de candidatos que aprende com decisões de contratação anteriores pode perpetuar desvantagens existentes. Em estatística, bias designa também o desvio de uma estimativa em relação ao valor real. As contramedidas incluem dados diversificados, auditorias regulares e decisões humanas em questões de pessoal.

Ética da IA
Fairness
+1

Transparência da IA

A transparência da IA significa divulgar quando a IA está envolvida, em que dados e fontes se baseiam os seus resultados e como são tomadas as decisões. Isto inclui a identificação de conteúdos de IA, referências às fontes rastreáveis, registos e alterações documentadas. A transparência gera confiança, facilita a resolução de problemas e é em parte exigida por lei, por exemplo pelas obrigações de transparência do Regulamento Europeu da IA, segundo as quais as pessoas devem poder perceber que estão a interagir com uma IA.

Transparência
Confiança
+1

Explicabilidade

A explicabilidade (IA explicável, XAI) descreve em que medida se consegue compreender por que razão um sistema de IA chegou a determinado resultado. Abrange métodos que mostram que entradas mais influenciaram uma decisão, bem como auxiliares práticos como referências às fontes e registos. A explicabilidade é importante para a confiança, a resolução de problemas e a regulamentação – por exemplo, quando um banco tem de justificar por que razão recusou um pedido.

XAI
Transparência
+1

IA e direitos humanos

O termo descreve como os sistemas de IA podem afetar direitos humanos como a privacidade, a igualdade de tratamento, a liberdade de expressão ou o direito a um processo equitativo, tanto de forma positiva como negativa. Os riscos decorrem, por exemplo, de decisões discriminatórias, da vigilância em massa, da identificação biométrica ou da falta de meios para contestar decisões. Quadros internacionais, como a Convenção-Quadro do Conselho da Europa sobre a IA e o Regulamento Europeu da IA, abordam estas questões. As organizações respondem com avaliações de impacto, transparência e supervisão humana.

Ética
Direitos fundamentais
+1