Glossário

Bias

O que é Bias?

Em IA, o enviesamento (bias) designa uma distorção sistemática dos resultados. Resulta frequentemente de dados de treino desequilibrados ou historicamente distorcidos, mas também do design do modelo ou da forma como uma pergunta é formulada. Um exemplo conhecido: uma ferramenta de triagem de candidatos que aprende com decisões de contratação anteriores pode perpetuar desvantagens existentes. Em estatística, bias designa também o desvio de uma estimativa em relação ao valor real. As contramedidas incluem dados diversificados, auditorias regulares e decisões humanas em questões de pessoal.

Temas

Ética da IA
Fairness
Qualidade dos dados

Experimentar o KI.ordo

Agentes, fluxos e modelos num só espaço de trabalho – demonstração gratuita de 24 horas.

Iniciar demonstração

← Todos os termos

Termos relacionados

Discriminação na IA

A discriminação na IA ocorre quando um sistema de IA prejudica injustificadamente pessoas com base em características como o sexo, a origem étnica, a idade ou a deficiência. As causas são, em geral, dados de treino enviesados, características de substituição inadequadas, como os códigos postais, ou a falta de testes; os casos mais conhecidos provêm do recrutamento e da concessão de crédito. As contramedidas incluem dados representativos, testes regulares de equidade, transparência e supervisão humana das decisões sobre pessoas.

equidade
enviesamento
+1

Dados de treino

Os dados de treino são os exemplos a partir dos quais um modelo de IA aprende padrões: grandes coleções de texto para modelos de linguagem, imagens etiquetadas para modelos de imagem. A sua qualidade, diversidade e atualidade determinam em grande medida a fiabilidade e a equidade de um modelo e o quão atualizado será o seu conhecimento. Para as organizações, também importa saber se um fornecedor utiliza os dados dos clientes que lhe são fornecidos para treino adicional.

Dados
Training
+1

Ética da IA

A ética da IA ocupa-se das questões morais em torno do desenvolvimento e da utilização da IA: equidade e discriminação, transparência e explicabilidade, proteção de dados, responsabilidade por erros, segurança e os efeitos no trabalho e na sociedade. Para as organizações, concretiza-se em diretrizes, avaliações de risco, supervisão humana e comunicação honesta sobre os limites da IA. Exemplo: antes de introduzir uma ferramenta de triagem de currículos, verifica-se se esta prejudica determinados grupos.

Ética
Área responsável
+1

Explicabilidade

A explicabilidade (IA explicável, XAI) descreve em que medida se consegue compreender por que razão um sistema de IA chegou a determinado resultado. Abrange métodos que mostram que entradas mais influenciaram uma decisão, bem como auxiliares práticos como referências às fontes e registos. A explicabilidade é importante para a confiança, a resolução de problemas e a regulamentação – por exemplo, quando um banco tem de justificar por que razão recusou um pedido.

XAI
Transparência
+1