Glossário

Discriminação na IA

O que é Discriminação na IA?

A discriminação na IA ocorre quando um sistema de IA prejudica injustificadamente pessoas com base em características como o sexo, a origem étnica, a idade ou a deficiência. As causas são, em geral, dados de treino enviesados, características de substituição inadequadas, como os códigos postais, ou a falta de testes; os casos mais conhecidos provêm do recrutamento e da concessão de crédito. As contramedidas incluem dados representativos, testes regulares de equidade, transparência e supervisão humana das decisões sobre pessoas.

Como o KI.ordo ajuda

Nos projetos do KI.ordo, os agentes entregam rascunhos que as pessoas revêem e aprovam.

Temas

equidade
enviesamento
Ética da IA

Experimentar o KI.ordo

Agentes, fluxos e modelos num só espaço de trabalho – demonstração gratuita de 24 horas.

Iniciar demonstração

← Todos os termos

Termos relacionados

Bias

Em IA, o enviesamento (bias) designa uma distorção sistemática dos resultados. Resulta frequentemente de dados de treino desequilibrados ou historicamente distorcidos, mas também do design do modelo ou da forma como uma pergunta é formulada. Um exemplo conhecido: uma ferramenta de triagem de candidatos que aprende com decisões de contratação anteriores pode perpetuar desvantagens existentes. Em estatística, bias designa também o desvio de uma estimativa em relação ao valor real. As contramedidas incluem dados diversificados, auditorias regulares e decisões humanas em questões de pessoal.

Ética da IA
Fairness
+1

Ética da IA

A ética da IA ocupa-se das questões morais em torno do desenvolvimento e da utilização da IA: equidade e discriminação, transparência e explicabilidade, proteção de dados, responsabilidade por erros, segurança e os efeitos no trabalho e na sociedade. Para as organizações, concretiza-se em diretrizes, avaliações de risco, supervisão humana e comunicação honesta sobre os limites da IA. Exemplo: antes de introduzir uma ferramenta de triagem de currículos, verifica-se se esta prejudica determinados grupos.

Ética
Área responsável
+1

Explicabilidade

A explicabilidade (IA explicável, XAI) descreve em que medida se consegue compreender por que razão um sistema de IA chegou a determinado resultado. Abrange métodos que mostram que entradas mais influenciaram uma decisão, bem como auxiliares práticos como referências às fontes e registos. A explicabilidade é importante para a confiança, a resolução de problemas e a regulamentação – por exemplo, quando um banco tem de justificar por que razão recusou um pedido.

XAI
Transparência
+1

Human-in-the-loop

Human-in-the-loop descreve fluxos de trabalho em que as pessoas intervêm num processo de IA em pontos definidos: revêem resultados, aprovam-nos ou corrigem-nos, ou assumem os casos difíceis. O princípio reduz o risco de saídas erradas e mantém a responsabilidade nas pessoas, sobretudo em decisões que afetam indivíduos, dinheiro ou assuntos jurídicos. Exemplo: um agente de IA redige respostas a pedidos de clientes e um colaborador verifica-as antes de serem enviadas.

Aprovação
Supervisão
+1