Glossário

IA e direitos humanos

O que é IA e direitos humanos?

O termo descreve como os sistemas de IA podem afetar direitos humanos como a privacidade, a igualdade de tratamento, a liberdade de expressão ou o direito a um processo equitativo, tanto de forma positiva como negativa. Os riscos decorrem, por exemplo, de decisões discriminatórias, da vigilância em massa, da identificação biométrica ou da falta de meios para contestar decisões. Quadros internacionais, como a Convenção-Quadro do Conselho da Europa sobre a IA e o Regulamento Europeu da IA, abordam estas questões. As organizações respondem com avaliações de impacto, transparência e supervisão humana.

Temas

  • Ética
  • Direitos fundamentais
  • Regulação

Experimentar o KI.ordo

Agentes, fluxos e modelos num só espaço de trabalho – demonstração gratuita de 24 horas.

Iniciar demonstração
← Todos os termos

Termos relacionados

Ética da IA

A ética da IA ocupa-se das questões morais em torno do desenvolvimento e da utilização da IA: equidade e discriminação, transparência e explicabilidade, proteção de dados, responsabilidade por erros, segurança e os efeitos no trabalho e na sociedade. Para as organizações, concretiza-se em diretrizes, avaliações de risco, supervisão humana e comunicação honesta sobre os limites da IA. Exemplo: antes de introduzir uma ferramenta de triagem de currículos, verifica-se se esta prejudica determinados grupos.

  • Ética
  • Área responsável
  • +1

Discriminação na IA

A discriminação na IA ocorre quando um sistema de IA prejudica injustificadamente pessoas com base em características como o sexo, a origem étnica, a idade ou a deficiência. As causas são, em geral, dados de treino enviesados, características de substituição inadequadas, como os códigos postais, ou a falta de testes; os casos mais conhecidos provêm do recrutamento e da concessão de crédito. As contramedidas incluem dados representativos, testes regulares de equidade, transparência e supervisão humana das decisões sobre pessoas.

  • equidade
  • enviesamento
  • +1

Regulamentação de proteção de dados

A regulamentação de proteção de dados reúne as normas jurídicas que regem o tratamento de dados pessoais. Na UE, o Regulamento Geral sobre a Proteção de Dados (RGPD) é o quadro principal; exige, entre outros aspetos, um fundamento jurídico para cada tratamento, a minimização de dados, a transparência perante os titulares dos dados e acordos de tratamento de dados com os prestadores de serviços. Ao utilizar IA, as organizações têm de esclarecer que dados acabam nas entradas, nas fontes de conhecimento e nos registos, e onde são tratados.

  • RGPD
  • proteção de dados
  • +1

Transparência da IA

A transparência da IA significa divulgar quando a IA está envolvida, em que dados e fontes se baseiam os seus resultados e como são tomadas as decisões. Isto inclui a identificação de conteúdos de IA, referências às fontes rastreáveis, registos e alterações documentadas. A transparência gera confiança, facilita a resolução de problemas e é em parte exigida por lei, por exemplo pelas obrigações de transparência do Regulamento Europeu da IA, segundo as quais as pessoas devem poder perceber que estão a interagir com uma IA.

  • Transparência
  • Confiança
  • +1