Glossário

Human-in-the-loop

O que é Human-in-the-loop?

Human-in-the-loop descreve fluxos de trabalho em que as pessoas intervêm num processo de IA em pontos definidos: revêem resultados, aprovam-nos ou corrigem-nos, ou assumem os casos difíceis. O princípio reduz o risco de saídas erradas e mantém a responsabilidade nas pessoas, sobretudo em decisões que afetam indivíduos, dinheiro ou assuntos jurídicos. Exemplo: um agente de IA redige respostas a pedidos de clientes e um colaborador verifica-as antes de serem enviadas.

Como o KI.ordo ajuda

Nos projetos do KI.ordo, os agentes entregam rascunhos que as pessoas aprovam, e o chat do site pode passar as conversas à equipa através de um formulário de contacto.

Saber mais

Temas

Aprovação
Supervisão
Responsabilidade

Experimentar o KI.ordo

Agentes, fluxos e modelos num só espaço de trabalho – demonstração gratuita de 24 horas.

Iniciar demonstração

← Todos os termos

Termos relacionados

Sistema de automatização com IA

Um sistema de automatização com IA combina a automatização tradicional de processos com capacidades de IA, como a compreensão de texto, a classificação ou o apoio à decisão. Isto permite automatizar também fluxos de trabalho com entradas não estruturadas, como e-mails, formulários ou pedidos. Uma configuração típica é uma cadeia de gatilho, passos de processamento, condições e saída, com aprovação humana nos pontos críticos. Exemplo: os pedidos recebidos são automaticamente categorizados, resumidos e encaminhados para o departamento certo.

Automatização
Processos
+1

Agentes inteligentes

Um agente inteligente é um sistema que perceciona o seu ambiente, processa informação e escolhe ações por si próprio para atingir um objetivo. Hoje, o termo refere-se normalmente a software baseado em grandes modelos de linguagem que segue instruções, recorre a conhecimento e chama ferramentas como uma função de pesquisa ou uma API. O grau de autonomia que um agente pode ter deve ser decidido deliberadamente. Exemplo: um agente responde a perguntas de clientes com base na documentação do produto.

Agentes
Autonomia
+1

Aprendizagem por reforço a partir de feedback humano (RLHF)

O RLHF é um método de treino que torna os modelos de linguagem mais úteis e mais seguros. Pessoas comparam e avaliam várias respostas do modelo; estas avaliações são usadas para treinar um modelo de recompensa, que depois treina o próprio modelo de linguagem através de aprendizagem por reforço. Assim, o modelo aprende, por exemplo, a responder com mais clareza ou a recusar pedidos problemáticos. O RLHF ocorre no fornecedor do modelo, antes de este ser lançado – não junto de utilizadores individuais.

treino
feedback humano
+1

Alucinação

Uma alucinação é uma saída de um modelo de IA que soa convincente, mas é errada ou totalmente inventada – como uma decisão judicial inexistente, um valor incorreto ou uma fonte inventada. A causa: os modelos de linguagem produzem formulações prováveis; não consultam factos automaticamente. O risco diminui quando as respostas se baseiam em fontes verificadas, as provas são citadas e as pessoas verificam os resultados importantes.

Modelos de linguagem
Fiabilidade
+1

Modelo