PT
Iniciar sessãoComeçar agora
Glossário

Alucinação

O que é Alucinação?

Uma alucinação é uma saída de um modelo de IA que soa convincente, mas é errada ou totalmente inventada – como uma decisão judicial inexistente, um valor incorreto ou uma fonte inventada. A causa: os modelos de linguagem produzem formulações prováveis; não consultam factos automaticamente. O risco diminui quando as respostas se baseiam em fontes verificadas, as provas são citadas e as pessoas verificam os resultados importantes.

Como o KI.ordo ajuda

Os agentes do KI.ordo respondem com base no conhecimento que fornecer, citam as suas fontes e dizem abertamente quando não sabem algo; o modelo "Verificar factos com o seu próprio conhecimento" ajuda na verificação – mesmo assim, os erros não podem ser totalmente excluídos.

Saber mais : Alucinação

Modelos correspondentes

Temas

  • Modelos de linguagem
  • Fiabilidade
  • Risco

Experimentar o KI.ordo

Agentes, fluxos e modelos num só espaço de trabalho – demonstração gratuita de 24 horas.

Iniciar demonstração
← Todos os termos

Termos relacionados

Geração aumentada por recuperação (RAG)

A geração aumentada por recuperação combina pesquisa com geração de texto: antes de responder, o sistema pesquisa numa coleção de conhecimento – como manuais, diretrizes ou FAQ – as passagens relevantes e transmite-as ao modelo de linguagem como contexto. A resposta baseia-se assim em conteúdos atuais e específicos da empresa, e não apenas no conhecimento de treino do modelo. Isto reduz as afirmações inventadas, torna as fontes rastreáveis e permite atualizações sem retreino.

  • RAG
  • pesquisa de conhecimento
  • +1

Data limite de conhecimento

A data limite de conhecimento (knowledge cutoff) é o momento até ao qual se estendem os dados de treino de um modelo de linguagem. O modelo não tem qualquer conhecimento próprio de acontecimentos, preços, leis ou produtos surgidos depois e pode fornecer informações desatualizadas, a menos que lhe sejam fornecidos dados atuais. Isto pode ser resolvido com métodos que incorporam documentos próprios ou conteúdos web atuais em tempo de execução.

  • LLM
  • Atualidade
  • +1

Grande modelo de linguagem (LLM)

Um grande modelo de linguagem (LLM) é uma rede neuronal treinada com quantidades muito grandes de texto, o que lhe permite compreender e gerar linguagem. Funciona calculando, passo a passo, o token mais provável a seguir. Os LLM escrevem, resumem, traduzem, respondem a perguntas e geram código; exemplos conhecidos são o Claude, o GPT, o Gemini e o Llama. Sem acesso a fontes atuais, só sabem o que constava dos seus dados de treino.

  • Modelos de linguagem
  • IA generativa
  • +1

Human-in-the-loop

Human-in-the-loop descreve fluxos de trabalho em que as pessoas intervêm num processo de IA em pontos definidos: revêem resultados, aprovam-nos ou corrigem-nos, ou assumem os casos difíceis. O princípio reduz o risco de saídas erradas e mantém a responsabilidade nas pessoas, sobretudo em decisões que afetam indivíduos, dinheiro ou assuntos jurídicos. Exemplo: um agente de IA redige respostas a pedidos de clientes e um colaborador verifica-as antes de serem enviadas.

  • Aprovação
  • Supervisão
  • +1