Glossário

Geração aumentada por cache (CAG)

O que é Geração aumentada por cache (CAG)?

A geração aumentada por cache (CAG) é uma abordagem em que um modelo de linguagem não procura conhecimento a cada pergunta. Em vez disso, uma base de conhecimento de dimensão gerível é carregada antecipadamente na sua janela de contexto e esse estado é guardado em cache, pelo que as respostas não precisam de um passo de recuperação separado. O termo foi popularizado por um artigo de investigação do final de 2024 como alternativa à geração aumentada por recuperação (RAG). A CAG adequa-se a bases de conhecimento pequenas e estáveis; para dados volumosos ou que mudam com frequência, a RAG continua normalmente a ser mais prática.

Como o KI.ordo ajuda

Para o conhecimento, o KI.ordo utiliza a pesquisa por palavras-chave BM25 no servidor e guarda em cache componentes de prompt recorrentes com prompt caching, para reduzir custos.

Saber mais

Temas

RAG
Janela de contexto
Gestão do conhecimento

Experimentar o KI.ordo

Agentes, fluxos e modelos num só espaço de trabalho – demonstração gratuita de 24 horas.

Iniciar demonstração

← Todos os termos

Termos relacionados

Geração aumentada por recuperação (RAG)

A geração aumentada por recuperação combina pesquisa com geração de texto: antes de responder, o sistema pesquisa numa coleção de conhecimento – como manuais, diretrizes ou FAQ – as passagens relevantes e transmite-as ao modelo de linguagem como contexto. A resposta baseia-se assim em conteúdos atuais e específicos da empresa, e não apenas no conhecimento de treino do modelo. Isto reduz as afirmações inventadas, torna as fontes rastreáveis e permite atualizações sem retreino.

RAG
pesquisa de conhecimento
+1

Grande modelo de linguagem (LLM)

Um grande modelo de linguagem (LLM) é uma rede neuronal treinada com quantidades muito grandes de texto, o que lhe permite compreender e gerar linguagem. Funciona calculando, passo a passo, o token mais provável a seguir. Os LLM escrevem, resumem, traduzem, respondem a perguntas e geram código; exemplos conhecidos são o Claude, o GPT, o Gemini e o Llama. Sem acesso a fontes atuais, só sabem o que constava dos seus dados de treino.

Modelos de linguagem
IA generativa
+1

Pipeline de recuperação

Um pipeline de recuperação é a sequência de passos de processamento que um sistema utiliza para encontrar a informação certa para uma pergunta. Os passos típicos são: importar e limpar documentos, dividi-los em blocos (chunks), criar um índice de pesquisa, reformular opcionalmente a consulta, obter as correspondências, ordená-las (reranking) e transmitir as melhores ao modelo de linguagem. É a base de qualquer aplicação RAG, e a sua qualidade determina em grande medida a qualidade das respostas obtidas.

RAG
pesquisa
+1

Recuperação de informação

A recuperação de informação abrange métodos que encontram, num grande corpo de texto, os documentos ou passagens que correspondem a uma consulta e os ordenam por relevância. As abordagens clássicas, como o BM25, ponderam os termos de pesquisa consoante a frequência e a raridade com que ocorrem; as mais recentes acrescentam a semelhança semântica. Está na base dos motores de pesquisa, da pesquisa empresarial e da geração aumentada por recuperação, em que um modelo de linguagem usa as passagens recuperadas como base da sua resposta.

Pesquisa
BM25
+1