Glossarju

Ġenerazzjoni miżjuda bil-cache (CAG)

X'inhu Ġenerazzjoni miżjuda bil-cache (CAG)?

Il-ġenerazzjoni miżjuda bil-cache (CAG) hija approċċ li fih mudell tal-lingwa ma jfittix l-għarfien ma' kull mistoqsija. Minflok, bażi ta' għarfien maniġġabbli titgħabba minn qabel fit-tieqa tal-kuntest tiegħu u dak l-istat jinħażen fil-cache, u għalhekk it-tweġibiet ma jeħtieġu l-ebda pass separat ta' rkupru. It-terminu sar popolari permezz ta' dokument ta' riċerka tal-aħħar tal-2024 bħala alternattiva għall-ġenerazzjoni miżjuda bl-irkupru (RAG). Is-CAG jaqbel għal bażijiet ta' għarfien żgħar u stabbli; għal data kbira jew li tinbidel spiss, ir-RAG normalment jibqa' aktar prattiku.

Kif jgħin KI.ordo

Għall-għarfien, KI.ordo juża t-tfittxija bil-kliem ewlieni BM25 fuq is-server u jaħżen fil-cache il-komponenti rikorrenti tal-prompts bil-prompt caching biex inaqqas l-ispejjeż.

Sir af aktar : Ġenerazzjoni miżjuda bil-cache (CAG)

Suġġetti

  • RAG
  • Tieqa tal-kuntest
  • Ġestjoni tal-għarfien

Ipprova KI.ordo

Aġenti, flussi tax-xogħol u mudelli fi spazju tax-xogħol wieħed – demo b'xejn għal 24 siegħa.

Ibda d-demo
← It-termini kollha

Termini relatati

Ġenerazzjoni msaħħa bl-irkupru (RAG)

Il-ġenerazzjoni msaħħa bl-irkupru (Retrieval-augmented generation) tgħaqqad it-tfittxija mal-ġenerazzjoni tat-test: qabel ma twieġeb, is-sistema tfittex f'kollezzjoni ta' għarfien – bħal manwali, politiki jew FAQs – għal siltiet rilevanti u tgħaddihom lill-mudell lingwistiku bħala kuntest. It-tweġiba għalhekk tkun ibbażata fuq kontenut kurrenti u speċifiku għall-kumpanija minflok biss fuq l-għarfien tat-taħriġ tal-mudell. Dan inaqqas dikjarazzjonijiet mivvintati, jagħmel is-sorsi traċċabbli u jippermetti aġġornamenti mingħajr taħriġ mill-ġdid.

  • RAG
  • tfittxija tal-għarfien
  • +1

Mudell lingwistiku kbir (LLM)

Mudell lingwistiku kbir (LLM) huwa netwerk newrali mħarreġ fuq kwantitajiet kbar ħafna ta' test, li jippermettilu jifhem u jiġġenera lingwa. Jaħdem billi jikkalkula pass pass l-aktar token probabbli li jmiss. L-LLMs jiktbu, jagħmlu sommarji, jittraduċu, iwieġbu mistoqsijiet u jiġġeneraw kodiċi; eżempji magħrufa jinkludu Claude, GPT, Gemini u Llama. Mingħajr aċċess għal sorsi kurrenti, jafu biss dak li kien fid-data tat-taħriġ tagħhom.

  • Mudelli lingwistiċi
  • IA ġenerattiva
  • +1

Pipeline tal-irkupru

Pipeline tal-irkupru hija s-sekwenza ta' passi ta' proċessar li sistema tuża biex issib l-informazzjoni t-tajba għal mistoqsija. Passi tipiċi huma: l-assorbiment u t-tindif tad-dokumenti, it-tqassim tagħhom f'biċċiet, il-bini ta' indiċi tat-tfittxija, ir-riformulazzjoni tal-mistoqsija jekk jinħtieġ, l-irkupru tat-tqabbil, l-issortjar tagħhom (reranking) u l-għoti tal-aħjar waħda lill-mudell lingwistiku. Hija l-pedament ta' kull applikazzjoni RAG, u l-kwalità tagħha tiddetermina ħafna kemm jkunu tajbin it-tweġibiet li jirriżultaw.

  • RAG
  • tiftix
  • +1

Irkupru tal-informazzjoni

L-irkupru tal-informazzjoni jkopri metodi li jsibu d-dokumenti jew is-siltiet f'korpus kbir ta' test li jaqblu ma' mistoqsija u jirrankawhom skont ir-rilevanza. Approċċi klassiċi bħal BM25 jippiżaw it-termini tat-tiftix skont kemm-il darba u kemm rarament jidhru; l-aktar ġodda jżidu s-similarità semantika. Huwa l-bażi tal-magni tat-tiftix, tat-tiftix intraprenditorjali u tal-ġenerazzjoni msaħħa bl-irkupru, li fiha mudell lingwistiku juża s-siltiet irkuprati bħala bażi għat-tweġiba tiegħu.

  • Tiftix
  • BM25
  • +1