LT
PrisijungtiPradėti
Terminų žodynas

Haliucinacija

Kas yra Haliucinacija?

Haliucinacija – tai DI modelio rezultatas, kuris skamba įtikinamai, bet yra klaidingas arba visiškai išgalvotas – pavyzdžiui, neegzistuojantis teismo sprendimas, neteisingas skaičius ar išgalvotas šaltinis. Priežastis: kalbos modeliai kuria tikėtinas formuluotes, o ne automatiškai ieško faktų. Rizika mažėja, kai atsakymai grindžiami patikrintais šaltiniais, nurodomi įrodymai, o svarbius rezultatus tikrina žmonės.

Kaip padeda KI.ordo

KI.ordo agentai atsako remdamiesi jūsų pateiktomis žiniomis, nurodo šaltinius ir atvirai sako, kai kažko nežino; šablonas „Patikrinti faktus pagal savo žinias“ padeda tikrinti – klaidų vis tiek negalima visiškai atmesti.

Sužinoti daugiau : Haliucinacija

Tinkami šablonai

Temos

  • kalbos modeliai
  • patikimumas
  • rizika

Išbandykite KI.ordo

Agentai, srautai ir šablonai vienoje darbo srityje – nemokama 24 valandų demonstracinė versija.

Pradėti demonstraciją
← Visi terminai

Susiję terminai

Papildyta paieškos generacija (RAG)

Papildyta paieškos generacija (angl. retrieval-augmented generation) sujungia paiešką su tekstų generavimu: prieš atsakydama sistema žinių rinkinyje – pavyzdžiui, instrukcijose, taisyklėse ar DUK – ieško svarbių ištraukų ir perduoda jas kalbos modeliui kaip kontekstą. Todėl atsakymas remiasi aktualiu, įmonei specifiniu turiniu, o ne tik modelio mokymo žiniomis. Tai sumažina išgalvotus teiginius, leidžia atsekti šaltinius ir atnaujinti turinį be permokymo.

  • RAG
  • žinių paieška
  • +1

Žinių riba

Žinių riba (angl. knowledge cutoff) – laiko momentas, iki kurio apima kalbos modelio mokymo duomenys. Modelis neturi įgimtų žinių apie įvykius, kainas, įstatymus ar produktus, atsiradusius vėliau, ir, jei negauna naujausių duomenų, gali pateikti pasenusią informaciją. Tai galima spręsti metodais, kurie vykdymo metu pasitelkia jūsų dokumentus ar naujausią interneto turinį.

  • LLM
  • Aktualumas
  • +1

Didysis kalbos modelis (LLM)

Didysis kalbos modelis (angl. large language model, LLM) – tai neuroninis tinklas, apmokytas su labai dideliais teksto kiekiais, todėl gebantis suprasti ir generuoti kalbą. Jis veikia žingsnis po žingsnio skaičiuodamas labiausiai tikėtiną kitą tokeną. LLM rašo, apibendrina, verčia, atsako į klausimus ir generuoja kodą; gerai žinomi pavyzdžiai – „Claude“, GPT, „Gemini“ ir „Llama“. Neturėdami prieigos prie aktualių šaltinių, jie žino tik tai, kas buvo jų mokymo duomenyse.

  • kalbos modeliai
  • generatyvinis DI
  • +1

Žmogus procese (human-in-the-loop)

Žmogus procese (angl. human-in-the-loop) apibūdina darbo eigas, kuriose žmonės įsitraukia į DI procesą apibrėžtose vietose: peržiūri rezultatus, juos patvirtina ar ištaiso arba perima sudėtingus atvejus. Šis principas mažina klaidingų rezultatų riziką ir palieka atsakomybę žmonėms, ypač kai sprendimai liečia asmenis, pinigus ar teisinius dalykus. Pavyzdys: DI agentas rengia atsakymų į klientų užklausas juodraščius, o darbuotojas juos patikrina prieš išsiunčiant.

  • patvirtinimas
  • priežiūra
  • +1