HR
PrijavaZapočnite odmah
Pojmovnik

Halucinacija

Što je Halucinacija?

Halucinacija je izlaz UI modela koji zvuči uvjerljivo, ali je pogrešan ili potpuno izmišljen – primjerice nepostojeća sudska odluka, netočna brojka ili izmišljen izvor. Uzrok: jezični modeli stvaraju vjerojatne formulacije, a ne provjeravaju automatski činjenice. Rizik se smanjuje kada se odgovori temelje na provjerenim izvorima, navode se dokazi, a ljudi provjeravaju važne rezultate.

Kako KI.ordo pomaže

Agenti u KI.ordo odgovaraju iz znanja koje im dodijelite, navode svoje izvore i otvoreno kažu kada nešto ne znaju; predložak „Provjeri činjenice prema vlastitom znanju” pomaže pri provjeri – pogreške se ipak ne mogu u potpunosti isključiti.

Saznajte više : Halucinacija

Odgovarajući predlošci

Teme

  • Jezični modeli
  • Pouzdanost
  • Rizik

Isprobajte KI.ordo

Agenti, tijekovi rada i predlošci u jednom radnom prostoru – besplatna demo verzija na 24 sata.

Pokrenite demo
← Svi pojmovi

Srodni pojmovi

Generiranje potpomognuto dohvaćanjem (RAG)

Generiranje potpomognuto dohvaćanjem povezuje pretraživanje i generiranje teksta: prije odgovaranja sustav u zbirci znanja – primjerice priručnicima, pravilnicima ili čestim pitanjima – traži relevantne odlomke i prosljeđuje ih jezičnom modelu kao kontekst. Odgovor se tako temelji na aktualnom sadržaju specifičnom za tvrtku, a ne samo na znanju stečenom treniranjem modela. To smanjuje izmišljene tvrdnje, omogućuje praćenje izvora i dopušta ažuriranja bez ponovnog treniranja.

  • RAG
  • pretraživanje znanja
  • +1

Granica znanja (knowledge cutoff)

Granica znanja je vremenska točka do koje sežu podaci za učenje jezičnog modela. Model nema vlastito znanje o događajima, cijenama, zakonima ili proizvodima koji su nastali nakon toga i može davati zastarjele informacije ako mu se ne dostave aktualni podaci. To se može riješiti metodama koje u vrijeme izvođenja uključuju vlastite dokumente ili aktualne web-sadržaje.

  • LLM
  • Ažurnost
  • +1

Veliki jezični model (LLM)

Veliki jezični model (LLM) neuronska je mreža trenirana na vrlo velikim količinama teksta, zahvaljujući čemu može razumjeti i generirati jezik. Radi tako da korak po korak izračunava najvjerojatniji sljedeći token. LLM-ovi pišu, sažimaju, prevode, odgovaraju na pitanja i generiraju kod; poznati primjeri su Claude, GPT, Gemini i Llama. Bez pristupa aktualnim izvorima znaju samo ono što je bilo u njihovim podacima za treniranje.

  • Jezični modeli
  • Generativna UI
  • +1

Čovjek u petlji (human-in-the-loop)

Čovjek u petlji (human-in-the-loop) opisuje tijekove rada u kojima ljudi na definiranim točkama ulaze u UI proces: pregledavaju rezultate, odobravaju ih ili ispravljaju, ili preuzimaju zahtjevne slučajeve. Načelo smanjuje rizik od pogrešnih izlaza i zadržava odgovornost kod ljudi, osobito kod odluka koje se tiču pojedinaca, novca ili pravnih pitanja. Primjer: UI agent izrađuje nacrte odgovora na upite klijenata, a djelatnik ih provjerava prije slanja.

  • Odobrenje
  • Nadzor
  • +1