SL
PrijavaZačnite zdaj
Slovar pojmov

Halucinacija

Kaj je Halucinacija?

Halucinacija je izpis modela UI, ki zveni prepričljivo, a je napačen ali popolnoma izmišljen – na primer neobstoječa sodba, napačna številka ali izmišljen vir. Vzrok: jezikovni modeli ustvarjajo verjetna besedila, dejstev pa samodejno ne iščejo. Tveganje se zmanjša, kadar odgovori temeljijo na preverjenih virih, so dokazi navedeni in ljudje preverijo pomembne rezultate.

Kako pomaga KI.ordo

Agenti KI.ordo odgovarjajo na podlagi znanja, ki ga zagotovite, navajajo svoje vire in odkrito povedo, kadar nečesa ne vedo; predloga „Preveri dejstva z lastnim znanjem“ pomaga pri preverjanju – napak kljub temu ni mogoče popolnoma izključiti.

Več o tem : Halucinacija

Ustrezne predloge

Teme

  • Jezikovni modeli
  • zanesljivost
  • tveganje

Preizkusite KI.ordo

Agenti, poteki dela in predloge v enem delovnem prostoru – brezplačna 24-urna predstavitev.

Začni predstavitev
← Vsi pojmi

Sorodni pojmi

Generiranje z obogatenim priklicem (RAG)

Generiranje z obogatenim priklicem združuje iskanje z generiranjem besedil: preden sistem odgovori, v zbirki znanja – na primer priročnikih, pravilnikih ali pogostih vprašanjih – poišče ustrezne odlomke in jih kot kontekst poda jezikovnemu modelu. Odgovor tako temelji na aktualnih vsebinah podjetja in ne le na znanju modela iz učenja. To zmanjša izmišljene trditve, omogoči sledljivost virov in posodobitve brez ponovnega učenja.

  • RAG
  • iskanje po znanju
  • +1

Datum zaključka znanja

Datum zaključka znanja je trenutek, do katerega segajo podatki za učenje jezikovnega modela. Model nima lastnega znanja o dogodkih, cenah, zakonih ali izdelkih, ki so nastali pozneje, in lahko poda zastarele informacije, razen če mu dobavimo aktualne podatke. Temu se je mogoče izogniti z metodami, ki med delovanjem vključijo lastne dokumente ali aktualne spletne vsebine.

  • LLM
  • Aktualnost
  • +1

Veliki jezikovni model (LLM)

Veliki jezikovni model (large language model, LLM) je nevronska mreža, naučena na zelo velikih količinah besedil, kar ji omogoča razumevanje in ustvarjanje jezika. Deluje tako, da korak za korakom izračunava najverjetnejši naslednji token. LLM-ji pišejo, povzemajo, prevajajo, odgovarjajo na vprašanja in ustvarjajo kodo; znani primeri so Claude, GPT, Gemini in Llama. Brez dostopa do aktualnih virov poznajo le tisto, kar je bilo v njihovih učnih podatkih.

  • Jezikovni modeli
  • Generativna UI
  • +1

Človek v zanki

Človek v zanki (human-in-the-loop) opisuje poteke dela, pri katerih ljudje na določenih točkah vstopijo v proces UI: pregledajo rezultate, jih odobrijo ali popravijo ali prevzamejo težke primere. Načelo zmanjšuje tveganje napačnih izpisov in odgovornost ohranja pri ljudeh, zlasti pri odločitvah, ki zadevajo posameznike, denar ali pravne zadeve. Primer: agent UI pripravi osnutke odgovorov na povpraševanja strank, sodelavec pa jih pred pošiljanjem preveri.

  • Odobritev
  • Nadzor
  • +1