LV
PieteiktiesSākt tagad
Glosārijs

Halucinācija

Kas ir Halucinācija?

Halucinācija ir MI modeļa izvade, kas izklausās pārliecinoši, bet ir nepareiza vai pilnīgi izdomāta — piemēram, neesošs tiesas spriedums, nepareizs skaitlis vai izdomāts avots. Cēlonis: valodas modeļi rada ticamus formulējumus; tie automātiski nemeklē faktus. Risks samazinās, ja atbildes balstās uz pārbaudītiem avotiem, tiek norādīti pierādījumi un cilvēki pārbauda svarīgus rezultātus.

Kā palīdz KI.ordo

KI.ordo aģenti atbild no jūsu sniegtajām zināšanām, norāda savus avotus un atklāti pasaka, ja kaut ko nezina; veidne „Faktu pārbaude pret savām zināšanām” palīdz pārbaudē — kļūdas tomēr nevar pilnībā izslēgt.

Uzzināt vairāk : Halucinācija

Atbilstošas veidnes

Tēmas

  • Valodas modeļi
  • Uzticamība
  • Risks

Izmēģiniet KI.ordo

Aģenti, plūsmas un veidnes vienā darbvietā – bezmaksas 24 stundu demo.

Sākt demo
← Visi termini

Saistītie termini

Ar izgūšanu papildināta ģenerēšana (RAG)

Ar izgūšanu papildināta ģenerēšana apvieno meklēšanu ar teksta ģenerēšanu: pirms atbildes sniegšanas sistēma zināšanu krājumā — piemēram, rokasgrāmatās, politikās vai BUJ — meklē atbilstošus fragmentus un nodod tos valodas modelim kā kontekstu. Tādējādi atbilde balstās uz aktuālu, uzņēmumam raksturīgu saturu, nevis tikai uz modeļa apmācības zināšanām. Tas samazina izdomātus apgalvojumus, padara avotus izsekojamus un ļauj atjaunināt bez atkārtotas apmācības.

  • RAG
  • zināšanu meklēšana
  • +1

Zināšanu robeža

Zināšanu robeža ir laika punkts, līdz kuram sniedzas valodas modeļa apmācības dati. Modelim nav iedzimtu zināšanu par notikumiem, cenām, likumiem vai produktiem, kas radušies pēc tam, un tas var sniegt novecojušu informāciju, ja netiek apgādāts ar aktuāliem datiem. To var risināt ar metodēm, kas izpildes laikā piesaista jūsu pašu dokumentus vai aktuālu tīmekļa saturu.

  • LLM
  • Aktualitāte
  • +1

Lielais valodas modelis (LLM)

Lielais valodas modelis (LLM) ir neironu tīkls, kas apmācīts ar ļoti lieliem teksta apjomiem, tāpēc spēj saprast un ģenerēt valodu. Tas darbojas, soli pa solim aprēķinot visticamāko nākamo tokenu. LLM raksta, apkopo, tulko, atbild uz jautājumiem un ģenerē kodu; plaši zināmi piemēri ir Claude, GPT, Gemini un Llama. Bez piekļuves aktuāliem avotiem tie zina tikai to, kas bija to apmācības datos.

  • Valodas modeļi
  • Ģeneratīvais MI
  • +1

Cilvēks procesā (human-in-the-loop)

Cilvēks procesā (human-in-the-loop) apraksta darba gaitas, kurās cilvēki iesaistās MI procesā noteiktos punktos: pārbauda rezultātus, apstiprina vai labo tos vai pārņem sarežģītus gadījumus. Princips mazina kļūdainas izvades risku un atstāj atbildību cilvēkiem, īpaši lēmumiem, kas skar atsevišķas personas, naudu vai tiesiskus jautājumus. Piemērs: MI aģents sagatavo atbilžu melnrakstus uz klientu pieprasījumiem, un darbinieks tos pārbauda pirms nosūtīšanas.

  • Apstiprināšana
  • Uzraudzība
  • +1