RO
AutentificareÎncepeți acum
Glosar

Halucinație

Ce este Halucinație?

O halucinație este un rezultat al unui model IA care sună convingător, dar este greșit sau complet inventat – de exemplu o hotărâre judecătorească inexistentă, o cifră incorectă sau o sursă inventată. Cauza: modelele lingvistice produc formulări probabile; ele nu caută automat fapte. Riscul scade atunci când răspunsurile se bazează pe surse verificate, se citează dovezi, iar oamenii verifică rezultatele importante.

Cum ajută KI.ordo

Agenții KI.ordo răspund pe baza cunoștințelor pe care le furnizați, își citează sursele și spun deschis când nu știu ceva; șablonul „Verifică faptele pe baza propriilor cunoștințe” ajută la verificare – erorile tot nu pot fi excluse complet.

Aflați mai multe : Halucinație

Șabloane potrivite

Subiecte

  • modele lingvistice
  • fiabilitate
  • risc

Încercați KI.ordo

Agenți, fluxuri și șabloane într-un singur spațiu de lucru – demo gratuit de 24 de ore.

Porniți demo-ul
← Toți termenii

Termeni înrudiți

Generare augmentată prin regăsire (RAG)

Generarea augmentată prin regăsire combină căutarea cu generarea de text: înainte de a răspunde, sistemul caută într-o colecție de cunoștințe – de exemplu manuale, regulamente sau FAQ-uri – pasajele relevante și le transmite modelului lingvistic drept context. Răspunsul se bazează astfel pe conținut actual, specific companiei, și nu doar pe cunoștințele de antrenare ale modelului. Aceasta reduce afirmațiile inventate, face sursele verificabile și permite actualizări fără reantrenare.

  • RAG
  • căutare în cunoștințe
  • +1

Data limită a cunoștințelor (knowledge cutoff)

Data limită a cunoștințelor este momentul până la care se întind datele de antrenare ale unui model lingvistic. Modelul nu are cunoștințe proprii despre evenimentele, prețurile, legile sau produsele apărute ulterior și poate da informații depășite dacă nu i se furnizează date actuale. Problema poate fi abordată prin metode care aduc la momentul execuției documente proprii sau conținut web actual.

  • LLM
  • Actualitate
  • +1

Model lingvistic de mari dimensiuni (LLM)

Un model lingvistic de mari dimensiuni (LLM) este o rețea neuronală antrenată pe cantități foarte mari de text, ceea ce îi permite să înțeleagă și să genereze limbaj. Funcționează calculând, pas cu pas, cel mai probabil token următor. LLM-urile scriu, rezumă, traduc, răspund la întrebări și generează cod; exemple cunoscute sunt Claude, GPT, Gemini și Llama. Fără acces la surse actuale, ele știu doar ce se afla în datele lor de antrenare.

  • modele lingvistice
  • IA generativă
  • +1

Human-in-the-Loop

Human-in-the-loop descrie fluxurile de lucru în care oamenii intervin într-un proces IA în puncte definite: verifică rezultatele, le aprobă sau le corectează ori preiau cazurile dificile. Principiul reduce riscul unor rezultate eronate și păstrează răspunderea la nivel uman, mai ales în cazul deciziilor care privesc persoane, bani sau aspecte juridice. Exemplu: un agent IA redactează răspunsuri la solicitările clienților, iar un angajat le verifică înainte de trimitere.

  • aprobare
  • supraveghere
  • +1