DA
Log indKom i gang
Ordliste

Hallucination

Hvad er Hallucination?

En hallucination er output fra en AI-model, der lyder overbevisende, men er forkert eller helt opdigtet – f.eks. en ikke-eksisterende retsafgørelse, et forkert tal eller en opfundet kilde. Årsagen: Sprogmodeller frembringer sandsynlige formuleringer; de slår ikke automatisk fakta op. Risikoen falder, når svarene bygger på verificerede kilder, dokumentation angives, og mennesker kontrollerer vigtige resultater.

Sådan hjælper KI.ordo

KI.ordo-agenter svarer ud fra den viden, du stiller til rådighed, angiver deres kilder og siger åbent, når de ikke ved noget; skabelonen 'Faktatjek mod din egen viden' hjælper med verificering – fejl kan stadig ikke udelukkes helt.

Læs mere : Hallucination

Matchende skabeloner

Emner

  • Sprogmodeller
  • Pålidelighed
  • Risiko

Prøv KI.ordo

Agenter, flows og skabeloner i ét arbejdsområde – gratis demo i 24 timer.

Start demo
← Alle begreber

Relaterede begreber

Retrieval-augmented generation (RAG)

Retrieval-augmented generation kombinerer søgning med tekstgenerering: før svaret søger systemet i en vidensamling – f.eks. manualer, politikker eller FAQ'er – efter relevante passager og giver dem til sprogmodellen som kontekst. Svaret bygger dermed på aktuelt, virksomhedsspecifikt indhold og ikke kun på modellens træningsviden. Det reducerer opfundne udsagn, gør kilder sporbare og muliggør opdateringer uden gentræning.

  • RAG
  • vidensøgning
  • +1

Knowledge cutoff

Knowledge cutoff er det tidspunkt, hvortil en sprogmodels træningsdata rækker. Modellen har ingen iboende viden om begivenheder, priser, love eller produkter, der er kommet til senere, og kan give forældede oplysninger, medmindre den får tilført aktuelle data. Det kan imødegås med metoder, der inddrager egne dokumenter eller aktuelt webindhold under kørslen.

  • LLM
  • aktualitet
  • +1

Stor sprogmodel (LLM)

En stor sprogmodel (large language model, LLM) er et neuralt netværk, der er trænet på meget store tekstmængder, så det kan forstå og generere sprog. Den fungerer ved trin for trin at beregne det mest sandsynlige næste token. LLM'er skriver, opsummerer, oversætter, besvarer spørgsmål og genererer kode; kendte eksempler er Claude, GPT, Gemini og Llama. Uden adgang til aktuelle kilder ved de kun det, der stod i deres træningsdata.

  • Sprogmodeller
  • Generativ AI
  • +1

Human-in-the-loop

Human-in-the-loop beskriver arbejdsgange, hvor mennesker træder ind i en AI-proces på bestemte punkter: De gennemgår resultater, godkender eller retter dem eller overtager vanskelige sager. Princippet mindsker risikoen for fejlbehæftet output og lader ansvaret ligge hos mennesker, især ved beslutninger, der berører enkeltpersoner, penge eller juridiske forhold. Eksempel: En AI-agent udarbejder udkast til svar på kundehenvendelser, og en medarbejder gennemgår dem, før de sendes.

  • Godkendelse
  • Tilsyn
  • +1