EL
ΣύνδεσηΞεκινήστε τώρα
Γλωσσάριο

Παραισθήσεις (hallucination)

Τι είναι Παραισθήσεις (hallucination);

Μια παραίσθηση (hallucination) είναι ένα αποτέλεσμα ενός μοντέλου ΤΝ που ακούγεται πειστικό αλλά είναι λανθασμένο ή εντελώς επινοημένο – όπως μια ανύπαρκτη δικαστική απόφαση, ένα λανθασμένο στοιχείο ή μια επινοημένη πηγή. Η αιτία: τα γλωσσικά μοντέλα παράγουν πιθανές διατυπώσεις· δεν αναζητούν αυτόματα γεγονότα. Ο κίνδυνος μειώνεται όταν οι απαντήσεις βασίζονται σε επαληθευμένες πηγές, παρατίθενται τεκμήρια και άνθρωποι ελέγχουν τα σημαντικά αποτελέσματα.

Πώς βοηθά το KI.ordo

Οι πράκτορες του KI.ordo απαντούν από τη γνώση που παρέχετε, παραθέτουν τις πηγές τους και δηλώνουν ανοιχτά όταν δεν γνωρίζουν κάτι· το πρότυπο «Έλεγχος γεγονότων με βάση τη δική σας γνώση» βοηθά στην επαλήθευση – τα σφάλματα εξακολουθούν να μην αποκλείονται εντελώς.

Μάθετε περισσότερα : Παραισθήσεις (hallucination)

Σχετικά πρότυπα

Θέματα

  • γλωσσικά μοντέλα
  • αξιοπιστία
  • κίνδυνος

Δοκιμάστε το KI.ordo

Πράκτορες, ροές εργασιών και πρότυπα σε έναν χώρο εργασίας – δωρεάν επίδειξη 24 ωρών.

Έναρξη επίδειξης
← Όλοι οι όροι

Σχετικοί όροι

Παραγωγή με ενίσχυση ανάκτησης (RAG)

Η παραγωγή με ενίσχυση ανάκτησης συνδυάζει την αναζήτηση με την παραγωγή κειμένου: πριν απαντήσει, το σύστημα αναζητά σε μια συλλογή γνώσης – όπως εγχειρίδια, πολιτικές ή συχνές ερωτήσεις – σχετικά αποσπάσματα και τα μεταβιβάζει στο γλωσσικό μοντέλο ως πλαίσιο. Έτσι η απάντηση βασίζεται σε επίκαιρο περιεχόμενο ειδικό για την εταιρεία και όχι μόνο στις γνώσεις εκπαίδευσης του μοντέλου. Αυτό μειώνει τους επινοημένους ισχυρισμούς, κάνει τις πηγές ανιχνεύσιμες και επιτρέπει ενημερώσεις χωρίς επανεκπαίδευση.

  • RAG
  • αναζήτηση γνώσης
  • +1

Όριο γνώσης

Το όριο γνώσης (knowledge cutoff) είναι το χρονικό σημείο έως το οποίο εκτείνονται τα δεδομένα εκπαίδευσης ενός γλωσσικού μοντέλου. Το μοντέλο δεν έχει εγγενή γνώση για γεγονότα, τιμές, νόμους ή προϊόντα που εμφανίστηκαν αργότερα και μπορεί να δώσει παρωχημένες πληροφορίες, εκτός αν του παρασχεθούν επίκαιρα δεδομένα. Αυτό μπορεί να αντιμετωπιστεί με μεθόδους που φέρνουν δικά σας έγγραφα ή επίκαιρο περιεχόμενο του διαδικτύου κατά τον χρόνο εκτέλεσης.

  • LLM
  • επικαιρότητα
  • +1

Μεγάλο γλωσσικό μοντέλο (LLM)

Ένα μεγάλο γλωσσικό μοντέλο (large language model, LLM) είναι ένα νευρωνικό δίκτυο εκπαιδευμένο σε πολύ μεγάλους όγκους κειμένου, ώστε να μπορεί να κατανοεί και να παράγει γλώσσα. Λειτουργεί υπολογίζοντας, βήμα προς βήμα, το πιθανότερο επόμενο token. Τα LLM γράφουν, συνοψίζουν, μεταφράζουν, απαντούν σε ερωτήσεις και παράγουν κώδικα· γνωστά παραδείγματα είναι τα Claude, GPT, Gemini και Llama. Χωρίς πρόσβαση σε τρέχουσες πηγές, γνωρίζουν μόνο ό,τι υπήρχε στα δεδομένα εκπαίδευσής τους.

  • γλωσσικά μοντέλα
  • παραγωγική ΤΝ
  • +1

Άνθρωπος στη διαδικασία (human-in-the-loop)

Το human-in-the-loop («άνθρωπος στη διαδικασία») περιγράφει ροές εργασιών στις οποίες άνθρωποι παρεμβαίνουν σε μια διαδικασία ΤΝ σε καθορισμένα σημεία: ελέγχουν τα αποτελέσματα, τα εγκρίνουν ή τα διορθώνουν ή αναλαμβάνουν τις δύσκολες περιπτώσεις. Η αρχή μειώνει τον κίνδυνο εσφαλμένων αποτελεσμάτων και διατηρεί την ευθύνη στους ανθρώπους, ιδίως για αποφάσεις που αφορούν πρόσωπα, χρήματα ή νομικά ζητήματα. Παράδειγμα: ένας πράκτορας ΤΝ συντάσσει απαντήσεις σε αιτήματα πελατών και ένα μέλος του προσωπικού τις ελέγχει πριν σταλούν.

  • έγκριση
  • εποπτεία
  • +1