Γλωσσάριο

Παραγωγή επαυξημένη με κρυφή μνήμη (CAG)

Τι είναι Παραγωγή επαυξημένη με κρυφή μνήμη (CAG);

Η παραγωγή επαυξημένη με κρυφή μνήμη (CAG) είναι μια προσέγγιση κατά την οποία ένα γλωσσικό μοντέλο δεν αναζητά γνώση σε κάθε ερώτηση. Αντ’ αυτού, μια διαχειρίσιμη βάση γνώσης φορτώνεται εκ των προτέρων στο παράθυρο συμφραζομένων του και η κατάσταση αυτή αποθηκεύεται στην κρυφή μνήμη, ώστε οι απαντήσεις να μη χρειάζονται ξεχωριστό βήμα ανάκτησης. Ο όρος έγινε δημοφιλής από μια ερευνητική εργασία των τελών του 2024 ως εναλλακτική λύση στην παραγωγή επαυξημένη με ανάκτηση (RAG). Η CAG ταιριάζει σε μικρές, σταθερές βάσεις γνώσης· για μεγάλα ή συχνά μεταβαλλόμενα δεδομένα, η RAG παραμένει συνήθως πιο πρακτική.

Πώς βοηθά το KI.ordo

Για τη γνώση, το KI.ordo χρησιμοποιεί αναζήτηση λέξεων-κλειδιών BM25 στον διακομιστή και αποθηκεύει στην κρυφή μνήμη επαναλαμβανόμενα τμήματα εντολών με prompt caching, για να μειώσει το κόστος.

Μάθετε περισσότερα

Θέματα

RAG
Παράθυρο συμφραζομένων
Διαχείριση γνώσης

Δοκιμάστε το KI.ordo

Πράκτορες, ροές εργασιών και πρότυπα σε έναν χώρο εργασίας – δωρεάν επίδειξη 24 ωρών.

Έναρξη επίδειξης

← Όλοι οι όροι

Σχετικοί όροι

Παραγωγή με ενίσχυση ανάκτησης (RAG)

Η παραγωγή με ενίσχυση ανάκτησης συνδυάζει την αναζήτηση με την παραγωγή κειμένου: πριν απαντήσει, το σύστημα αναζητά σε μια συλλογή γνώσης – όπως εγχειρίδια, πολιτικές ή συχνές ερωτήσεις – σχετικά αποσπάσματα και τα μεταβιβάζει στο γλωσσικό μοντέλο ως πλαίσιο. Έτσι η απάντηση βασίζεται σε επίκαιρο περιεχόμενο ειδικό για την εταιρεία και όχι μόνο στις γνώσεις εκπαίδευσης του μοντέλου. Αυτό μειώνει τους επινοημένους ισχυρισμούς, κάνει τις πηγές ανιχνεύσιμες και επιτρέπει ενημερώσεις χωρίς επανεκπαίδευση.

RAG
αναζήτηση γνώσης
+1

Μεγάλο γλωσσικό μοντέλο (LLM)

Ένα μεγάλο γλωσσικό μοντέλο (large language model, LLM) είναι ένα νευρωνικό δίκτυο εκπαιδευμένο σε πολύ μεγάλους όγκους κειμένου, ώστε να μπορεί να κατανοεί και να παράγει γλώσσα. Λειτουργεί υπολογίζοντας, βήμα προς βήμα, το πιθανότερο επόμενο token. Τα LLM γράφουν, συνοψίζουν, μεταφράζουν, απαντούν σε ερωτήσεις και παράγουν κώδικα· γνωστά παραδείγματα είναι τα Claude, GPT, Gemini και Llama. Χωρίς πρόσβαση σε τρέχουσες πηγές, γνωρίζουν μόνο ό,τι υπήρχε στα δεδομένα εκπαίδευσής τους.

γλωσσικά μοντέλα
παραγωγική ΤΝ
+1

Αγωγός ανάκτησης

Ο αγωγός ανάκτησης (retrieval pipeline) είναι η ακολουθία βημάτων επεξεργασίας που χρησιμοποιεί ένα σύστημα για να βρει τις σωστές πληροφορίες για μια ερώτηση. Τυπικά βήματα είναι: εισαγωγή και καθαρισμός εγγράφων, διαίρεσή τους σε τμήματα (chunks), δημιουργία ευρετηρίου αναζήτησης, προαιρετικά αναδιατύπωση του ερωτήματος, ανάκτηση αντιστοιχιών, κατάταξή τους (reranking) και μεταβίβαση των καλύτερων στο γλωσσικό μοντέλο. Αποτελεί τη βάση κάθε εφαρμογής RAG και η ποιότητά του καθορίζει σε μεγάλο βαθμό πόσο καλές θα είναι οι απαντήσεις.

RAG
αναζήτηση
+1

Ανάκτηση πληροφοριών (information retrieval)

Η ανάκτηση πληροφοριών (information retrieval) καλύπτει μεθόδους που βρίσκουν τα έγγραφα ή τα χωρία ενός μεγάλου σώματος κειμένου που ταιριάζουν σε ένα ερώτημα και τα κατατάσσουν κατά συνάφεια. Κλασικές προσεγγίσεις όπως το BM25 σταθμίζουν τους όρους αναζήτησης ανάλογα με το πόσο συχνά και πόσο σπάνια εμφανίζονται· νεότερες προσθέτουν τη σημασιολογική ομοιότητα. Στηρίζει τις μηχανές αναζήτησης, την επιχειρησιακή αναζήτηση και την παραγωγή με ανάκτηση πληροφοριών (RAG), στην οποία ένα γλωσσικό μοντέλο χρησιμοποιεί τα ανακτημένα χωρία ως βάση για την απάντησή του.

Αναζήτηση
BM25
+1