Γλωσσάριο

Διάνυσμα ενσωμάτωσης (embedding)

Τι είναι Διάνυσμα ενσωμάτωσης (embedding);

Ένα διάνυσμα ενσωμάτωσης (embedding) είναι μια λίστα αριθμών που αναπαριστά το νόημα μιας λέξης, μιας πρότασης ή ενός εγγράφου, έτσι ώστε κείμενα με παρόμοιο περιεχόμενο να βρίσκονται κοντά. Έτσι μπορεί να αναγνωριστεί, για παράδειγμα, ότι οι λέξεις «ακύρωση» και «λύση της σύμβασης» σχετίζονται, παρότι δεν έχουν κοινές λέξεις. Τα embeddings στηρίζουν πολλά συστήματα σημασιολογικής αναζήτησης, υπηρεσίες συστάσεων και εφαρμογές RAG· υπολογίζονται από ειδικά εκπαιδευμένα μοντέλα.

Πώς βοηθά το KI.ordo

Το KI.ordo δεν χρησιμοποιεί embeddings για την αναζήτηση γνώσης αλλά την αναζήτηση λέξεων-κλειδιών BM25, που εκτελείται απευθείας στον διακομιστή.

Θέματα

διάνυσμα
σημασιολογική αναζήτηση
NLP

Δοκιμάστε το KI.ordo

Πράκτορες, ροές εργασιών και πρότυπα σε έναν χώρο εργασίας – δωρεάν επίδειξη 24 ωρών.

Έναρξη επίδειξης

← Όλοι οι όροι

Σχετικοί όροι

Word embeddings

Τα word embeddings αναπαριστούν λέξεις ως αριθμητικά διανύσματα, ώστε λέξεις με παρόμοιο νόημα να βρίσκονται κοντά στον διανυσματικό χώρο, όπως «αυτοκίνητο» και «όχημα». Μέθοδοι όπως το Word2Vec ή το GloVe μαθαίνουν αυτά τα διανύσματα από μεγάλες ποσότητες κειμένου. Αποτέλεσαν σημαντικό βήμα στην επεξεργασία γλώσσας, για παράδειγμα για αναζήτηση ή ταξινόμηση· τα σημερινά γλωσσικά μοντέλα χρησιμοποιούν συμφραζόμενα embeddings, στα οποία μια λέξη αναπαρίσταται διαφορετικά ανάλογα με την πρόταση.

NLP
διανύσματα
+1

Παραγωγή με ενίσχυση ανάκτησης (RAG)

Η παραγωγή με ενίσχυση ανάκτησης συνδυάζει την αναζήτηση με την παραγωγή κειμένου: πριν απαντήσει, το σύστημα αναζητά σε μια συλλογή γνώσης – όπως εγχειρίδια, πολιτικές ή συχνές ερωτήσεις – σχετικά αποσπάσματα και τα μεταβιβάζει στο γλωσσικό μοντέλο ως πλαίσιο. Έτσι η απάντηση βασίζεται σε επίκαιρο περιεχόμενο ειδικό για την εταιρεία και όχι μόνο στις γνώσεις εκπαίδευσης του μοντέλου. Αυτό μειώνει τους επινοημένους ισχυρισμούς, κάνει τις πηγές ανιχνεύσιμες και επιτρέπει ενημερώσεις χωρίς επανεκπαίδευση.

RAG
αναζήτηση γνώσης
+1

Ανάκτηση πληροφοριών (information retrieval)

Η ανάκτηση πληροφοριών (information retrieval) καλύπτει μεθόδους που βρίσκουν τα έγγραφα ή τα χωρία ενός μεγάλου σώματος κειμένου που ταιριάζουν σε ένα ερώτημα και τα κατατάσσουν κατά συνάφεια. Κλασικές προσεγγίσεις όπως το BM25 σταθμίζουν τους όρους αναζήτησης ανάλογα με το πόσο συχνά και πόσο σπάνια εμφανίζονται· νεότερες προσθέτουν τη σημασιολογική ομοιότητα. Στηρίζει τις μηχανές αναζήτησης, την επιχειρησιακή αναζήτηση και την παραγωγή με ανάκτηση πληροφοριών (RAG), στην οποία ένα γλωσσικό μοντέλο χρησιμοποιεί τα ανακτημένα χωρία ως βάση για την απάντησή του.

Αναζήτηση
BM25
+1

Transformer

Ο transformer είναι μια αρχιτεκτονική νευρωνικών δικτύων που παρουσιάστηκε το 2017 στην ερευνητική εργασία «Attention Is All You Need». Στον πυρήνα της βρίσκεται ο μηχανισμός προσοχής: κάθε λέξη σταθμίζεται σε σχέση με όλες τις άλλες λέξεις ενός κειμένου και ο υπολογισμός μπορεί να παραλληλιστεί αποτελεσματικά. Οι transformers αποτελούν τη βάση των σημερινών γλωσσικών μοντέλων όπως τα GPT, Claude και BERT και χρησιμοποιούνται επίσης για εικόνες και ήχο.

Αρχιτεκτονική
Βαθιά μάθηση
+1