Γλωσσάριο

Άνθρωπος στη διαδικασία (human-in-the-loop)

Τι είναι Άνθρωπος στη διαδικασία (human-in-the-loop);

Το human-in-the-loop («άνθρωπος στη διαδικασία») περιγράφει ροές εργασιών στις οποίες άνθρωποι παρεμβαίνουν σε μια διαδικασία ΤΝ σε καθορισμένα σημεία: ελέγχουν τα αποτελέσματα, τα εγκρίνουν ή τα διορθώνουν ή αναλαμβάνουν τις δύσκολες περιπτώσεις. Η αρχή μειώνει τον κίνδυνο εσφαλμένων αποτελεσμάτων και διατηρεί την ευθύνη στους ανθρώπους, ιδίως για αποφάσεις που αφορούν πρόσωπα, χρήματα ή νομικά ζητήματα. Παράδειγμα: ένας πράκτορας ΤΝ συντάσσει απαντήσεις σε αιτήματα πελατών και ένα μέλος του προσωπικού τις ελέγχει πριν σταλούν.

Πώς βοηθά το KI.ordo

Στα έργα του KI.ordo οι πράκτορες παραδίδουν προσχέδια που εγκρίνονται από ανθρώπους, ενώ η συνομιλία ιστότοπου μπορεί να παραδώσει συνομιλίες στην ομάδα μέσω φόρμας επικοινωνίας.

Μάθετε περισσότερα

Θέματα

έγκριση
εποπτεία
λογοδοσία

Δοκιμάστε το KI.ordo

Πράκτορες, ροές εργασιών και πρότυπα σε έναν χώρο εργασίας – δωρεάν επίδειξη 24 ωρών.

Έναρξη επίδειξης

← Όλοι οι όροι

Σχετικοί όροι

Σύστημα αυτοματοποίησης με ΤΝ

Ένα σύστημα αυτοματοποίησης με ΤΝ συνδυάζει την παραδοσιακή αυτοματοποίηση διαδικασιών με δυνατότητες ΤΝ, όπως η κατανόηση κειμένου, η ταξινόμηση ή η υποστήριξη αποφάσεων. Έτσι μπορούν να αυτοματοποιηθούν ροές εργασιών και με αδόμητες εισόδους, όπως email, φόρμες ή αιτήματα. Μια τυπική διάταξη είναι μια αλυσίδα από έναυσμα, βήματα επεξεργασίας, συνθήκες και έξοδο, με ανθρώπινη έγκριση σε κρίσιμα σημεία. Παράδειγμα: τα εισερχόμενα αιτήματα κατηγοριοποιούνται αυτόματα, συνοψίζονται και προωθούνται στο σωστό τμήμα.

Αυτοματοποίηση
Διαδικασίες
+1

Ευφυείς πράκτορες

Ένας ευφυής πράκτορας είναι ένα σύστημα που αντιλαμβάνεται το περιβάλλον του, επεξεργάζεται πληροφορίες και επιλέγει μόνο του ενέργειες για να επιτύχει έναν στόχο. Σήμερα ο όρος αναφέρεται συνήθως σε λογισμικό βασισμένο σε μεγάλα γλωσσικά μοντέλα, το οποίο ακολουθεί οδηγίες, αντλεί από γνώση και καλεί εργαλεία, όπως μια λειτουργία αναζήτησης ή ένα API. Το πόσα μπορεί να κάνει ένας πράκτορας αυτόνομα πρέπει να αποφασίζεται συνειδητά. Παράδειγμα: ένας πράκτορας απαντά σε ερωτήσεις πελατών με βάση την τεκμηρίωση του προϊόντος.

πράκτορες
αυτονομία
+1

Ενισχυτική μάθηση από ανθρώπινη ανατροφοδότηση (RLHF)

Το RLHF είναι μια μέθοδος εκπαίδευσης που κάνει τα γλωσσικά μοντέλα πιο χρήσιμα και πιο ασφαλή. Άνθρωποι συγκρίνουν και βαθμολογούν περισσότερες απαντήσεις του μοντέλου· αυτές οι κρίσεις χρησιμοποιούνται για την εκπαίδευση ενός μοντέλου ανταμοιβής, το οποίο στη συνέχεια εκπαιδεύει περαιτέρω το ίδιο το γλωσσικό μοντέλο μέσω ενισχυτικής μάθησης. Έτσι διδάσκεται, για παράδειγμα, να απαντά πιο σαφώς ή να αρνείται προβληματικά αιτήματα. Το RLHF πραγματοποιείται στον πάροχο του μοντέλου πριν από την κυκλοφορία του – όχι με μεμονωμένους χρήστες.

εκπαίδευση
ανθρώπινη ανατροφοδότηση
+1

Παραισθήσεις (hallucination)

Μια παραίσθηση (hallucination) είναι ένα αποτέλεσμα ενός μοντέλου ΤΝ που ακούγεται πειστικό αλλά είναι λανθασμένο ή εντελώς επινοημένο – όπως μια ανύπαρκτη δικαστική απόφαση, ένα λανθασμένο στοιχείο ή μια επινοημένη πηγή. Η αιτία: τα γλωσσικά μοντέλα παράγουν πιθανές διατυπώσεις· δεν αναζητούν αυτόματα γεγονότα. Ο κίνδυνος μειώνεται όταν οι απαντήσεις βασίζονται σε επαληθευμένες πηγές, παρατίθενται τεκμήρια και άνθρωποι ελέγχουν τα σημαντικά αποτελέσματα.

γλωσσικά μοντέλα
αξιοπιστία
+1

Πρότυπο