Γλωσσάριο

Διακρίσεις στην ΤΝ

Τι είναι Διακρίσεις στην ΤΝ;

Διακρίσεις στην ΤΝ υπάρχουν όταν ένα σύστημα ΤΝ μειονεκτεί αδικαιολόγητα άτομα με βάση χαρακτηριστικά όπως το φύλο, η εθνική καταγωγή, η ηλικία ή η αναπηρία. Τα αίτια είναι συνήθως μεροληπτικά δεδομένα εκπαίδευσης, ακατάλληλα χαρακτηριστικά-υποκατάστατα, όπως οι ταχυδρομικοί κωδικοί, ή η έλλειψη δοκιμών· γνωστές περιπτώσεις προέρχονται από την πρόσληψη προσωπικού και τη χορήγηση πιστώσεων. Αντίμετρα είναι αντιπροσωπευτικά δεδομένα, τακτικές δοκιμές δικαιοσύνης, διαφάνεια και ανθρώπινη εποπτεία των αποφάσεων που αφορούν πρόσωπα.

Πώς βοηθά το KI.ordo

Στα έργα του KI.ordo οι πράκτορες παραδίδουν προσχέδια, τα οποία άνθρωποι ελέγχουν και εγκρίνουν.

Θέματα

δικαιοσύνη
μεροληψία
Ηθική της ΤΝ

Δοκιμάστε το KI.ordo

Πράκτορες, ροές εργασιών και πρότυπα σε έναν χώρο εργασίας – δωρεάν επίδειξη 24 ωρών.

Έναρξη επίδειξης

← Όλοι οι όροι

Σχετικοί όροι

Bias

Στην ΤΝ, η μεροληψία (bias) αναφέρεται σε μια συστηματική στρέβλωση των αποτελεσμάτων. Συχνά οφείλεται σε μη ισορροπημένα ή ιστορικά στρεβλωμένα δεδομένα εκπαίδευσης, αλλά και στον σχεδιασμό του μοντέλου ή στον τρόπο διατύπωσης μιας ερώτησης. Ένα γνωστό παράδειγμα: ένα εργαλείο διαλογής υποψηφίων που μαθαίνει από παλαιότερες αποφάσεις προσλήψεων μπορεί να διαιωνίσει υπάρχουσες διακρίσεις. Στη στατιστική, ο όρος σημαίνει επίσης την απόκλιση μιας εκτίμησης από την πραγματική τιμή. Τα αντίμετρα περιλαμβάνουν ποικιλόμορφα δεδομένα, τακτικούς ελέγχους και ανθρώπινες αποφάσεις σε θέματα προσωπικού.

Ηθική της ΤΝ
Fairness
+1

Ηθική της ΤΝ

Η ηθική της ΤΝ ασχολείται με τα ηθικά ζητήματα γύρω από την ανάπτυξη και τη χρήση της ΤΝ: δικαιοσύνη και διακρίσεις, διαφάνεια και επεξηγησιμότητα, προστασία δεδομένων, ευθύνη για σφάλματα, ασφάλεια και επιπτώσεις στην εργασία και την κοινωνία. Για τους οργανισμούς συγκεκριμενοποιείται σε κατευθυντήριες γραμμές, εκτιμήσεις κινδύνου, ανθρώπινη εποπτεία και ειλικρινή επικοινωνία για τα όρια της ΤΝ. Παράδειγμα: πριν εισαχθεί ένα εργαλείο προσυλλογής βιογραφικών, ελέγχεται αν μειονεκτεί συγκεκριμένες ομάδες.

ηθική
Αρμοδιότητα
+1

Επεξηγησιμότητα

Η επεξηγησιμότητα (εξηγήσιμη ΤΝ, XAI) περιγράφει σε ποιον βαθμό μπορεί κανείς να κατανοήσει γιατί ένα σύστημα ΤΝ κατέληξε σε ένα συγκεκριμένο αποτέλεσμα. Καλύπτει μεθόδους που δείχνουν ποιες είσοδοι επηρέασαν περισσότερο μια απόφαση, καθώς και πρακτικά βοηθήματα όπως οι παραπομπές σε πηγές και τα αρχεία καταγραφής. Η επεξηγησιμότητα έχει σημασία για την εμπιστοσύνη, τον εντοπισμό σφαλμάτων και τη ρύθμιση – για παράδειγμα όταν μια τράπεζα πρέπει να αιτιολογήσει γιατί απορρίφθηκε μια αίτηση.

XAI
Διαφάνεια
+1

Άνθρωπος στη διαδικασία (human-in-the-loop)

Το human-in-the-loop («άνθρωπος στη διαδικασία») περιγράφει ροές εργασιών στις οποίες άνθρωποι παρεμβαίνουν σε μια διαδικασία ΤΝ σε καθορισμένα σημεία: ελέγχουν τα αποτελέσματα, τα εγκρίνουν ή τα διορθώνουν ή αναλαμβάνουν τις δύσκολες περιπτώσεις. Η αρχή μειώνει τον κίνδυνο εσφαλμένων αποτελεσμάτων και διατηρεί την ευθύνη στους ανθρώπους, ιδίως για αποφάσεις που αφορούν πρόσωπα, χρήματα ή νομικά ζητήματα. Παράδειγμα: ένας πράκτορας ΤΝ συντάσσει απαντήσεις σε αιτήματα πελατών και ένα μέλος του προσωπικού τις ελέγχει πριν σταλούν.

έγκριση
εποπτεία
+1