Γλωσσάριο

Bias

Τι είναι Bias;

Στην ΤΝ, η μεροληψία (bias) αναφέρεται σε μια συστηματική στρέβλωση των αποτελεσμάτων. Συχνά οφείλεται σε μη ισορροπημένα ή ιστορικά στρεβλωμένα δεδομένα εκπαίδευσης, αλλά και στον σχεδιασμό του μοντέλου ή στον τρόπο διατύπωσης μιας ερώτησης. Ένα γνωστό παράδειγμα: ένα εργαλείο διαλογής υποψηφίων που μαθαίνει από παλαιότερες αποφάσεις προσλήψεων μπορεί να διαιωνίσει υπάρχουσες διακρίσεις. Στη στατιστική, ο όρος σημαίνει επίσης την απόκλιση μιας εκτίμησης από την πραγματική τιμή. Τα αντίμετρα περιλαμβάνουν ποικιλόμορφα δεδομένα, τακτικούς ελέγχους και ανθρώπινες αποφάσεις σε θέματα προσωπικού.

Θέματα

  • Ηθική της ΤΝ
  • Fairness
  • Ποιότητα δεδομένων

Δοκιμάστε το KI.ordo

Πράκτορες, ροές εργασιών και πρότυπα σε έναν χώρο εργασίας – δωρεάν επίδειξη 24 ωρών.

Έναρξη επίδειξης
← Όλοι οι όροι

Σχετικοί όροι

Διακρίσεις στην ΤΝ

Διακρίσεις στην ΤΝ υπάρχουν όταν ένα σύστημα ΤΝ μειονεκτεί αδικαιολόγητα άτομα με βάση χαρακτηριστικά όπως το φύλο, η εθνική καταγωγή, η ηλικία ή η αναπηρία. Τα αίτια είναι συνήθως μεροληπτικά δεδομένα εκπαίδευσης, ακατάλληλα χαρακτηριστικά-υποκατάστατα, όπως οι ταχυδρομικοί κωδικοί, ή η έλλειψη δοκιμών· γνωστές περιπτώσεις προέρχονται από την πρόσληψη προσωπικού και τη χορήγηση πιστώσεων. Αντίμετρα είναι αντιπροσωπευτικά δεδομένα, τακτικές δοκιμές δικαιοσύνης, διαφάνεια και ανθρώπινη εποπτεία των αποφάσεων που αφορούν πρόσωπα.

  • δικαιοσύνη
  • μεροληψία
  • +1

Δεδομένα εκπαίδευσης

Τα δεδομένα εκπαίδευσης είναι τα παραδείγματα από τα οποία ένα μοντέλο ΤΝ μαθαίνει πρότυπα: μεγάλες συλλογές κειμένων για γλωσσικά μοντέλα, εικόνες με ετικέτες για μοντέλα εικόνας. Η ποιότητα, η ποικιλία και η επικαιρότητά τους καθορίζουν σε μεγάλο βαθμό πόσο αξιόπιστο και δίκαιο είναι ένα μοντέλο και πόσο ενημερωμένες θα είναι οι γνώσεις του. Για τους οργανισμούς έχει επίσης σημασία αν ένας πάροχος χρησιμοποιεί τα δεδομένα πελατών που εισάγουν για περαιτέρω εκπαίδευση.

  • Δεδομένα
  • Training
  • +1

Ηθική της ΤΝ

Η ηθική της ΤΝ ασχολείται με τα ηθικά ζητήματα γύρω από την ανάπτυξη και τη χρήση της ΤΝ: δικαιοσύνη και διακρίσεις, διαφάνεια και επεξηγησιμότητα, προστασία δεδομένων, ευθύνη για σφάλματα, ασφάλεια και επιπτώσεις στην εργασία και την κοινωνία. Για τους οργανισμούς συγκεκριμενοποιείται σε κατευθυντήριες γραμμές, εκτιμήσεις κινδύνου, ανθρώπινη εποπτεία και ειλικρινή επικοινωνία για τα όρια της ΤΝ. Παράδειγμα: πριν εισαχθεί ένα εργαλείο προσυλλογής βιογραφικών, ελέγχεται αν μειονεκτεί συγκεκριμένες ομάδες.

  • ηθική
  • Αρμοδιότητα
  • +1

Επεξηγησιμότητα

Η επεξηγησιμότητα (εξηγήσιμη ΤΝ, XAI) περιγράφει σε ποιον βαθμό μπορεί κανείς να κατανοήσει γιατί ένα σύστημα ΤΝ κατέληξε σε ένα συγκεκριμένο αποτέλεσμα. Καλύπτει μεθόδους που δείχνουν ποιες είσοδοι επηρέασαν περισσότερο μια απόφαση, καθώς και πρακτικά βοηθήματα όπως οι παραπομπές σε πηγές και τα αρχεία καταγραφής. Η επεξηγησιμότητα έχει σημασία για την εμπιστοσύνη, τον εντοπισμό σφαλμάτων και τη ρύθμιση – για παράδειγμα όταν μια τράπεζα πρέπει να αιτιολογήσει γιατί απορρίφθηκε μια αίτηση.

  • XAI
  • Διαφάνεια
  • +1