Γλωσσάριο

Ηθική της ΤΝ

Τι είναι Ηθική της ΤΝ;

Η ηθική της ΤΝ ασχολείται με τα ηθικά ζητήματα γύρω από την ανάπτυξη και τη χρήση της ΤΝ: δικαιοσύνη και διακρίσεις, διαφάνεια και επεξηγησιμότητα, προστασία δεδομένων, ευθύνη για σφάλματα, ασφάλεια και επιπτώσεις στην εργασία και την κοινωνία. Για τους οργανισμούς συγκεκριμενοποιείται σε κατευθυντήριες γραμμές, εκτιμήσεις κινδύνου, ανθρώπινη εποπτεία και ειλικρινή επικοινωνία για τα όρια της ΤΝ. Παράδειγμα: πριν εισαχθεί ένα εργαλείο προσυλλογής βιογραφικών, ελέγχεται αν μειονεκτεί συγκεκριμένες ομάδες.

Θέματα

ηθική
Αρμοδιότητα
Fairness

Δοκιμάστε το KI.ordo

Πράκτορες, ροές εργασιών και πρότυπα σε έναν χώρο εργασίας – δωρεάν επίδειξη 24 ωρών.

Έναρξη επίδειξης

← Όλοι οι όροι

Σχετικοί όροι

Bias

Στην ΤΝ, η μεροληψία (bias) αναφέρεται σε μια συστηματική στρέβλωση των αποτελεσμάτων. Συχνά οφείλεται σε μη ισορροπημένα ή ιστορικά στρεβλωμένα δεδομένα εκπαίδευσης, αλλά και στον σχεδιασμό του μοντέλου ή στον τρόπο διατύπωσης μιας ερώτησης. Ένα γνωστό παράδειγμα: ένα εργαλείο διαλογής υποψηφίων που μαθαίνει από παλαιότερες αποφάσεις προσλήψεων μπορεί να διαιωνίσει υπάρχουσες διακρίσεις. Στη στατιστική, ο όρος σημαίνει επίσης την απόκλιση μιας εκτίμησης από την πραγματική τιμή. Τα αντίμετρα περιλαμβάνουν ποικιλόμορφα δεδομένα, τακτικούς ελέγχους και ανθρώπινες αποφάσεις σε θέματα προσωπικού.

Ηθική της ΤΝ
Fairness
+1

Διαφάνεια της ΤΝ

Η διαφάνεια της ΤΝ σημαίνει την αποκάλυψη του πότε εμπλέκεται ΤΝ, σε ποια δεδομένα και πηγές βασίζονται τα αποτελέσματά της και πώς λαμβάνονται οι αποφάσεις. Αυτό περιλαμβάνει την επισήμανση του περιεχομένου ΤΝ, ιχνηλάσιμες παραπομπές σε πηγές, αρχεία καταγραφής και τεκμηριωμένες αλλαγές. Η διαφάνεια χτίζει εμπιστοσύνη, διευκολύνει τον εντοπισμό σφαλμάτων και απαιτείται εν μέρει από τον νόμο, για παράδειγμα από τις υποχρεώσεις διαφάνειας του Κανονισμού της ΕΕ για την ΤΝ, βάσει των οποίων οι άνθρωποι πρέπει να μπορούν να αντιλαμβάνονται ότι αλληλεπιδρούν με ΤΝ.

Διαφάνεια
Εμπιστοσύνη
+1

Επεξηγησιμότητα

Η επεξηγησιμότητα (εξηγήσιμη ΤΝ, XAI) περιγράφει σε ποιον βαθμό μπορεί κανείς να κατανοήσει γιατί ένα σύστημα ΤΝ κατέληξε σε ένα συγκεκριμένο αποτέλεσμα. Καλύπτει μεθόδους που δείχνουν ποιες είσοδοι επηρέασαν περισσότερο μια απόφαση, καθώς και πρακτικά βοηθήματα όπως οι παραπομπές σε πηγές και τα αρχεία καταγραφής. Η επεξηγησιμότητα έχει σημασία για την εμπιστοσύνη, τον εντοπισμό σφαλμάτων και τη ρύθμιση – για παράδειγμα όταν μια τράπεζα πρέπει να αιτιολογήσει γιατί απορρίφθηκε μια αίτηση.

XAI
Διαφάνεια
+1

ΤΝ και ανθρώπινα δικαιώματα

Ο όρος περιγράφει πώς τα συστήματα ΤΝ μπορούν να επηρεάσουν ανθρώπινα δικαιώματα όπως το απόρρητο, την ίση μεταχείριση, την ελευθερία έκφρασης ή τη δίκαιη δίκη, τόσο θετικά όσο και αρνητικά. Κίνδυνοι προκύπτουν, για παράδειγμα, από αποφάσεις με διακρίσεις, μαζική παρακολούθηση, βιομετρική ταυτοποίηση ή έλλειψη μέσων αμφισβήτησης των αποφάσεων. Διεθνή πλαίσια, όπως η Σύμβαση-Πλαίσιο του Συμβουλίου της Ευρώπης για την ΤΝ και ο Κανονισμός της ΕΕ για την ΤΝ, αντιμετωπίζουν αυτά τα ζητήματα. Οι οργανισμοί ανταποκρίνονται με εκτιμήσεις επιπτώσεων, διαφάνεια και ανθρώπινη εποπτεία.

ηθική
θεμελιώδη δικαιώματα
+1