Γλωσσάριο

Διαφάνεια της ΤΝ

Τι είναι Διαφάνεια της ΤΝ;

Η διαφάνεια της ΤΝ σημαίνει την αποκάλυψη του πότε εμπλέκεται ΤΝ, σε ποια δεδομένα και πηγές βασίζονται τα αποτελέσματά της και πώς λαμβάνονται οι αποφάσεις. Αυτό περιλαμβάνει την επισήμανση του περιεχομένου ΤΝ, ιχνηλάσιμες παραπομπές σε πηγές, αρχεία καταγραφής και τεκμηριωμένες αλλαγές. Η διαφάνεια χτίζει εμπιστοσύνη, διευκολύνει τον εντοπισμό σφαλμάτων και απαιτείται εν μέρει από τον νόμο, για παράδειγμα από τις υποχρεώσεις διαφάνειας του Κανονισμού της ΕΕ για την ΤΝ, βάσει των οποίων οι άνθρωποι πρέπει να μπορούν να αντιλαμβάνονται ότι αλληλεπιδρούν με ΤΝ.

Πώς βοηθά το KI.ordo

Οι πράκτορες του KI.ordo απαντούν με παραπομπές σε πηγές, οι ροές εργασιών καταγράφουν κάθε βήμα και ένα αρχείο ελέγχου (audit log) καταγράφει τις αλλαγές. Η συνομιλία ιστότοπου εμφανίζει ειδοποίηση ότι απαντά βοηθός ΤΝ μόλις ανοίξει.

Μάθετε περισσότερα

Θέματα

Διαφάνεια
Εμπιστοσύνη
ιχνηλασιμότητα

Δοκιμάστε το KI.ordo

Πράκτορες, ροές εργασιών και πρότυπα σε έναν χώρο εργασίας – δωρεάν επίδειξη 24 ωρών.

Έναρξη επίδειξης

← Όλοι οι όροι

Σχετικοί όροι

Αλγοριθμική διαφάνεια

Αλγοριθμική διαφάνεια σημαίνει ότι είναι δυνατό να γίνει κατανοητό πώς ένα αυτοματοποιημένο σύστημα καταλήγει σε ένα αποτέλεσμα: ποια δεδομένα χρησιμοποιεί, ποιους κανόνες ακολουθεί και πού βρίσκονται τα όριά του. Αυτό δημιουργεί εμπιστοσύνη, διευκολύνει τον εντοπισμό σφαλμάτων και αποτελεί όλο και περισσότερο νομική απαίτηση, για παράδειγμα μέσω των υποχρεώσεων ενημέρωσης βάσει του ΓΚΠΔ και του Κανονισμού της ΕΕ για την ΤΝ. Στην πράξη βοηθούν η τεκμηρίωση, οι παραπομπές σε πηγές, τα αρχεία καταγραφής και οι σαφείς ειδοποιήσεις για τα επηρεαζόμενα πρόσωπα.

Διαφάνεια
Ηθική της ΤΝ
+1

Επεξηγησιμότητα

Η επεξηγησιμότητα (εξηγήσιμη ΤΝ, XAI) περιγράφει σε ποιον βαθμό μπορεί κανείς να κατανοήσει γιατί ένα σύστημα ΤΝ κατέληξε σε ένα συγκεκριμένο αποτέλεσμα. Καλύπτει μεθόδους που δείχνουν ποιες είσοδοι επηρέασαν περισσότερο μια απόφαση, καθώς και πρακτικά βοηθήματα όπως οι παραπομπές σε πηγές και τα αρχεία καταγραφής. Η επεξηγησιμότητα έχει σημασία για την εμπιστοσύνη, τον εντοπισμό σφαλμάτων και τη ρύθμιση – για παράδειγμα όταν μια τράπεζα πρέπει να αιτιολογήσει γιατί απορρίφθηκε μια αίτηση.

XAI
Διαφάνεια
+1

Ερμηνευσιμότητα μοντέλου

Η ερμηνευσιμότητα μοντέλου περιγράφει πόσο καλά μπορούν οι άνθρωποι να κατανοήσουν πώς ένα μοντέλο ΤΝ καταλήγει στα αποτελέσματά του. Τα απλά μοντέλα, όπως τα δέντρα αποφάσεων, είναι εγγενώς εύκολα στην ανάγνωση· στα σύνθετα νευρωνικά δίκτυα μπορούν να βοηθήσουν τεχνικές που αποκαλύπτουν την επίδραση μεμονωμένων χαρακτηριστικών. Η ερμηνευσιμότητα έχει σημασία για τον εντοπισμό σφαλμάτων, την εμπιστοσύνη και τις κανονιστικές απαιτήσεις, για παράδειγμα όταν η απόρριψη ενός δανείου πρέπει να αιτιολογηθεί.

επεξηγησιμότητα
διαφάνεια
+1

Ηθική της ΤΝ

Η ηθική της ΤΝ ασχολείται με τα ηθικά ζητήματα γύρω από την ανάπτυξη και τη χρήση της ΤΝ: δικαιοσύνη και διακρίσεις, διαφάνεια και επεξηγησιμότητα, προστασία δεδομένων, ευθύνη για σφάλματα, ασφάλεια και επιπτώσεις στην εργασία και την κοινωνία. Για τους οργανισμούς συγκεκριμενοποιείται σε κατευθυντήριες γραμμές, εκτιμήσεις κινδύνου, ανθρώπινη εποπτεία και ειλικρινή επικοινωνία για τα όρια της ΤΝ. Παράδειγμα: πριν εισαχθεί ένα εργαλείο προσυλλογής βιογραφικών, ελέγχεται αν μειονεκτεί συγκεκριμένες ομάδες.

ηθική
Αρμοδιότητα
+1