Γλωσσάριο

Τεχνητή υπερνοημοσύνη (ASI)

Τι είναι Τεχνητή υπερνοημοσύνη (ASI);

Η τεχνητή υπερνοημοσύνη (artificial superintelligence, ASI) είναι μια θεωρητική έννοια για μια ΤΝ που ξεπερνά σημαντικά τους ανθρώπους σχεδόν σε όλες τις πνευματικές ικανότητες, συμπεριλαμβανομένων της έρευνας, του σχεδιασμού και της κοινωνικής κρίσης. Δεν υπάρχει τέτοιο σύστημα. Ο όρος χρησιμοποιείται κυρίως στη φιλοσοφία και στην έρευνα για την ασφάλεια της ΤΝ, για να συζητηθούν ζητήματα ελέγχου και ευθυγράμμισης μελλοντικών συστημάτων με ανθρώπινες αξίες.

Θέματα

βασικές έννοιες ΤΝ
ασφάλεια ΤΝ
θεωρία

Δοκιμάστε το KI.ordo

Πράκτορες, ροές εργασιών και πρότυπα σε έναν χώρο εργασίας – δωρεάν επίδειξη 24 ωρών.

Έναρξη επίδειξης

← Όλοι οι όροι

Σχετικοί όροι

Τεχνητή γενική νοημοσύνη (AGI)

Η τεχνητή γενική νοημοσύνη (artificial general intelligence, AGI) αναφέρεται σε ένα υποθετικό σύστημα ΤΝ που μπορεί να χειριστεί ένα ευρύ φάσμα πνευματικών εργασιών σε ανθρώπινο επίπεδο και να μεταφέρει ευέλικτα όσα έχει μάθει σε νέους τομείς. Τα σημερινά συστήματα αποδίδουν καλά σε πολλές εργασίες, αλλά εξακολουθούν να παρουσιάζουν περιορισμούς, για παράδειγμα στην αξιοπιστία. Δεν υπάρχει γενικά αποδεκτός ορισμός ή τρόπος μέτρησης, και το αν και πότε θα επιτευχθεί η AGI αμφισβητείται μεταξύ των ειδικών.

βασικές έννοιες ΤΝ
Έρευνα
+1

Ιδιομορφία

Η τεχνολογική ιδιομορφία (singularity) είναι μια θεωρητική έννοια: ένα σημείο στο οποίο η τεχνητή νοημοσύνη βελτιώνει τον εαυτό της τόσο γρήγορα, ώστε η τεχνολογική πρόοδος να μην μπορεί πλέον να προβλεφθεί ή να ελεγχθεί από τους ανθρώπους. Ο όρος διαδόθηκε από τον συγγραφέα Vernor Vinge και τον φουτουριστή Ray Kurzweil. Το αν και πότε θα συμβεί αυτό είναι επιστημονικά ανοικτό και αμφισβητούμενο. Παρ' όλα αυτά, η ιδέα επηρεάζει τις συζητήσεις για την ασφάλεια της ΤΝ, τη ρύθμιση και τους μακροπρόθεσμους κινδύνους.

σενάριο μέλλοντος
υπερνοημοσύνη
+1

Ηθική της ΤΝ

Η ηθική της ΤΝ ασχολείται με τα ηθικά ζητήματα γύρω από την ανάπτυξη και τη χρήση της ΤΝ: δικαιοσύνη και διακρίσεις, διαφάνεια και επεξηγησιμότητα, προστασία δεδομένων, ευθύνη για σφάλματα, ασφάλεια και επιπτώσεις στην εργασία και την κοινωνία. Για τους οργανισμούς συγκεκριμενοποιείται σε κατευθυντήριες γραμμές, εκτιμήσεις κινδύνου, ανθρώπινη εποπτεία και ειλικρινή επικοινωνία για τα όρια της ΤΝ. Παράδειγμα: πριν εισαχθεί ένα εργαλείο προσυλλογής βιογραφικών, ελέγχεται αν μειονεκτεί συγκεκριμένες ομάδες.

ηθική
Αρμοδιότητα
+1

ασφάλεια LLM

Η ασφάλεια LLM καλύπτει όλα τα μέτρα που προστατεύουν εφαρμογές βασισμένες σε μεγάλα γλωσσικά μοντέλα από κατάχρηση, διαρροή δεδομένων και ανεπιθύμητη συμπεριφορά. Τυπικοί κίνδυνοι περιλαμβάνουν prompt injection, αποκάλυψη εμπιστευτικών οδηγιών ή δεδομένων και πράκτορες με υπερβολικά δικαιώματα. Η προστασία προέρχεται από πολλαπλά επίπεδα: σαφείς οδηγίες, περιορισμένα δικαιώματα, έλεγχοι εισόδων και εξόδων, τείχη προστασίας ΤΝ, red teaming και τακτικοί έλεγχοι.

ασφάλεια
γλωσσικά μοντέλα
+1

Πρότυπο