Künstliche Superintelligenz (Artificial Superintelligence, ASI) ist ein theoretisches Konzept für eine KI, die Menschen in nahezu allen geistigen Fähigkeiten deutlich übertrifft, einschließlich Forschung, Planung und sozialem Urteilsvermögen. Ein solches System existiert nicht. Der Begriff wird vor allem in Philosophie und KI-Sicherheitsforschung verwendet, um Fragen der Kontrolle und Ausrichtung künftiger Systeme an menschlichen Werten zu diskutieren.
Agenten, Abläufe und Vorlagen in einem Arbeitsbereich – 24 Stunden kostenlos als Demo.
Demo startenKünstliche allgemeine Intelligenz (Artificial General Intelligence, AGI) bezeichnet ein hypothetisches KI-System, das ein breites Spektrum geistiger Aufgaben auf menschlichem Niveau bewältigt und Gelerntes flexibel auf neue Bereiche überträgt. Heutige Systeme sind in vielen Aufgaben leistungsfähig, zeigen aber weiterhin Grenzen, etwa bei Zuverlässigkeit. Eine allgemein anerkannte Definition oder Messmethode gibt es nicht; ob und wann AGI erreicht wird, ist in der Fachwelt umstritten.
Die technologische Singularität ist eine theoretische Vorstellung: ein Zeitpunkt, ab dem künstliche Intelligenz sich selbst so schnell verbessert, dass der technische Fortschritt für Menschen nicht mehr vorhersehbar oder steuerbar ist. Bekannt wurde der Begriff durch den Autor Vernor Vinge und den Futuristen Ray Kurzweil. Ob und wann es dazu kommt, ist wissenschaftlich offen und umstritten. Die Debatte beeinflusst dennoch Diskussionen über KI-Sicherheit, Regulierung und langfristige Risiken.
KI-Ethik befasst sich mit den moralischen Fragen rund um Entwicklung und Einsatz von KI: Fairness und Diskriminierung, Transparenz und Erklärbarkeit, Datenschutz, Verantwortung für Fehler, Sicherheit sowie Auswirkungen auf Arbeit und Gesellschaft. Für Organisationen wird sie konkret in Leitlinien, Risikoprüfungen, menschlicher Kontrolle und offener Kommunikation über die Grenzen von KI. Beispiel: Vor dem Einsatz eines Bewerbungsfilters wird geprüft, ob er bestimmte Gruppen benachteiligt.
LLM-Sicherheit umfasst alle Maßnahmen, die Anwendungen mit großen Sprachmodellen vor Missbrauch, Datenabfluss und Fehlverhalten schützen. Typische Risiken sind Prompt-Injektion, die Preisgabe vertraulicher Anweisungen oder Daten und zu weitreichende Befugnisse von Agenten. Schutz entsteht aus mehreren Ebenen: klare Anweisungen, eingeschränkte Rechte, Prüfung von Ein- und Ausgaben, KI-Firewalls, Red Teaming und regelmäßige Audits.
