DE
AnmeldenJetzt starten
Glossar

OWASP LLM Top 10

Was ist OWASP LLM Top 10?

Die OWASP Top 10 für LLM-Anwendungen sind eine Liste der wichtigsten Sicherheitsrisiken bei Anwendungen mit großen Sprachmodellen, herausgegeben vom OWASP GenAI Security Project. Die aktuelle Fassung 2026 erschien im August 2026 (Stand: Oktober 2026) und umfasst: Prompt-Injektion, Offenlegung sensibler Informationen, übermäßige Handlungsbefugnis, Lieferkette, Daten- und Modellvergiftung, unbegrenzter Verbrauch, Fehlinformation, Offenlegung verborgenen Kontexts, Schwächen bei Vektoren und Embeddings sowie unsichere Ausgabeverarbeitung. Sie dient als Prüfliste für Entwicklung und Audits.

So hilft KI.ordo

Die KI.ordo-Vorlage „Chatbot-Sicherheitsaudit“ bewertet die Anweisungen und Beispielgespräche eines Agenten entlang der Risikobereiche der OWASP Top 10 für LLM-Anwendungen.

Mehr erfahren →: OWASP LLM Top 10

Passende Vorlagen

Themen

  • Sicherheit
  • Standard
  • Audit

KI.ordo ausprobieren

Agenten, Abläufe und Vorlagen in einem Arbeitsbereich – 24 Stunden kostenlos als Demo.

Demo starten
← Alle Begriffe

Verwandte Begriffe

LLM-Sicherheit

LLM-Sicherheit umfasst alle Maßnahmen, die Anwendungen mit großen Sprachmodellen vor Missbrauch, Datenabfluss und Fehlverhalten schützen. Typische Risiken sind Prompt-Injektion, die Preisgabe vertraulicher Anweisungen oder Daten und zu weitreichende Befugnisse von Agenten. Schutz entsteht aus mehreren Ebenen: klare Anweisungen, eingeschränkte Rechte, Prüfung von Ein- und Ausgaben, KI-Firewalls, Red Teaming und regelmäßige Audits.

  • Sicherheit
  • Sprachmodelle
  • +1
Vorlage

Indirekte Prompt-Injektion

Bei einer indirekten Prompt-Injektion stecken manipulative Anweisungen nicht in der Eingabe des Nutzers, sondern in Inhalten, die ein KI-System nebenbei verarbeitet, etwa Webseiten, E-Mails oder Dokumente. Liest ein Agent solche Inhalte, kann er versteckte Befehle fälschlich als Auftrag verstehen und zum Beispiel Daten preisgeben. Schutz bieten unter anderem: fremde Inhalte strikt als Daten behandeln, Berechtigungen begrenzen, Eingaben prüfen und kritische Aktionen von Menschen freigeben lassen.

  • Sicherheit
  • Prompt-Injektion
  • +1
Vorlage

Chatbot-Sicherheitsaudit

Ein Chatbot-Sicherheitsaudit ist eine strukturierte Prüfung, ob ein KI-Chatbot vertrauliche Daten, interne Anweisungen und seine Handlungsbefugnisse ausreichend schützt. Untersucht werden unter anderem die Anfälligkeit für Prompt Injection, die ungewollte Preisgabe von Informationen und zu weit reichende Zugriffe auf Werkzeuge – häufig entlang der OWASP Top 10 für LLM-Anwendungen. Ergebnis ist ein Bericht mit einer Bewertung je Risikobereich und konkreten Maßnahmen.

  • Sicherheit
  • Prüfung
  • +1
Vorlage

Prompt Leaking

Prompt Leaking bezeichnet das ungewollte Offenlegen der internen Anweisungen eines KI-Systems, etwa wenn ein Chatbot auf geschickte Nachfrage seinen Systemprompt wiedergibt. Problematisch wird das, wenn darin Geschäftslogik, interne Informationen oder gar Zugangsdaten stehen. Die OWASP-Liste für LLM-Anwendungen führt dieses Risiko eigens auf. Wirksamster Schutz: Anweisungen so schreiben, als könnten sie öffentlich werden, Geheimnisse nie darin ablegen und Ausgaben zusätzlich prüfen.

  • KI-Sicherheit
  • Systemprompt
  • +1
Vorlage