DE
AnmeldenJetzt starten
Glossar

System Prompt Extraktion

Was ist System Prompt Extraktion?

System Prompt Extraktion bezeichnet Versuche, einen Chatbot oder KI-Agenten dazu zu bringen, seine verborgenen Systemanweisungen preiszugeben. Gelingt das, spricht man von Prompt Leaking: Die Extraktion ist der Angriff, das Leck die Folge. Wirksamer Schutz beginnt damit, keine Passwörter, Schlüssel oder vertraulichen Regeln in Anweisungen zu schreiben und davon auszugehen, dass sie öffentlich werden können; ergänzend helfen Eingabeprüfungen und regelmäßige Tests.

So hilft KI.ordo

Die KI.ordo-Vorlage „Chatbot-Sicherheitsaudit“ prüft die Anweisungen eines Agenten unter anderem auf das Risiko offengelegter Systemanweisungen und liefert harmlose Selbsttest-Fragen.

Mehr erfahren →: System Prompt Extraktion

Passende Vorlagen

Themen

  • Sicherheit
  • Prompt Leaking
  • Chatbots

KI.ordo ausprobieren

Agenten, Abläufe und Vorlagen in einem Arbeitsbereich – 24 Stunden kostenlos als Demo.

Demo starten
← Alle Begriffe

Verwandte Begriffe

Prompt Leaking

Prompt Leaking bezeichnet das ungewollte Offenlegen der internen Anweisungen eines KI-Systems, etwa wenn ein Chatbot auf geschickte Nachfrage seinen Systemprompt wiedergibt. Problematisch wird das, wenn darin Geschäftslogik, interne Informationen oder gar Zugangsdaten stehen. Die OWASP-Liste für LLM-Anwendungen führt dieses Risiko eigens auf. Wirksamster Schutz: Anweisungen so schreiben, als könnten sie öffentlich werden, Geheimnisse nie darin ablegen und Ausgaben zusätzlich prüfen.

  • KI-Sicherheit
  • Systemprompt
  • +1
Vorlage

Jailbreaking

Jailbreaking bezeichnet Versuche, die Sicherheitsregeln eines KI-Modells durch geschickt formulierte Eingaben zu umgehen, damit es Inhalte liefert oder Dinge tut, die es eigentlich ablehnen soll. Für Unternehmen ist das ein Risiko, weil ein Chatbot so etwa vertrauliche Anweisungen preisgeben oder unangemessen antworten könnte. Schutzmaßnahmen sind klare Systemanweisungen, Prüfungen von Ein- und Ausgaben, begrenzte Berechtigungen, Protokollierung und regelmäßige Sicherheitstests (Red Teaming).

  • Sicherheit
  • Missbrauchsschutz
  • +1
Vorlage

Chatbot-Sicherheitsaudit

Ein Chatbot-Sicherheitsaudit ist eine strukturierte Prüfung, ob ein KI-Chatbot vertrauliche Daten, interne Anweisungen und seine Handlungsbefugnisse ausreichend schützt. Untersucht werden unter anderem die Anfälligkeit für Prompt Injection, die ungewollte Preisgabe von Informationen und zu weit reichende Zugriffe auf Werkzeuge – häufig entlang der OWASP Top 10 für LLM-Anwendungen. Ergebnis ist ein Bericht mit einer Bewertung je Risikobereich und konkreten Maßnahmen.

  • Sicherheit
  • Prüfung
  • +1
Vorlage

OWASP LLM Top 10

Die OWASP Top 10 für LLM-Anwendungen sind eine Liste der wichtigsten Sicherheitsrisiken bei Anwendungen mit großen Sprachmodellen, herausgegeben vom OWASP GenAI Security Project. Die aktuelle Fassung 2026 erschien im August 2026 (Stand: Oktober 2026) und umfasst: Prompt-Injektion, Offenlegung sensibler Informationen, übermäßige Handlungsbefugnis, Lieferkette, Daten- und Modellvergiftung, unbegrenzter Verbrauch, Fehlinformation, Offenlegung verborgenen Kontexts, Schwächen bei Vektoren und Embeddings sowie unsichere Ausgabeverarbeitung. Sie dient als Prüfliste für Entwicklung und Audits.

  • Sicherheit
  • Standard
  • +1
Vorlage