DE
AnmeldenJetzt starten
Glossar

Datenexfiltration

Was ist Datenexfiltration?

Datenexfiltration ist das unbefugte Abfließen von Daten aus einem System. Bei KI-Anwendungen kann das geschehen, wenn ein Chatbot oder Agent durch manipulierte Eingaben oder präparierte Inhalte – etwa auf einer gelesenen Webseite – dazu gebracht wird, vertrauliche Informationen preiszugeben oder weiterzuleiten. Schutz bieten knappe Zugriffsrechte, die Prüfung von Eingaben, Einschränkungen für ausgehende Verbindungen und die Kontrolle von Antworten.

So hilft KI.ordo

Die KI.ordo-Vorlage „KI-Firewall“ lässt sich als Unterablauf vor einen Agenten schalten und hält Eingaben zurück, die etwa Systemanweisungen oder Daten abfragen wollen.

Mehr erfahren →: Datenexfiltration

Passende Vorlagen

Themen

  • KI-Sicherheit
  • Datenschutz
  • Prompt Injection

KI.ordo ausprobieren

Agenten, Abläufe und Vorlagen in einem Arbeitsbereich – 24 Stunden kostenlos als Demo.

Demo starten
← Alle Begriffe

Verwandte Begriffe

KI-Firewall

Eine KI-Firewall ist eine Schutzschicht zwischen Nutzern, Datenquellen und einem KI-Modell. Sie prüft Eingaben auf Manipulationsversuche wie Prompt-Injektion oder Jailbreaks und kontrolliert Ausgaben, etwa auf vertrauliche Daten oder unerwünschte Inhalte, bevor sie weitergegeben werden. Dafür nutzt sie Regeln, Klassifikationsmodelle oder ein weiteres Sprachmodell. Eine KI-Firewall senkt Risiken, bietet aber keinen vollständigen Schutz und ersetzt weder begrenzte Berechtigungen noch Tests.

  • Sicherheit
  • Prompt-Injektion
  • +1
Vorlage

Indirekte Prompt-Injektion

Bei einer indirekten Prompt-Injektion stecken manipulative Anweisungen nicht in der Eingabe des Nutzers, sondern in Inhalten, die ein KI-System nebenbei verarbeitet, etwa Webseiten, E-Mails oder Dokumente. Liest ein Agent solche Inhalte, kann er versteckte Befehle fälschlich als Auftrag verstehen und zum Beispiel Daten preisgeben. Schutz bieten unter anderem: fremde Inhalte strikt als Daten behandeln, Berechtigungen begrenzen, Eingaben prüfen und kritische Aktionen von Menschen freigeben lassen.

  • Sicherheit
  • Prompt-Injektion
  • +1
Vorlage

Prompt Leaking

Prompt Leaking bezeichnet das ungewollte Offenlegen der internen Anweisungen eines KI-Systems, etwa wenn ein Chatbot auf geschickte Nachfrage seinen Systemprompt wiedergibt. Problematisch wird das, wenn darin Geschäftslogik, interne Informationen oder gar Zugangsdaten stehen. Die OWASP-Liste für LLM-Anwendungen führt dieses Risiko eigens auf. Wirksamster Schutz: Anweisungen so schreiben, als könnten sie öffentlich werden, Geheimnisse nie darin ablegen und Ausgaben zusätzlich prüfen.

  • KI-Sicherheit
  • Systemprompt
  • +1
Vorlage

LLM-Sicherheit

LLM-Sicherheit umfasst alle Maßnahmen, die Anwendungen mit großen Sprachmodellen vor Missbrauch, Datenabfluss und Fehlverhalten schützen. Typische Risiken sind Prompt-Injektion, die Preisgabe vertraulicher Anweisungen oder Daten und zu weitreichende Befugnisse von Agenten. Schutz entsteht aus mehreren Ebenen: klare Anweisungen, eingeschränkte Rechte, Prüfung von Ein- und Ausgaben, KI-Firewalls, Red Teaming und regelmäßige Audits.

  • Sicherheit
  • Sprachmodelle
  • +1
Vorlage