Modell-Kollaps (Model Collapse) bezeichnet den Qualitätsverlust, der entstehen kann, wenn generative Modelle wiederholt mit Daten trainiert werden, die selbst von KI erzeugt wurden. Seltene Inhalte und Randfälle gehen dabei schrittweise verloren, die Ausgaben werden einförmiger und fehleranfälliger. Das Thema gewinnt an Bedeutung, weil der Anteil KI-generierter Texte und Bilder im Internet wächst. Sorgfältig kuratierte, von Menschen stammende Daten wirken dem entgegen.
Agenten, Abläufe und Vorlagen in einem Arbeitsbereich – 24 Stunden kostenlos als Demo.
Demo startenSynthetische Daten werden künstlich erzeugt, statt in der realen Welt erhoben zu werden, bilden aber deren Muster und Eigenschaften nach. Sie helfen, wenn echte Daten knapp, teuer oder datenschutzrechtlich heikel sind – etwa zum Testen von Software, zum Training von Modellen oder zum Prüfen eines Chatbots mit realistischen Beispielanfragen. Wichtig ist, dass sie die Wirklichkeit ausreichend abbilden und keine Rückschlüsse auf echte Personen zulassen.
Trainingsdaten sind die Beispiele, aus denen ein KI-Modell Muster lernt – bei Sprachmodellen große Textsammlungen, bei Bildmodellen beschriftete Bilder. Ihre Qualität, Vielfalt und Aktualität bestimmen maßgeblich, wie zuverlässig, fair und auf welchem Wissensstand ein Modell später antwortet. Für Unternehmen ist zudem wichtig, ob ein Anbieter eingegebene Kundendaten für weiteres Training verwendet.
Generative KI bezeichnet KI-Systeme, die neue Inhalte erzeugen – Texte, Bilder, Audio, Video oder Programmcode –, statt nur vorhandene Daten zu ordnen oder zu bewerten. Grundlage sind Modelle, die aus großen Datenmengen Muster lernen und daraus wahrscheinliche neue Ausgaben bilden. Im Unternehmen wird sie etwa für Entwürfe von E-Mails, Zusammenfassungen, Produktbeschreibungen oder Bildideen genutzt. Die Ergebnisse können fehlerhaft sein und sollten vor der Verwendung geprüft werden.
„Garbage in, Garbage out“ (Müll rein, Müll raus) beschreibt den Grundsatz, dass ein System nur so gute Ergebnisse liefern kann wie die Daten, die es erhält. Für KI gilt das doppelt: Fehlerhafte, veraltete oder einseitige Trainings- oder Wissensdaten führen zu falschen oder verzerrten Antworten. Ein Chatbot, der auf eine veraltete Preisliste zugreift, nennt eben veraltete Preise. Datenpflege ist deshalb eine Daueraufgabe jedes KI-Projekts.
