Modelcollaps is het kwaliteitsverlies dat kan optreden wanneer generatieve modellen herhaaldelijk worden getraind op gegevens die zelf door AI zijn geproduceerd. Zeldzame inhoud en randgevallen gaan geleidelijk verloren, en de uitvoer wordt uniformer en foutgevoeliger. Het probleem wordt belangrijker omdat het aandeel AI-gegenereerde teksten en afbeeldingen op internet groeit. Zorgvuldig samengestelde, door mensen gemaakte gegevens helpen dit tegen te gaan.
Agents, workflows en sjablonen in één werkruimte – gratis demo van 24 uur.
Demo startenSynthetische gegevens worden kunstmatig gegenereerd in plaats van in de echte wereld verzameld, maar bootsen de patronen en eigenschappen van echte gegevens na. Ze helpen wanneer echte gegevens schaars, duur of uit het oogpunt van gegevensbescherming gevoelig zijn – bijvoorbeeld om software te testen, modellen te trainen of een chatbot te controleren met realistische voorbeeldvragen. Het is belangrijk dat ze de werkelijkheid dicht genoeg benaderen en geen conclusies over echte personen toelaten.
Trainingsgegevens zijn de voorbeelden waaruit een AI-model patronen leert: grote tekstverzamelingen voor taalmodellen, gelabelde afbeeldingen voor beeldmodellen. Hun kwaliteit, diversiteit en actualiteit bepalen grotendeels hoe betrouwbaar en eerlijk een model is en hoe actueel zijn kennis zal zijn. Voor organisaties is ook van belang of een aanbieder de klantgegevens die zij invoeren voor verdere training gebruikt.
Generatieve AI verwijst naar AI-systemen die nieuwe inhoud creëren – tekst, beeld, audio, video of programmacode – in plaats van bestaande gegevens alleen te sorteren of te beoordelen. Ze zijn gebaseerd op modellen die patronen leren uit grote hoeveelheden data en die gebruiken om aannemelijke nieuwe uitvoer te produceren. In het bedrijfsleven wordt het bijvoorbeeld gebruikt om e-mails, samenvattingen, productbeschrijvingen of beeldideeën op te stellen. Resultaten kunnen fouten bevatten en moeten vóór gebruik worden gecontroleerd.
‘Garbage in, garbage out’ beschrijft het principe dat een systeem alleen resultaten kan opleveren die zo goed zijn als de data die het ontvangt. Voor AI geldt dit dubbel: onjuiste, verouderde of eenzijdige trainings- of kennisdata leidt tot verkeerde of bevooroordeelde antwoorden. Een chatbot die zich baseert op een verouderde prijslijst, noemt verouderde prijzen. Zorg voor data is daarom een doorlopende taak in elk AI-project.
