Modelkollaps er det kvalitetstab, der kan opstå, når generative modeller gentagne gange trænes på data, som selv er skabt af AI. Sjældent indhold og grænsetilfælde går gradvist tabt, og outputtet bliver mere ensartet og mere fejlbehæftet. Problemet bliver mere aktuelt, fordi andelen af AI-genereret tekst og billeder på internettet vokser. Omhyggeligt kurateret, menneskeskabt data kan modvirke det.
Syntetiske data er skabt kunstigt i stedet for at være indsamlet i den virkelige verden, men efterligner de virkelige datas mønstre og egenskaber. De hjælper, når ægte data er knappe, dyre eller følsomme ud fra et databeskyttelsessynspunkt – f.eks. til test af software, træning af modeller eller afprøvning af en chatbot med realistiske eksempelforespørgsler. Det er vigtigt, at de afspejler virkeligheden tæt nok og ikke tillader slutninger om rigtige personer.
Træningsdata er de eksempler, som en AI-model lærer mønstre af: store tekstsamlinger til sprogmodeller, mærkede billeder til billedmodeller. Deres kvalitet, mangfoldighed og aktualitet er i høj grad afgørende for, hvor pålidelig og fair en model er, og hvor opdateret dens viden bliver. For organisationer er det også vigtigt, om en udbyder bruger de kundedata, der indtastes, til yderligere træning.
Generativ AI betegner AI-systemer, der skaber nyt indhold – tekst, billeder, lyd, video eller programkode – i stedet for blot at sortere eller vurdere eksisterende data. De bygger på modeller, der lærer mønstre ud fra store datamængder og bruger dem til at frembringe sandsynlige nye outputs. I erhvervslivet bruges den f.eks. til at udarbejde udkast til e-mails, resuméer, produktbeskrivelser eller billedidéer. Resultater kan indeholde fejl og bør kontrolleres før brug.
'Garbage in, garbage out' beskriver princippet om, at et system kun kan give resultater, der er lige så gode som de data, det modtager. Det gælder dobbelt for AI: Forkerte, forældede eller ensidige trænings- eller videndata fører til forkerte eller skæve svar. En chatbot, der støtter sig til en forældet prisliste, vil oplyse forældede priser. Pleje af data er derfor en løbende opgave i ethvert AI-projekt.
