Modellkollaps är den kvalitetsförlust som kan uppstå när generativa modeller upprepade gånger tränas på data som själva har skapats av AI. Sällsynt innehåll och gränsfall försvinner gradvis, och svaren blir mer likformiga och mer felbenägna. Frågan blir allt viktigare eftersom andelen AI-genererad text och AI-genererade bilder på internet växer. Noggrant kurerade, människoskapade data hjälper till att motverka det.
Syntetiska data genereras på konstgjord väg i stället för att samlas in i verkligheten, men efterliknar verkliga datas mönster och egenskaper. De hjälper när genuina data är knappa, dyra eller känsliga ur dataskyddssynpunkt – till exempel för att testa programvara, träna modeller eller kontrollera en chattbot med realistiska exempelfrågor. Det är viktigt att de speglar verkligheten tillräckligt väl och inte gör det möjligt att dra slutsatser om verkliga personer.
Träningsdata är de exempel som en AI-modell lär sig mönster av: stora textsamlingar för språkmodeller, märkta bilder för bildmodeller. Deras kvalitet, mångfald och aktualitet avgör till stor del hur tillförlitlig och rättvis en modell är och hur aktuell dess kunskap blir. För organisationer spelar det också roll om en leverantör använder de kunddata som de matar in för vidare träning.
Generativ AI avser AI-system som skapar nytt innehåll – text, bilder, ljud, video eller programkod – i stället för att bara sortera eller bedöma befintliga data. De bygger på modeller som lär sig mönster ur stora datamängder och använder dem för att ta fram rimliga nya resultat. I företag används det till exempel för att skriva utkast till e-postmeddelanden, sammanfattningar, produktbeskrivningar eller bildidéer. Resultaten kan innehålla fel och bör kontrolleras före användning.
”Garbage in, garbage out” beskriver principen att ett system bara kan ge lika bra resultat som de data det får. Det gäller dubbelt för AI: felaktiga, föråldrade eller ensidiga tränings- eller kunskapsdata leder till felaktiga eller partiska svar. En chattbot som utgår från en föråldrad prislista anger föråldrade priser. Datavård är därför en löpande uppgift i varje AI-projekt.
