Ett generative adversarial network (GAN) består av två neurala nätverk som tränas mot varandra: generatorn skapar artificiella data som bilder, och diskriminatorn försöker skilja dem från riktiga. Genom den här tävlingen blir resultaten alltmer realistiska. GAN introducerades 2014 och präglade bildgenereringen innan diffusionsmodeller blev mer utbredda; de används till exempel för syntetiska träningsdata eller bildförbättring.
Fréchet inception distance (FID) är ett mått för att bedöma kvaliteten på AI-genererade bilder. Verkliga och genererade bilder körs genom ett förtränat bildigenkänningsnätverk (Inception v3), och de statistiska fördelningarna av deras egenskaper jämförs. Ju lägre värde, desto närmare verkliga foton ligger de genererade bilderna i realism och variation. FID infördes 2017 och är en standard för att jämföra bildgeneratorer.
En deepfake är en bild, video eller ljudinspelning som skapats eller förändrats med AI och på ett övertygande sätt visar verkliga personer som säger eller gör saker som aldrig har hänt. Vid sidan av legitima användningar inom film eller dubbning används deepfakes för desinformation, skadat anseende och bedrägerier – till exempel falska samtal från en påstådd chef som begär en banköverföring. Skydd är återuppringning via kända kanaler, tydliga godkännandeprocesser och märkning av AI-genererat innehåll.
Syntetiska data genereras på konstgjord väg i stället för att samlas in i verkligheten, men efterliknar verkliga datas mönster och egenskaper. De hjälper när genuina data är knappa, dyra eller känsliga ur dataskyddssynpunkt – till exempel för att testa programvara, träna modeller eller kontrollera en chattbot med realistiska exempelfrågor. Det är viktigt att de speglar verkligheten tillräckligt väl och inte gör det möjligt att dra slutsatser om verkliga personer.
Generativ AI avser AI-system som skapar nytt innehåll – text, bilder, ljud, video eller programkod – i stället för att bara sortera eller bedöma befintliga data. De bygger på modeller som lär sig mönster ur stora datamängder och använder dem för att ta fram rimliga nya resultat. I företag används det till exempel för att skriva utkast till e-postmeddelanden, sammanfattningar, produktbeskrivningar eller bildidéer. Resultaten kan innehålla fel och bör kontrolleras före användning.
