Kolaps modelu je strata kvality, ktorá môže nastať, keď sa generatívne modely opakovane trénujú na dátach, ktoré samy vytvorila AI. Postupne sa strácajú zriedkavé obsahy a okrajové prípady a výstupy sú jednotvárnejšie a náchylnejšie na chyby. Problém nadobúda na význame, pretože podiel textov a obrázkov vytvorených AI na internete rastie. Pomáhajú starostlivo vybrané dáta vytvorené ľuďmi.
Agenti, postupy a šablóny v jednom pracovnom priestore – bezplatné 24-hodinové demo.
Spustiť demoSyntetické dáta sa generujú umelo, a nie zhromažďujú v reálnom svete, ale napodobňujú vzory a vlastnosti skutočných dát. Pomáhajú, keď sú skutočné dáta vzácne, drahé alebo citlivé z hľadiska ochrany údajov – napríklad pri testovaní softvéru, trénovaní modelov alebo kontrole chatbota pomocou realistických vzorových dopytov. Dôležité je, aby dostatočne verne odrážali realitu a neumožňovali závery o skutočných osobách.
Trénovacie dáta sú príklady, z ktorých sa model AI učí vzory: rozsiahle zbierky textov pre jazykové modely, označené obrázky pre obrazové modely. Ich kvalita, rozmanitosť a aktuálnosť vo veľkej miere určujú, nakoľko je model spoľahlivý a férový a nakoľko aktuálne budú jeho znalosti. Pre organizácie je dôležité aj to, či poskytovateľ používa zadané zákaznícke dáta na ďalšie trénovanie.
Generatívna AI označuje systémy AI, ktoré vytvárajú nový obsah – text, obrázky, zvuk, video alebo programový kód – namiesto toho, aby existujúce údaje len triedili alebo hodnotili. Vychádzajú z modelov, ktoré sa z veľkého množstva údajov učia vzorce a využívajú ich na tvorbu vierohodných nových výstupov. V podnikaní sa používa napríklad na návrhy e-mailov, zhrnutí, popisov produktov alebo nápadov na obrázky. Výsledky môžu obsahovať chyby a pred použitím by sa mali skontrolovať.
„Garbage in, garbage out“ (z angl. „odpad na vstupe, odpad na výstupe“) opisuje zásadu, že systém môže vytvoriť len také dobré výsledky, aké dobré údaje dostane. Pri AI to platí dvojnásobne: nesprávne, zastarané alebo jednostranné trénovacie či znalostné údaje vedú k nesprávnym alebo skresleným odpovediam. Chatbot, ktorý čerpá zo zastaraného cenníka, bude uvádzať zastarané ceny. Starostlivosť o údaje je preto trvalou úlohou v každom projekte s AI.
