Kolaps modelu je ztráta kvality, k níž může dojít, když se generativní modely opakovaně trénují na datech, která sama vytvořila AI. Postupně mizí vzácný obsah a okrajové případy a výstupy jsou jednotvárnější a náchylnější k chybám. Problém nabývá na významu, protože podíl textů a obrázků vytvořených AI na internetu roste. Pomáhají pečlivě vybraná data vytvořená lidmi.
Agenti, postupy a šablony v jednom pracovním prostoru – 24hodinové demo zdarma.
Spustit demoSyntetická data se vytvářejí uměle, nikoli sběrem v reálném světě, ale napodobují vzory a vlastnosti skutečných dat. Pomáhají, když jsou skutečná data vzácná, drahá nebo citlivá z hlediska ochrany osobních údajů – například při testování softwaru, trénování modelů nebo ověřování chatbota na realistických ukázkových dotazech. Důležité je, aby věrně odrážela realitu a neumožňovala vyvozovat závěry o skutečných lidech.
Trénovací data jsou příklady, z nichž se AI model učí vzory: rozsáhlé sbírky textů pro jazykové modely, označené obrázky pro obrazové modely. Jejich kvalita, rozmanitost a aktuálnost do značné míry určují, jak spolehlivý a spravedlivý model je a jak aktuální budou jeho znalosti. Pro organizace je také důležité, zda poskytovatel používá k dalšímu trénování zákaznická data, která do systému zadají.
Generativní AI označuje systémy AI, které vytvářejí nový obsah – text, obrázky, zvuk, video nebo programový kód – místo aby jen třídily či hodnotily existující data. Vycházejí z modelů, které se z velkého množství dat učí vzorce a používají je k tvorbě věrohodných nových výstupů. V podnikání se využívá například k přípravě návrhů e-mailů, shrnutí, popisů produktů nebo nápadů na obrázky. Výsledky mohou obsahovat chyby a před použitím by se měly zkontrolovat.
„Garbage in, garbage out“ (doslova: smetí dovnitř, smetí ven) označuje zásadu, že systém může podávat jen tak dobré výsledky, jako jsou data, která dostane. U AI to platí dvojnásob: chybná, zastaralá nebo jednostranná trénovací či znalostní data vedou k nesprávným nebo zkresleným odpovědím. Chatbot, který čerpá ze zastaralého ceníku, bude uvádět zastaralé ceny. Péče o data je proto trvalým úkolem každého projektu s AI.
