Deepfake je obraz, video nebo zvukový záznam vytvořený či upravený pomocí AI, který přesvědčivě ukazuje skutečné osoby, jak říkají nebo dělají věci, které se nikdy nestaly. Vedle legitimního využití ve filmu nebo při dabingu se deepfaky používají k dezinformacím, poškozování pověsti a podvodům – například k falešným hovorům údajného nadřízeného s žádostí o bankovní převod. Ochranou jsou zpětná volání na známá čísla, jasné schvalovací procesy a označování obsahu vytvořeného AI.
Agenti, postupy a šablony v jednom pracovním prostoru – 24hodinové demo zdarma.
Spustit demoGenerativní kompetiční síť (GAN, generative adversarial network) se skládá ze dvou neuronových sítí, které se trénují proti sobě: generátor vytváří umělá data, například obrázky, a diskriminátor se je snaží odlišit od skutečných. Díky tomuto souboji jsou výsledky stále realističtější. GAN byly představeny v roce 2014 a formovaly generování obrázků, než se více rozšířily difuzní modely; používají se například pro syntetická trénovací data nebo vylepšování obrazu.
Generativní AI označuje systémy AI, které vytvářejí nový obsah – text, obrázky, zvuk, video nebo programový kód – místo aby jen třídily či hodnotily existující data. Vycházejí z modelů, které se z velkého množství dat učí vzorce a používají je k tvorbě věrohodných nových výstupů. V podnikání se využívá například k přípravě návrhů e-mailů, shrnutí, popisů produktů nebo nápadů na obrázky. Výsledky mohou obsahovat chyby a před použitím by se měly zkontrolovat.
Etika AI se zabývá morálními otázkami kolem vývoje a využívání AI: férovostí a diskriminací, transparentností a vysvětlitelností, ochranou údajů, odpovědností za chyby, bezpečností a dopady na práci a společnost. Pro organizace se konkretizuje v zásadách, posouzeních rizik, lidském dohledu a otevřené komunikaci o omezeních AI. Příklad: před zavedením nástroje pro třídění životopisů se ověří, zda neznevýhodňuje určité skupiny.
Detekce podvodů zahrnuje metody, které včas odhalí podezřelé transakce, objednávky, účty nebo žádosti. Pravidla a učící se modely hledají varovné signály, jako jsou rozdílné dodací a fakturační adresy, neobvyklá množství, nápadný časový tlak nebo jednorázové e-mailové adresy. Využívá se v e-commerce, bankovnictví, pojišťovnictví a u platebních služeb. Protože plané poplachy mohou postihnout skutečné zákazníky, měli by nálezy posoudit lidé, a ne je automaticky zamítat.
