Slovník pojmov

Deepfake

Čo je Deepfake?

Deepfake je obrázok, video alebo zvukový záznam vytvorený alebo upravený pomocou AI, ktorý presvedčivo zobrazuje skutočných ľudí, ako hovoria alebo robia veci, ktoré sa nikdy nestali. Popri legitímnom využití vo filme alebo dabingu sa deepfaky využívajú na dezinformácie, poškodzovanie reputácie a podvody – napríklad falošné telefonáty od domnelého nadriadeného so žiadosťou o bankový prevod. Ochrana zahŕňa spätné zavolanie cez známe kanály, jasné schvaľovacie procesy a označovanie obsahu vytvoreného AI.

Témy

dezinformácie
podvod
generatívna AI

Vyskúšajte KI.ordo

Agenti, postupy a šablóny v jednom pracovnom priestore – bezplatné 24-hodinové demo.

Spustiť demo

← Všetky pojmy

Súvisiace pojmy

Generatívna kontradiktórna sieť (GAN)

Generatívna kontradiktórna sieť (GAN, generative adversarial network) pozostáva z dvoch neurónových sietí trénovaných proti sebe: generátor vytvára umelé údaje, napríklad obrázky, a diskriminátor sa ich snaží odlíšiť od skutočných. Vďaka tomuto súboju sú výsledky čoraz realistickejšie. GAN boli predstavené v roku 2014 a formovali generovanie obrázkov, kým sa viac nerozšírili difúzne modely; používajú sa napríklad na syntetické trénovacie údaje alebo vylepšovanie obrázkov.

Neurónové siete
generovanie obrázkov
+1

generatívna AI

Generatívna AI označuje systémy AI, ktoré vytvárajú nový obsah – text, obrázky, zvuk, video alebo programový kód – namiesto toho, aby existujúce údaje len triedili alebo hodnotili. Vychádzajú z modelov, ktoré sa z veľkého množstva údajov učia vzorce a využívajú ich na tvorbu vierohodných nových výstupov. V podnikaní sa používa napríklad na návrhy e-mailov, zhrnutí, popisov produktov alebo nápadov na obrázky. Výsledky môžu obsahovať chyby a pred použitím by sa mali skontrolovať.

základný pojem
tvorba obsahu
+1

Etika AI

Etika AI sa zaoberá morálnymi otázkami okolo vývoja a používania AI: spravodlivosťou a diskrimináciou, transparentnosťou a vysvetliteľnosťou, ochranou údajov, zodpovednosťou za chyby, bezpečnosťou a vplyvmi na prácu a spoločnosť. Pre organizácie sa konkretizuje v usmerneniach, posudzovaní rizík, ľudskom dohľade a úprimnej komunikácii o limitoch AI. Príklad: pred zavedením nástroja na preosievanie životopisov sa skontroluje, či neznevýhodňuje určité skupiny.

etika
Zodpovednosť
+1

Odhaľovanie podvodov

Odhaľovanie podvodov zahŕňa metódy, ktoré včas identifikujú podozrivé transakcie, objednávky, účty alebo žiadosti. Pravidlá a učiace sa modely hľadajú varovné signály, ako sú odlišné dodacie a fakturačné adresy, nezvyčajné množstvá, nápadný časový tlak alebo jednorazové e-mailové adresy. Využíva sa v e-commerce, bankovníctve, poisťovníctve a platobných službách. Keďže falošné poplachy môžu postihnúť skutočných zákazníkov, zistenia by mali posúdiť ľudia, nie ich automaticky zamietať.

Prevencia podvodov
Riadenie rizík
+1

Šablóna