Pojmovnik

Deepfake

Što je Deepfake?

Deepfake je slika, videozapis ili audiozapis stvoren ili izmijenjen pomoću UI-ja koji uvjerljivo prikazuje stvarne osobe kako govore ili čine nešto što se nikada nije dogodilo. Uz legitimnu uporabu u filmu ili sinkronizaciji, deepfakeovi se koriste za dezinformiranje, nanošenje štete ugledu i prijevare – primjerice lažni pozivi navodnog nadređenog koji traži bankovni prijenos. Zaštita uključuje povratne pozive putem poznatih kanala, jasne procese odobravanja i označavanje sadržaja generiranog UI-jem.

Teme

dezinformacije
prijevara
generativna UI

Isprobajte KI.ordo

Agenti, tijekovi rada i predlošci u jednom radnom prostoru – besplatna demo verzija na 24 sata.

Pokrenite demo

← Svi pojmovi

Srodni pojmovi

Generativna suparnička mreža (GAN)

Generativna suparnička mreža (GAN) sastoji se od dviju neuronskih mreža koje se treniraju jedna protiv druge: generator stvara umjetne podatke poput slika, a diskriminator ih pokušava razlikovati od stvarnih. Tim natjecanjem rezultati postaju sve realističniji. GAN-ovi su predstavljeni 2014. i oblikovali su generiranje slika prije šire primjene difuzijskih modela; koriste se, primjerice, za sintetičke podatke za treniranje ili poboljšanje slika.

Neuronske mreže
Generiranje slika
+1

Generativna UI

Generativna UI odnosi se na UI sustave koji stvaraju novi sadržaj – tekst, slike, zvuk, video ili programski kod – umjesto da samo razvrstavaju ili ocjenjuju postojeće podatke. Temelje se na modelima koji iz velikih količina podataka uče obrasce i koriste ih za izradu uvjerljivih novih izlaza. U poslovanju se koristi, primjerice, za izradu nacrta e-poruka, sažetaka, opisa proizvoda ili ideja za slike. Rezultati mogu sadržavati pogreške i treba ih provjeriti prije uporabe.

Temeljni pojam
Izrada sadržaja
+1

Etika UI-ja

Etika UI-ja bavi se moralnim pitanjima razvoja i uporabe UI-ja: pravednošću i diskriminacijom, transparentnošću i objašnjivošću, zaštitom podataka, odgovornošću za pogreške, sigurnošću te utjecajem na rad i društvo. Za organizacije postaje konkretna u smjernicama, procjenama rizika, ljudskom nadzoru i iskrenoj komunikaciji o ograničenjima UI-ja. Primjer: prije uvođenja alata za probir životopisa provjerava se stavlja li određene skupine u nepovoljniji položaj.

Etika
Nadležnost
+1

Otkrivanje prijevara

Otkrivanje prijevara obuhvaća metode koje rano prepoznaju sumnjive transakcije, narudžbe, korisničke račune ili zahtjeve. Pravila i modeli koji uče traže znakove upozorenja kao što su različite adrese isporuke i naplate, neuobičajene količine, upadljiv vremenski pritisak ili jednokratne adrese e-pošte. Koristi se u e-trgovini, bankarstvu, osiguranju i platnim uslugama. Budući da lažne uzbune mogu pogoditi prave kupce, pogotke bi trebali pregledati ljudi umjesto da se automatski odbijaju.

Sprječavanje prijevara
Upravljanje rizicima
+1

Predložak