Pojmovnik

Čišćenje podataka

Što je Čišćenje podataka?

Čišćenje podataka je prepoznavanje i ispravljanje netočnih, dvostrukih ili nedosljednih unosa u skupovima podataka. Tipični koraci uključuju ujednačavanje pisanja i formata datuma, uklanjanje suvišnih razmaka i spajanje duplikata poput „Horvat d.o.o.” i „Horvat d. o. o.”. Čisti podaci preduvjet su pouzdanih analiza, masovnih slanja i UI aplikacija.

Kako KI.ordo pomaže

Predložak u KI.ordo čisti popise, označava moguće duplikate i nedostajuće podatke te izrađuje zapisnik promjena.

Saznajte više : Čišćenje podataka

Teme

  • kvaliteta podataka
  • duplikati
  • održavanje podataka

Isprobajte KI.ordo

Agenti, tijekovi rada i predlošci u jednom radnom prostoru – besplatna demo verzija na 24 sata.

Pokrenite demo
← Svi pojmovi

Srodni pojmovi

Validacija podataka

Validacija podataka provjerava jesu li podaci potpuni, ispravno oblikovani i vjerodostojni prije daljnje obrade. Tipične provjere odnose se na obvezna polja, format e-adresa, poštanskih brojeva ili datuma te logičke proturječnosti – primjerice datum isporuke prije datuma narudžbe. Tako se pogreške otkrivaju rano, umjesto da se prenesu u izvješća, račune ili UI analize.

  • kvaliteta podataka
  • provjere
  • +1
Predložak

Neizrazito podudaranje (fuzzy matching)

Neizrazito podudaranje (fuzzy matching) pronalazi unose koji su slični, ali nisu potpuno identični – primjerice zbog tipfelera, kratica ili različitog pisanja. Oslanja se na mjere sličnosti poput Levenshteinove udaljenosti, koja broji koliko je znakova potrebno promijeniti. Tipična primjena je pronalaženje duplikata u podacima o adresama i klijentima: „Horvat d.o.o., Ilica 5” i „Horvat d. o. o., Ilica broj 5” prepoznaju se kao vjerojatno isti zapis.

  • Čišćenje podataka
  • Duplikati
  • +1
Predložak

Garbage in, garbage out (GIGO)

„Garbage in, garbage out” (smeće unutra, smeće van) opisuje načelo da sustav može dati samo onoliko dobre rezultate koliko su dobri podaci koje prima. To dvostruko vrijedi za UI: netočni, zastarjeli ili jednostrani podaci za treniranje ili znanje dovode do pogrešnih ili pristranih odgovora. Chatbot koji se oslanja na zastarjeli cjenik navodit će zastarjele cijene. Briga o podacima stoga je trajan zadatak u svakom UI projektu.

  • Kvaliteta podataka
  • Načelo
  • +1

Strukturirani podaci

Strukturirani podaci slijede utvrđenu shemu s jasno imenovanim poljima, kao što su tablice, baze podataka ili JSON objekti s podacima poput imena, cijene i datuma. Strojevi ih mogu pouzdano čitati, filtrirati i obrađivati – za razliku od slobodnog teksta ili slika. Na web-stranicama oznake schema.org opisuju, primjerice, proizvode, događaje ili česta pitanja kako bi tražilice i UI sustavi nedvosmisleno razumjeli sadržaj. UI može i izdvajati strukturirane podatke iz nestrukturiranog teksta.

  • podaci
  • JSON
  • +1