Slovník pojmov

Bias

Čo je Bias?

Skreslenie (bias) v AI označuje systematické skreslenie výsledkov. Často pochádza z nevyvážených alebo historicky skreslených trénovacích údajov, ale aj z návrhu modelu alebo zo spôsobu, akým je otázka položená. Známy príklad: nástroj na preverovanie uchádzačov, ktorý sa učí z minulých rozhodnutí o prijatí, môže udržiavať existujúce znevýhodnenia. V štatistike bias znamená aj odchýlku odhadu od skutočnej hodnoty. Protiopatrenia zahŕňajú rozmanité údaje, pravidelné audity a ľudské rozhodovanie v personálnych otázkach.

Témy

  • Etika AI
  • Fairness
  • Kvalita údajov

Vyskúšajte KI.ordo

Agenti, postupy a šablóny v jednom pracovnom priestore – bezplatné 24-hodinové demo.

Spustiť demo
← Všetky pojmy

Súvisiace pojmy

Diskriminácia v AI

Diskriminácia v AI vzniká, keď systém AI neoprávnene znevýhodňuje ľudí na základe vlastností, ako sú pohlavie, etnický pôvod, vek alebo zdravotné postihnutie. Príčinou sú zvyčajne skreslené trénovacie údaje, nevhodné zástupné znaky, napríklad PSČ, alebo nedostatočné testovanie; známe prípady pochádzajú z náboru zamestnancov a poskytovania úverov. Protiopatrenia zahŕňajú reprezentatívne údaje, pravidelné testy spravodlivosti, transparentnosť a ľudský dohľad nad rozhodnutiami o ľuďoch.

  • spravodlivosť
  • skreslenie
  • +1

Trénovacie dáta

Trénovacie dáta sú príklady, z ktorých sa model AI učí vzory: rozsiahle zbierky textov pre jazykové modely, označené obrázky pre obrazové modely. Ich kvalita, rozmanitosť a aktuálnosť vo veľkej miere určujú, nakoľko je model spoľahlivý a férový a nakoľko aktuálne budú jeho znalosti. Pre organizácie je dôležité aj to, či poskytovateľ používa zadané zákaznícke dáta na ďalšie trénovanie.

  • Údaje
  • Training
  • +1

Etika AI

Etika AI sa zaoberá morálnymi otázkami okolo vývoja a používania AI: spravodlivosťou a diskrimináciou, transparentnosťou a vysvetliteľnosťou, ochranou údajov, zodpovednosťou za chyby, bezpečnosťou a vplyvmi na prácu a spoločnosť. Pre organizácie sa konkretizuje v usmerneniach, posudzovaní rizík, ľudskom dohľade a úprimnej komunikácii o limitoch AI. Príklad: pred zavedením nástroja na preosievanie životopisov sa skontroluje, či neznevýhodňuje určité skupiny.

  • etika
  • Zodpovednosť
  • +1

Vysvetliteľnosť

Vysvetliteľnosť (explainable AI, XAI) opisuje, nakoľko možno pochopiť, prečo systém AI dospel ku konkrétnemu výsledku. Zahŕňa metódy, ktoré ukazujú, ktoré vstupy ovplyvnili rozhodnutie najviac, ako aj praktické pomôcky, napríklad odkazy na zdroje a protokoly. Vysvetliteľnosť je dôležitá pre dôveru, hľadanie chýb a reguláciu – napríklad keď banka musí odôvodniť, prečo žiadosť zamietla.

  • XAI
  • Transparentnosť
  • +1