Slovník pojmov

Vysvetliteľnosť

Čo je Vysvetliteľnosť?

Vysvetliteľnosť (explainable AI, XAI) opisuje, nakoľko možno pochopiť, prečo systém AI dospel ku konkrétnemu výsledku. Zahŕňa metódy, ktoré ukazujú, ktoré vstupy ovplyvnili rozhodnutie najviac, ako aj praktické pomôcky, napríklad odkazy na zdroje a protokoly. Vysvetliteľnosť je dôležitá pre dôveru, hľadanie chýb a reguláciu – napríklad keď banka musí odôvodniť, prečo žiadosť zamietla.

Ako pomáha KI.ordo

KI.ordo robí výsledky dohľadateľnými: agenti uvádzajú svoje zdroje a postupy zaznamenávajú každý krok – ukazuje to, odkiaľ odpoveď pochádza, nie vnútorné fungovanie jazykového modelu.

Zistiť viac

Témy

XAI
Transparentnosť
Dôvera

Vyskúšajte KI.ordo

Agenti, postupy a šablóny v jednom pracovnom priestore – bezplatné 24-hodinové demo.

Spustiť demo

← Všetky pojmy

Súvisiace pojmy

Transparentnosť AI

Transparentnosť AI znamená zverejniť, kedy sa zapája AI, na akých údajoch a zdrojoch sú jej výsledky založené a ako sa dospelo k rozhodnutiam. Patrí sem označovanie obsahu AI, dohľadateľné odkazy na zdroje, protokoly a zdokumentované zmeny. Transparentnosť buduje dôveru, uľahčuje hľadanie chýb a čiastočne ju vyžaduje zákon, napríklad povinnosti transparentnosti podľa aktu EÚ o umelej inteligencii, podľa ktorých by ľudia mali vedieť rozpoznať, že komunikujú s AI.

Transparentnosť
Dôvera
+1

Interpretovateľnosť modelu

Interpretovateľnosť modelu popisuje, nakoľko dobre ľudia dokážu pochopiť, ako model AI dospel k svojim výsledkom. Jednoduché modely, napríklad rozhodovacie stromy, sú zo svojej podstaty ľahko čitateľné; pri zložitých neurónových sieťach môžu pomôcť techniky, ktoré odhaľujú vplyv jednotlivých príznakov. Interpretovateľnosť je dôležitá pre ladenie, dôveru a regulačné požiadavky, napríklad keď treba odôvodniť zamietnutie úveru.

vysvetliteľnosť
transparentnosť
+1

Algoritmická transparentnosť

Algoritmická transparentnosť znamená, že možno pochopiť, ako automatizovaný systém dospeje k výsledku: aké údaje používa, akými pravidlami sa riadi a kde sú jeho hranice. To buduje dôveru, uľahčuje dohľadanie chýb a čoraz častejšie je to aj zákonnou požiadavkou, napríklad prostredníctvom informačných povinností podľa GDPR a aktu o umelej inteligencii (AI Act). V praxi pomáha dokumentácia, uvádzanie zdrojov, záznamy a jasné upozornenia pre dotknuté osoby.

Transparentnosť
Etika AI
+1

Etika AI

Etika AI sa zaoberá morálnymi otázkami okolo vývoja a používania AI: spravodlivosťou a diskrimináciou, transparentnosťou a vysvetliteľnosťou, ochranou údajov, zodpovednosťou za chyby, bezpečnosťou a vplyvmi na prácu a spoločnosť. Pre organizácie sa konkretizuje v usmerneniach, posudzovaní rizík, ľudskom dohľade a úprimnej komunikácii o limitoch AI. Príklad: pred zavedením nástroja na preosievanie životopisov sa skontroluje, či neznevýhodňuje určité skupiny.

etika
Zodpovednosť
+1