Interpretovateľnosť modelu popisuje, nakoľko dobre ľudia dokážu pochopiť, ako model AI dospel k svojim výsledkom. Jednoduché modely, napríklad rozhodovacie stromy, sú zo svojej podstaty ľahko čitateľné; pri zložitých neurónových sieťach môžu pomôcť techniky, ktoré odhaľujú vplyv jednotlivých príznakov. Interpretovateľnosť je dôležitá pre ladenie, dôveru a regulačné požiadavky, napríklad keď treba odôvodniť zamietnutie úveru.
Agenti, postupy a šablóny v jednom pracovnom priestore – bezplatné 24-hodinové demo.
Spustiť demoVysvetliteľnosť (explainable AI, XAI) opisuje, nakoľko možno pochopiť, prečo systém AI dospel ku konkrétnemu výsledku. Zahŕňa metódy, ktoré ukazujú, ktoré vstupy ovplyvnili rozhodnutie najviac, ako aj praktické pomôcky, napríklad odkazy na zdroje a protokoly. Vysvetliteľnosť je dôležitá pre dôveru, hľadanie chýb a reguláciu – napríklad keď banka musí odôvodniť, prečo žiadosť zamietla.
Transparentnosť AI znamená zverejniť, kedy sa zapája AI, na akých údajoch a zdrojoch sú jej výsledky založené a ako sa dospelo k rozhodnutiam. Patrí sem označovanie obsahu AI, dohľadateľné odkazy na zdroje, protokoly a zdokumentované zmeny. Transparentnosť buduje dôveru, uľahčuje hľadanie chýb a čiastočne ju vyžaduje zákon, napríklad povinnosti transparentnosti podľa aktu EÚ o umelej inteligencii, podľa ktorých by ľudia mali vedieť rozpoznať, že komunikujú s AI.
Algoritmická transparentnosť znamená, že možno pochopiť, ako automatizovaný systém dospeje k výsledku: aké údaje používa, akými pravidlami sa riadi a kde sú jeho hranice. To buduje dôveru, uľahčuje dohľadanie chýb a čoraz častejšie je to aj zákonnou požiadavkou, napríklad prostredníctvom informačných povinností podľa GDPR a aktu o umelej inteligencii (AI Act). V praxi pomáha dokumentácia, uvádzanie zdrojov, záznamy a jasné upozornenia pre dotknuté osoby.
Rozhodovací strom je model, ktorý znázorňuje rozhodnutie ako postupnosť jednoduchých otázok s odpoveďou áno/nie: každá vetva testuje jeden znak a každý list udáva výsledok. V strojovom učení sa takéto stromy učia automaticky z údajov a používajú sa na klasifikáciu alebo predpovede. Ich hlavnou silou je transparentnosť – napríklad ukazujú, prečo bola žiadosť o úver označená na základe príjmu, doby splácania a platobnej histórie.
