Interpretovatelnost modelu popisuje, nakolik lidé dokážou pochopit, jak AI model dospívá ke svým výsledkům. Jednoduché modely, například rozhodovací stromy, jsou ze své podstaty snadno čitelné; u složitých neuronových sítí mohou pomoci techniky, které odhalují vliv jednotlivých příznaků. Interpretovatelnost je důležitá pro ladění, důvěru i regulatorní požadavky, například když je třeba odůvodnit zamítnutí úvěru.
Agenti, postupy a šablony v jednom pracovním prostoru – 24hodinové demo zdarma.
Spustit demoVysvětlitelnost (explainable AI, XAI) popisuje, nakolik lze pochopit, proč systém s AI dospěl ke konkrétnímu výsledku. Zahrnuje metody, které ukazují, jaké vstupy rozhodnutí ovlivnily nejvíce, i praktické pomůcky, jako jsou odkazy na zdroje a protokoly. Vysvětlitelnost je důležitá pro důvěru, hledání chyb i regulaci – například když banka musí zdůvodnit, proč žádost zamítla.
Transparentnost AI znamená zveřejnit, kdy je AI zapojena, na jakých datech a zdrojích její výsledky stojí a jak se dospívá k rozhodnutím. Patří sem označování obsahu AI, dohledatelné odkazy na zdroje, protokoly a zdokumentované změny. Transparentnost buduje důvěru, usnadňuje hledání chyb a částečně ji vyžaduje zákon, například povinnosti transparentnosti podle aktu EU o umělé inteligenci, podle nichž by lidé měli poznat, že komunikují s AI.
Algoritmická transparentnost znamená, že lze pochopit, jak automatizovaný systém dospěje k výsledku: jaká data používá, jaká pravidla sleduje a kde jsou jeho hranice. To posiluje důvěru, usnadňuje dohledání chyb a stále častěji jde i o zákonný požadavek, například díky informačním povinnostem podle GDPR a aktu o umělé inteligenci (AI Act). V praxi pomáhá dokumentace, uvádění zdrojů, protokoly a jasná upozornění pro dotčené osoby.
Rozhodovací strom je model, který znázorňuje rozhodnutí jako posloupnost jednoduchých otázek ano/ne: každá větev testuje jeden rys a každý list udává výsledek. Ve strojovém učení se takové stromy učí automaticky z dat a používají se ke klasifikaci nebo predikci. Jejich hlavní předností je transparentnost – například ukazují, proč byla žádost o úvěr označena na základě příjmu, délky splácení a platební historie.
