Křížová validace je metoda ověření, jak dobře model generalizuje na nová, neviděná data. Při k-násobné křížové validaci se data rozdělí na k částí; model se k-krát trénuje na k−1 částech a pokaždé se testuje na zbývající části, poté se výsledky zprůměrují. Pomáhá to odhalit přeučení a spravedlivě porovnávat modely či nastavení, zejména když je k dispozici málo dat.
Agenti, postupy a šablony v jednom pracovním prostoru – 24hodinové demo zdarma.
Spustit demoK přeučení (overfitting) dochází, když si model zapamatuje trénovací data včetně náhodných zvláštností a šumu, místo aby zachytil obecně platné vzory. Pak působí na známých datech velmi přesně, ale na nových datech si vede špatně. Typickým znakem je velký rozdíl mezi chybou na trénovacích a testovacích datech. Pomáhá více nebo rozmanitější dat, jednodušší modely, regularizace, dropout a křížová validace.
Generalizační chyba měří, jak moc se model AI mýlí na nových, dosud neviděných datech – na rozdíl od chyby na trénovacích datech. Velký rozdíl mezi nimi ukazuje na přeučení: model se naučil příklady zpaměti místo obecných vzorců. Odhaduje se pomocí odložených testovacích dat nebo křížové validace. Je to ukazatel, na kterém skutečně záleží, protože v praxi se model téměř výhradně setkává s novými případy.
Hyperparametry jsou nastavení určená před trénováním modelu, například míra učení (learning rate), počet vrstev nebo síla regularizace. Optimalizace hyperparametrů systematicky hledá kombinaci, která dosahuje nejlepších výsledků na validačních datech, například pomocí mřížkového prohledávání, náhodného prohledávání nebo bayesovské optimalizace. Dobře zvolené hodnoty zvyšují přesnost a snižují přeučení či podučení, ale hledání stojí výpočetní čas.
Trénovací data jsou příklady, z nichž se AI model učí vzory: rozsáhlé sbírky textů pro jazykové modely, označené obrázky pro obrazové modely. Jejich kvalita, rozmanitost a aktuálnost do značné míry určují, jak spolehlivý a spravedlivý model je a jak aktuální budou jeho znalosti. Pro organizace je také důležité, zda poskytovatel používá k dalšímu trénování zákaznická data, která do systému zadají.
