Glosář

Optimalizace hyperparametrů

Co je Optimalizace hyperparametrů?

Hyperparametry jsou nastavení určená před trénováním modelu, například míra učení (learning rate), počet vrstev nebo síla regularizace. Optimalizace hyperparametrů systematicky hledá kombinaci, která dosahuje nejlepších výsledků na validačních datech, například pomocí mřížkového prohledávání, náhodného prohledávání nebo bayesovské optimalizace. Dobře zvolené hodnoty zvyšují přesnost a snižují přeučení či podučení, ale hledání stojí výpočetní čas.

Jak pomáhá KI.ordo

KI.ordo modely netrénuje; příbuzným ovládacím prvkem je posuvník „teplota“ u agentů, nastavení za běhu, které určuje, jak pestré odpovědi jsou.

Zjistit více

Témata

Training
kvalita modelu
Tuning

Vyzkoušet KI.ordo

Agenti, postupy a šablony v jednom pracovním prostoru – 24hodinové demo zdarma.

Spustit demo

← Všechny pojmy

Související pojmy

Overfitting

K přeučení (overfitting) dochází, když si model zapamatuje trénovací data včetně náhodných zvláštností a šumu, místo aby zachytil obecně platné vzory. Pak působí na známých datech velmi přesně, ale na nových datech si vede špatně. Typickým znakem je velký rozdíl mezi chybou na trénovacích a testovacích datech. Pomáhá více nebo rozmanitější dat, jednodušší modely, regularizace, dropout a křížová validace.

kvalita modelu
trénování
+1

Křížová validace

Křížová validace je metoda ověření, jak dobře model generalizuje na nová, neviděná data. Při k-násobné křížové validaci se data rozdělí na k částí; model se k-krát trénuje na k−1 částech a pokaždé se testuje na zbývající části, poté se výsledky zprůměrují. Pomáhá to odhalit přeučení a spravedlivě porovnávat modely či nastavení, zejména když je k dispozici málo dat.

Hodnocení modelů
validace
+1

Strojové učení

Strojové učení je odvětví umělé inteligence, v němž počítače odvozují vzorce z dat, místo aby měly každé pravidlo explicitně naprogramované. Podle úlohy se modely učí z označených příkladů (s učitelem), z neoznačených dat (bez učitele) nebo prostřednictvím odměn (zpětnovazební učení). Aplikace sahají od filtrů spamu a předpovědí poptávky po doporučování produktů. Kvalita výrazně závisí na množství a kvalitě trénovacích dat.

základy
AI
+1

Regularizace

Regularizace zahrnuje techniky, které brání tomu, aby se model při trénování příliš těsně přizpůsobil trénovacím datům (přeučení). Příkladem je penalizace velkých vah (regularizace L1 nebo L2), náhodné vypínání neuronů (dropout) nebo zastavení trénování ve správný okamžik (early stopping). Cílem je jednodušší model, který na nových, dosud neviděných datech funguje spolehlivěji, i když na trénovacích datech dosahuje mírně horšího skóre.

trénování
přeučení
+1