Gradientní sestup je optimalizační metoda, kterou se trénuje většina modelů AI. Změří se, jak velká je chyba modelu, vypočítá se, kterým směrem se musí změnit parametry, aby se snížila, a pak se tímto směrem udělá malý krok – znovu a znovu. Je to jako turista v mlze, který stále jde z kopce, aby došel do údolí. Velikost kroku (learning rate) určuje rychlost a stabilitu.
Agenti, postupy a šablony v jednom pracovním prostoru – 24hodinové demo zdarma.
Spustit demoBackpropagation (zpětné šíření chyby) je standardní metoda, kterou se učí neuronové sítě. Po každé predikci se změří chyba a šíří se zpět vrstvami sítě, čímž se ukáže, jak velkou měrou k ní přispěla jednotlivá váha. Optimalizační metoda, například gradientní sestup, pak váhy krok za krokem upravuje. Bez zpětného šíření chyby by trénování dnešních jazykových a obrazových modelů bylo prakticky nemožné.
Ve strojovém učení konvergence znamená, že se trénovací postup blíží ke stabilnímu stavu: ztráta (loss) už téměř neklesá a parametry modelu se mění jen minimálně. To, zda a jak rychle model konverguje, závisí na faktorech, jako jsou míra učení, kvalita dat a architektura modelu. Je-li míra učení příliš vysoká, ztráta poskakuje; je-li příliš nízká, trénování trvá zbytečně dlouho. Konvergence nezaručuje dobrý model, protože může být stále přeučený.
Křížová entropie je míra z teorie informace, která udává, jak moc se predikované rozdělení pravděpodobnosti odchyluje od skutečného. Ve strojovém učení je to nejběžnější ztrátová funkce pro klasifikační úlohy i pro jazykové modely, které předpovídají další token. Obzvlášť silně penalizuje sebejisté chybné predikce: přiřadit 99 % špatné třídě znamená mnohem vyšší ztrátu než přiřadit 60 %.
Hyperparametry jsou nastavení určená před trénováním modelu, například míra učení (learning rate), počet vrstev nebo síla regularizace. Optimalizace hyperparametrů systematicky hledá kombinaci, která dosahuje nejlepších výsledků na validačních datech, například pomocí mřížkového prohledávání, náhodného prohledávání nebo bayesovské optimalizace. Dobře zvolené hodnoty zvyšují přesnost a snižují přeučení či podučení, ale hledání stojí výpočetní čas.
