Krížová validácia je metóda na kontrolu, nakoľko dobre model zovšeobecňuje na nové, nevidené údaje. Pri k-násobnej krížovej validácii sa údaje rozdelia na k častí; model sa k-krát trénuje na k−1 častiach a vždy sa testuje na zvyšnej časti, potom sa výsledky spriemerujú. Pomáha to odhaliť preučenie a spravodlivo porovnať modely alebo nastavenia, najmä keď je k dispozícii málo údajov.
Agenti, postupy a šablóny v jednom pracovnom priestore – bezplatné 24-hodinové demo.
Spustiť demoPreučenie (overfitting) nastáva, keď si model zapamätá trénovacie dáta vrátane náhodných zvláštností a šumu, namiesto toho, aby zachytil všeobecne platné vzory. Na známych dátach potom pôsobí veľmi presne, no na nových dátach podáva slabý výkon. Typickým znakom je veľký rozdiel medzi chybou na trénovacích a testovacích dátach. Protiopatrenia zahŕňajú viac či rozmanitejšie dát, jednoduchšie modely, regularizáciu, dropout a krížovú validáciu.
Generalizačná chyba meria, nakoľko sa model AI mýli na nových, predtým nevidených údajoch – na rozdiel od jeho chyby na trénovacích údajoch. Veľký rozdiel medzi nimi poukazuje na preučenie: model si zapamätal príklady namiesto toho, aby sa naučil všeobecné vzorce. Odhaduje sa pomocou odložených testovacích údajov alebo krížovej validácie. Je to číslo, na ktorom skutočne záleží, pretože v praxi sa model stretáva takmer len s novými prípadmi.
Hyperparametre sú nastavenia určené pred trénovaním modelu, ako je rýchlosť učenia, počet vrstiev alebo sila regularizácie. Optimalizácia hyperparametrov systematicky hľadá kombináciu, ktorá dosahuje najlepšie výsledky na validačných údajoch, napríklad pomocou mriežkového hľadania, náhodného hľadania alebo bayesovskej optimalizácie. Dobre zvolené hodnoty zlepšujú presnosť a znižujú nadmerné alebo nedostatočné prispôsobenie, no hľadanie stojí výpočtový čas.
Trénovacie dáta sú príklady, z ktorých sa model AI učí vzory: rozsiahle zbierky textov pre jazykové modely, označené obrázky pre obrazové modely. Ich kvalita, rozmanitosť a aktuálnosť vo veľkej miere určujú, nakoľko je model spoľahlivý a férový a nakoľko aktuálne budú jeho znalosti. Pre organizácie je dôležité aj to, či poskytovateľ používa zadané zákaznícke dáta na ďalšie trénovanie.
