Przeuczenie (overfitting) występuje wtedy, gdy model zapamiętuje dane treningowe, łącznie z przypadkowymi osobliwościami i szumem, zamiast uchwycić ogólnie obowiązujące wzorce. Wydaje się wtedy bardzo dokładny na znanych danych, ale radzi sobie słabo z nowymi. Typowym sygnałem jest duża różnica między błędem treningowym a błędem testowym. Środki zaradcze to więcej lub bardziej zróżnicowane dane, prostsze modele, regularyzacja, dropout i walidacja krzyżowa.
Agenci, przepływy i szablony w jednym obszarze roboczym – bezpłatne demo na 24 godziny.
Uruchom demoNiedouczenie (underfitting) występuje wtedy, gdy model jest zbyt prosty, aby uchwycić zależności w danych. Popełnia wówczas wiele błędów zarówno na danych treningowych, jak i na nowych, na przykład gdy do odwzorowania wyraźnie zakrzywionego wzorca używa się linii prostej. Środki zaradcze to mocniejszy model, bardziej informatywne cechy, dłuższe trenowanie lub słabsza regularyzacja; przeciwny problem to przeuczenie.
Regularyzacja obejmuje techniki, które w trakcie trenowania zapobiegają zbyt ścisłemu dopasowaniu modelu do danych treningowych (przeuczeniu). Przykłady to karanie dużych wag (regularyzacja L1 lub L2), losowe wyłączanie neuronów (dropout) lub zatrzymanie trenowania w odpowiednim momencie (early stopping). Celem jest prostszy model, który działa bardziej niezawodnie na nowych, nieznanych danych, nawet jeśli na danych treningowych osiąga nieco gorszy wynik.
Walidacja krzyżowa to metoda sprawdzania, jak dobrze model generalizuje na nowe, nieznane dane. W k-krotnej walidacji krzyżowej dane dzieli się na k części; model jest trenowany k razy na k−1 częściach i za każdym razem testowany na pozostałej, po czym wyniki są uśredniane. Pomaga to wykrywać przeuczenie oraz rzetelnie porównywać modele lub ustawienia, zwłaszcza gdy danych jest niewiele.
Błąd generalizacji mierzy, jak bardzo model AI się myli na nowych, nieznanych wcześniej danych – w odróżnieniu od jego błędu na danych treningowych. Duża różnica między nimi wskazuje na przeuczenie: model zapamiętał przykłady zamiast nauczyć się ogólnych wzorców. Szacuje się go na zatrzymanych danych testowych lub za pomocą walidacji krzyżowej. To właśnie ta wartość naprawdę się liczy, ponieważ w praktyce model niemal wyłącznie spotyka nowe przypadki.
