Słownik pojęć

Optymalizacja hiperparametrów

Czym jest Optymalizacja hiperparametrów?

Hiperparametry to ustawienia określane przed wytrenowaniem modelu, takie jak współczynnik uczenia, liczba warstw czy siła regularyzacji. Optymalizacja hiperparametrów systematycznie szuka kombinacji, która sprawdza się najlepiej na danych walidacyjnych, na przykład metodą przeszukiwania siatki, losowego przeszukiwania lub optymalizacji bayesowskiej. Dobrze dobrane wartości poprawiają dokładność i zmniejszają przeuczenie lub niedouczenie, ale poszukiwania kosztują czas obliczeniowy.

Jak pomaga KI.ordo

KI.ordo nie trenuje modeli; zbliżonym narzędziem sterowania jest suwak „temperatury” agentów – ustawienie w czasie działania, które określa, jak zróżnicowane są odpowiedzi.

Dowiedz się więcej

Tematy

Training
jakość modelu
Tuning

Wypróbuj KI.ordo

Agenci, przepływy i szablony w jednym obszarze roboczym – bezpłatne demo na 24 godziny.

Uruchom demo

← Wszystkie pojęcia

Powiązane pojęcia

Overfitting

Przeuczenie (overfitting) występuje wtedy, gdy model zapamiętuje dane treningowe, łącznie z przypadkowymi osobliwościami i szumem, zamiast uchwycić ogólnie obowiązujące wzorce. Wydaje się wtedy bardzo dokładny na znanych danych, ale radzi sobie słabo z nowymi. Typowym sygnałem jest duża różnica między błędem treningowym a błędem testowym. Środki zaradcze to więcej lub bardziej zróżnicowane dane, prostsze modele, regularyzacja, dropout i walidacja krzyżowa.

jakość modelu
trenowanie
+1

Walidacja krzyżowa

Walidacja krzyżowa to metoda sprawdzania, jak dobrze model generalizuje na nowe, nieznane dane. W k-krotnej walidacji krzyżowej dane dzieli się na k części; model jest trenowany k razy na k−1 częściach i za każdym razem testowany na pozostałej, po czym wyniki są uśredniane. Pomaga to wykrywać przeuczenie oraz rzetelnie porównywać modele lub ustawienia, zwłaszcza gdy danych jest niewiele.

Ocena modelu
walidacja
+1

Uczenie maszynowe

Uczenie maszynowe to gałąź sztucznej inteligencji, w której komputery wyprowadzają wzorce z danych, zamiast mieć jawnie zaprogramowaną każdą regułę. W zależności od zadania modele uczą się na oznaczonych przykładach (nadzorowane), na danych nieoznaczonych (nienadzorowane) lub przez nagrody (ze wzmocnieniem). Zastosowania sięgają od filtrów spamu i prognoz popytu po rekomendacje produktów. Jakość silnie zależy od ilości i jakości danych treningowych.

podstawy
AI
+1

Regularyzacja

Regularyzacja obejmuje techniki, które w trakcie trenowania zapobiegają zbyt ścisłemu dopasowaniu modelu do danych treningowych (przeuczeniu). Przykłady to karanie dużych wag (regularyzacja L1 lub L2), losowe wyłączanie neuronów (dropout) lub zatrzymanie trenowania w odpowiednim momencie (early stopping). Celem jest prostszy model, który działa bardziej niezawodnie na nowych, nieznanych danych, nawet jeśli na danych treningowych osiąga nieco gorszy wynik.

trenowanie
przeuczenie
+1