Spadek gradientu (gradient descent) to metoda optymalizacji, za pomocą której trenowana jest większość modeli AI. Mierzy się, jak duży jest błąd modelu, oblicza, w którą stronę należy zmienić parametry, aby go zmniejszyć, a następnie robi mały krok w tym kierunku – raz za razem. Przypomina to wędrowca w mgle, który idzie stale w dół, aby dotrzeć do doliny. Wielkość kroku (współczynnik uczenia) decyduje o szybkości i stabilności.
Agenci, przepływy i szablony w jednym obszarze roboczym – bezpłatne demo na 24 godziny.
Uruchom demoPropagacja wsteczna (backpropagation) to standardowa metoda, za pomocą której uczą się sieci neuronowe. Po każdej predykcji mierzony jest błąd, który następnie propagowany jest wstecz przez warstwy sieci, co pokazuje, w jakim stopniu każda waga się do niego przyczyniła. Metoda optymalizacji, taka jak spadek gradientu, dostosowuje następnie wagi krok po kroku. Bez propagacji wstecznej trenowanie dzisiejszych modeli językowych i obrazowych byłoby praktycznie niemożliwe.
W uczeniu maszynowym zbieżność oznacza, że procedura trenowania zbliża się do stabilnego stanu: strata prawie już nie maleje, a parametry modelu zmieniają się tylko minimalnie. To, czy i jak szybko model jest zbieżny, zależy od czynników takich jak współczynnik uczenia, jakość danych i architektura modelu. Jeśli współczynnik uczenia jest zbyt wysoki, strata podskakuje; jeśli zbyt niski, trenowanie trwa niepotrzebnie długo. Zbieżność nie gwarantuje dobrego modelu, ponieważ może on być nadal przeuczony.
Entropia krzyżowa to miara z teorii informacji, która wskazuje, jak bardzo przewidywany rozkład prawdopodobieństwa odbiega od rzeczywistego. W uczeniu maszynowym jest najczęstszą funkcją straty w zadaniach klasyfikacji, a także w modelach językowych przewidujących kolejny token. Szczególnie mocno karze pewne siebie błędne przewidywania: przypisanie 99% niewłaściwej klasie daje znacznie wyższą stratę niż przypisanie 60%.
Hiperparametry to ustawienia określane przed wytrenowaniem modelu, takie jak współczynnik uczenia, liczba warstw czy siła regularyzacji. Optymalizacja hiperparametrów systematycznie szuka kombinacji, która sprawdza się najlepiej na danych walidacyjnych, na przykład metodą przeszukiwania siatki, losowego przeszukiwania lub optymalizacji bayesowskiej. Dobrze dobrane wartości poprawiają dokładność i zmniejszają przeuczenie lub niedouczenie, ale poszukiwania kosztują czas obliczeniowy.
