Речник

Оптимизация на хиперпараметрите

Какво е Оптимизация на хиперпараметрите?

Хиперпараметрите са настройки, които се определят преди обучението на даден модел, като скоростта на обучение, броят на слоевете или силата на регуляризацията. Оптимизацията на хиперпараметрите системно търси комбинацията, която дава най-добри резултати върху валидационните данни, например чрез търсене по решетка, случайно търсене или байесова оптимизация. Добре избраните стойности подобряват точността и намаляват преобучението или недообучението, но търсенето изразходва изчислително време.

Как помага KI.ordo

KI.ordo не обучава модели; сходен елемент за управление е плъзгачът „температура“ при агентите – настройка при изпълнение, която определя колко разнообразни са отговорите.

Научете повече

Теми

Training
Качество на модела
Tuning

Изпробвайте KI.ordo

Агенти, потоци и шаблони в едно работно пространство – безплатна 24-часова демонстрация.

Стартирайте демото

← Всички термини

Свързани термини

Overfitting

Свръхнагласяне (overfitting) възниква, когато моделът запомня данните за обучение, включително случайните им особености и шум, вместо да улавя общовалидни закономерности. Тогава той изглежда много точен върху познати данни, но се представя слабо върху нови. Типичен признак е голямата разлика между грешката при обучение и при тест. Мерките включват повече или по-разнообразни данни, по-прости модели, регуляризация, dropout и кръстосана валидация.

качество на модела
обучение
+1

Кръстосана валидация (cross-validation)

Кръстосаната валидация (cross-validation) е метод за проверка доколко добре един модел обобщава върху нови, непознати данни. При k-кратната кръстосана валидация данните се разделят на k части; моделът се обучава k пъти върху k−1 части и всеки път се тества върху останалата част, след което резултатите се усредняват. Това помага да се открие преобучение и да се сравняват честно модели или настройки, особено когато има малко данни.

Оценка на модели
Валидиране
+1

Машинно обучение

Машинното обучение е дял от изкуствения интелект, при който компютрите извеждат закономерности от данни, вместо всяко правило да бъде изрично програмирано. В зависимост от задачата моделите се учат от анотирани примери (с надзор), от неанотирани данни (без надзор) или чрез награди (с подкрепление). Приложенията вариират от спам филтри и прогнози за търсенето до препоръки за продукти. Качеството зависи силно от количеството и качеството на обучителните данни.

основи
ИИ
+1

Регуляризация

Регуляризацията обхваща техники, които пречат на модела да се нагласява твърде тясно към данните си за обучение по време на обучението (свръхнагласяне). Примери са наказването на големи тегла (L1 или L2 регуляризация), случайното изключване на неврони (dropout) или спирането на обучението в подходящия момент (early stopping). Целта е по-прост модел, който работи по-надеждно върху нови, невиждани данни, дори ако постига малко по-ниски резултати върху данните за обучение.

обучение
свръхнагласяне
+1