Кръстосаната валидация (cross-validation) е метод за проверка доколко добре един модел обобщава върху нови, непознати данни. При k-кратната кръстосана валидация данните се разделят на k части; моделът се обучава k пъти върху k−1 части и всеки път се тества върху останалата част, след което резултатите се усредняват. Това помага да се открие преобучение и да се сравняват честно модели или настройки, особено когато има малко данни.
Агенти, потоци и шаблони в едно работно пространство – безплатна 24-часова демонстрация.
Стартирайте демотоСвръхнагласяне (overfitting) възниква, когато моделът запомня данните за обучение, включително случайните им особености и шум, вместо да улавя общовалидни закономерности. Тогава той изглежда много точен върху познати данни, но се представя слабо върху нови. Типичен признак е голямата разлика между грешката при обучение и при тест. Мерките включват повече или по-разнообразни данни, по-прости модели, регуляризация, dropout и кръстосана валидация.
Грешката на обобщаване измерва доколко ИИ моделът греши върху нови, непознати досега данни – за разлика от грешката му върху обучителните данни. Голяма разлика между двете сочи преобучение: моделът е запомнил примери, вместо да научи общи закономерности. Оценява се с отделени тестови данни или кръстосана валидация. Това е показателят, който наистина има значение, защото на практика моделът се сблъсква почти само с нови случаи.
Хиперпараметрите са настройки, които се определят преди обучението на даден модел, като скоростта на обучение, броят на слоевете или силата на регуляризацията. Оптимизацията на хиперпараметрите системно търси комбинацията, която дава най-добри резултати върху валидационните данни, например чрез търсене по решетка, случайно търсене или байесова оптимизация. Добре избраните стойности подобряват точността и намаляват преобучението или недообучението, но търсенето изразходва изчислително време.
Данните за обучение са примерите, от които моделът с ИИ научава закономерности: големи текстови колекции за езиковите модели, изображения с етикети за моделите за изображения. Качеството, разнообразието и актуалността им до голяма степен определят колко надежден и справедлив е моделът и колко актуални ще са знанията му. За организациите е важно и дали доставчикът използва въведените от клиентите данни за по-нататъшно обучение.
