Il-cross-entropy hija miżura mit-teorija tal-informazzjoni li tindika kemm distribuzzjoni tal-probabbiltà mbassra tiddevja minn dik attwali. Fit-tagħlim awtomatiku, hija l-aktar funzjoni tat-telf komuni għal kompiti ta' klassifikazzjoni u wkoll għal mudelli lingwistiċi li jbassru t-token li jmiss. Tikkastiga b'mod partikolarment qawwi tbassir żbaljat iżda kunfidenti: li tassenja 99% lill-klassi żbaljata jagħti telf ferm ogħla milli li tassenja 60%.
Aġenti, flussi tax-xogħol u mudelli fi spazju tax-xogħol wieħed – demo b'xejn għal 24 siegħa.
Ibda d-demoIl-log loss (telf logaritmiku) ikejjel kemm il-probabbiltajiet imbassra ta' mudell ta' klassifikazzjoni jaqblu mar-riżultati attwali. Tbassir kunfidenti iżda żbaljat jiġi kkastigat b'mod partikolarment qawwi; valur qrib iż-żero jindika tbassir ikkalibrat tajjeb. Eżempju: jekk mudell jagħti probabbiltà ta' 95% ta' telf għal klijent li jibqa', il-log loss jogħla ħafna. Matematikament huwa l-istess bħall-cross-entropy binarja.
Il-gradient descent huwa l-metodu ta' ottimizzazzjoni użat biex jitħarrġu ħafna mudelli tal-IA. Tkejjel kemm hu kbir l-iżball tal-mudell, tikkalkula f'liema direzzjoni jridu jinbidlu l-parametri biex jitnaqqas, u mbagħad tieħu pass żgħir f'dik id-direzzjoni – għal darb'oħra u darb'oħra. Huwa bħal min jimxi fuq il-muntanji fid-dbiel u jibqa' jinżel 'l isfel biex jasal fil-wied. Id-daqs tal-pass (rata tat-tagħlim) jiddetermina l-veloċità u l-istabbiltà.
Klassifikatur huwa mudell jew metodu li jassenja inputs lil waħda minn diversi kategoriji predefiniti. Varjanti klassiċi bħal siġar tad-deċiżjoni jew naive Bayes jitħarrġu fuq eżempji ttikkettati; il-mudelli lingwistiċi jistgħu wkoll jirranġaw testi abbażi ta' deskrizzjoni tal-kategoriji. Użi tipiċi jinkludu l-individwazzjoni tal-ispam, l-għażla ta' talbiet tal-klijenti skont is-suġġett u l-kategorizzazzjoni tal-irċevuti. Il-kwalità titkejjel b'metriki bħall-eżattezza, il-preċiżjoni u r-recall.
Fit-tagħlim awtomatiku, il-konverġenza tfisser li proċedura ta' taħriġ toqrob lejn stat stabbli: it-telf kważi ma jonqosx aktar u l-parametri tal-mudell jinbidlu b'mod minimu biss. Jekk mudell jikkonverġix u kemm malajr jiddependi minn fatturi bħar-rata tat-tagħlim, il-kwalità tad-data u l-arkitettura tal-mudell. Jekk ir-rata tat-tagħlim hija għolja wisq, it-telf jaqbeż minn naħa għal oħra; jekk hija baxxa wisq, it-taħriġ idum bla bżonn. Il-konverġenza ma tiggarantixxix mudell tajjeb, peress li xorta jista' jkun overfitted.
