Datu trūkums rodas, ja MI uzdevumam nav pietiekami daudz piemērotu vai marķētu datu, lai modeli droši apmācītu vai pārbaudītu. Tas skar, piemēram, retus defektu veidus ražošanā, nišas valodas vai jaunus produktus bez pārdošanas vēstures. Risinājumi ir pārneses mācīšanās, sintētiskie dati, datu paplašināšana vai iepriekš apmācīti valodas modeļi, kas sniedz noderīgus rezultātus jau no dažiem piemēriem.
Sintētiski dati tiek ģenerēti mākslīgi, nevis vākti reālajā pasaulē, bet atdarina reālu datu likumsakarības un īpašības. Tie palīdz, ja īstu datu ir maz, tie ir dārgi vai datu aizsardzības ziņā sensitīvi — piemēram, programmatūras testēšanai, modeļu apmācībai vai tērzēšanas robota pārbaudei ar reālistiskiem paraugvaicājumiem. Svarīgi, lai tie pietiekami precīzi atspoguļotu realitāti un neļautu izdarīt secinājumus par reālām personām.
Pārneses mācīšanās gadījumā modelis, kas jau apguvis plašu vispārīgu uzdevumu, kalpo kā sākumpunkts jaunam, specializētam modelim. Tā vietā, lai sāktu no nulles, tas tiek pielāgots, piemēram, ar precizēšanu, izmantojot samērā nelielu savu datu apjomu. Tas ietaupa skaitļošanas laiku un datus, piemēram, ja vispārīgam attēlu modelim jāiemācās atrast ražošanas defektus fotogrāfijās.
Mācīšanās no dažiem piemēriem (few-shot learning) ir modeļa spēja atrisināt uzdevumu, balstoties tikai uz dažiem piemēriem. Ar valodas modeļiem tas parasti notiek tieši ievaddatos: parāda divus vai trīs jautājuma un vēlamās atbildes pārus, un modelis to pašu formātu un stilu piemēro jauniem gadījumiem — bez pārapmācības. Piemērs: trīs pareizi kategorizēti klientu pieprasījumi bieži vien ir pietiekami, lai arī turpmākos pieprasījumus sakārtotu tāpat.
Apmācības dati ir piemēri, no kuriem MI modelis apgūst likumsakarības: lielas teksta kolekcijas valodas modeļiem, marķēti attēli attēlu modeļiem. To kvalitāte, daudzveidība un aktualitāte lielā mērā nosaka, cik uzticams un taisnīgs ir modelis un cik aktuālas ir tā zināšanas. Organizācijām ir svarīgi arī tas, vai pakalpojumu sniedzējs ievadītos klientu datus izmanto tālākai apmācībai.
