Zapaść modelu to utrata jakości, która może wystąpić, gdy modele generatywne są wielokrotnie trenowane na danych, które same zostały wytworzone przez AI. Rzadkie treści i przypadki brzegowe stopniowo zanikają, a wyniki stają się bardziej jednolite i bardziej podatne na błędy. Problem zyskuje na znaczeniu, ponieważ rośnie udział tekstów i obrazów wygenerowanych przez AI w internecie. Przeciwdziałają mu starannie dobrane dane stworzone przez ludzi.
Agenci, przepływy i szablony w jednym obszarze roboczym – bezpłatne demo na 24 godziny.
Uruchom demoDane syntetyczne są generowane sztucznie, a nie zbierane w świecie rzeczywistym, ale odwzorowują wzorce i właściwości danych rzeczywistych. Pomagają, gdy prawdziwych danych jest mało, są drogie lub wrażliwe z punktu widzenia ochrony danych – na przykład przy testowaniu oprogramowania, trenowaniu modeli lub sprawdzaniu chatbota na realistycznych przykładowych zapytaniach. Ważne, aby wystarczająco wiernie odzwierciedlały rzeczywistość i nie pozwalały wnioskować o prawdziwych osobach.
Dane treningowe to przykłady, z których model AI uczy się wzorców: duże zbiory tekstów dla modeli językowych, obrazy z etykietami dla modeli obrazowych. Ich jakość, różnorodność i aktualność w dużej mierze decydują o tym, jak niezawodny i sprawiedliwy jest model oraz jak aktualna jest jego wiedza. Dla organizacji ma też znaczenie, czy dostawca wykorzystuje wprowadzane przez klientów dane do dalszego trenowania.
Generatywna AI to systemy AI, które tworzą nowe treści – tekst, obrazy, dźwięk, wideo lub kod programu – zamiast jedynie sortować lub oceniać istniejące dane. Opierają się na modelach, które uczą się wzorców z dużych ilości danych i wykorzystują je do tworzenia wiarygodnie wyglądających nowych wyników. W biznesie służy na przykład do przygotowywania szkiców e-maili, streszczeń, opisów produktów czy pomysłów na obrazy. Wyniki mogą zawierać błędy i należy je sprawdzić przed użyciem.
„Garbage in, garbage out” (dosł. „śmieci na wejściu, śmieci na wyjściu”) to zasada mówiąca, że system może dawać wyniki tylko tak dobre, jak dane, które otrzymuje. W przypadku AI dotyczy to podwójnie: błędne, nieaktualne lub jednostronne dane treningowe albo dane wiedzy prowadzą do błędnych lub stronniczych odpowiedzi. Chatbot korzystający z nieaktualnego cennika będzie podawał nieaktualne ceny. Dbanie o dane jest więc stałym zadaniem w każdym projekcie AI.
