Słownik pojęć

dostrajanie

Czym jest dostrajanie?

Dostrajanie (fine-tuning) oznacza dalsze trenowanie już wstępnie wytrenowanego modelu AI na dodatkowych, zwykle specyficznych dla zadania danych. Jego wewnętrzne wagi są korygowane tak, aby model niezawodniej radził sobie na przykład z określonym stylem pisania, słownictwem fachowym lub formatem wyniku. Dostrajanie wymaga starannie przygotowanych przykładowych danych, mocy obliczeniowej i testów. W wielu zastosowaniach wystarczają dobrze napisane instrukcje i podłączona wiedza, które są też łatwiejsze do zmiany.

Jak pomaga KI.ordo

KI.ordo nie trenuje modeli ponownie; dostosowuje agentów za pomocą instrukcji i własnej wiedzy Państwa firmy, więc zmiany działają od razu.

Dowiedz się więcej

Tematy

trenowanie modeli
Dostosowanie
modele językowe

Wypróbuj KI.ordo

Agenci, przepływy i szablony w jednym obszarze roboczym – bezpłatne demo na 24 godziny.

Uruchom demo

← Wszystkie pojęcia

Powiązane pojęcia

Dostrajanie efektywne parametrowo (PEFT)

Dostrajanie efektywne parametrowo (PEFT) obejmuje techniki, które dopasowują duży, wstępnie wytrenowany model do zadania, trenując tylko niewielką część jego parametrów lub dodając kilka dodatkowych. Znane metody to LoRA, QLoRA, adaptery i prefix tuning. Znacznie zmniejsza to zapotrzebowanie na moc obliczeniową i pamięć, a dla kilku zadań można przechowywać małe moduły dodatkowe zamiast pełnych kopii modelu. Przykład: model językowy zostaje dopasowany do stylu wewnętrznej dokumentacji technicznej.

dostrajanie
trenowanie
+1

Instruction Tuning

Instruction tuning to forma dostrajania, w której wstępnie wytrenowany model językowy jest dalej trenowany na wielu parach poleceń i pożądanych odpowiedzi. Uczy to model wykonywania zadań sformułowanych językiem naturalnym, zamiast jedynie kontynuowania tekstu. Jest to kluczowy krok w przekształcaniu modelu bazowego w asystenta i często łączy się go z metodami takimi jak RLHF. Przykład: polecenie „Streść ten tekst w trzech zdaniach” jest wykonywane niezawodnie.

dostrajanie
modele językowe
+1

Transfer Learning

W uczeniu transferowym model, który nauczył się już dużego, ogólnego zadania, służy jako punkt wyjścia dla nowego, wyspecjalizowanego. Zamiast zaczynać od zera, dostosowuje się go, na przykład przez dostrajanie, przy użyciu stosunkowo niewielkiej ilości własnych danych. Oszczędza to czas obliczeń i dane, na przykład gdy ogólny model obrazowy ma nauczyć się wykrywać wady produkcyjne na zdjęciach.

Uczenie maszynowe
Training
+1

Generowanie wspomagane wyszukiwaniem (RAG)

Generowanie wspomagane wyszukiwaniem łączy wyszukiwanie z generowaniem tekstu: przed udzieleniem odpowiedzi system przeszukuje zbiór wiedzy – na przykład instrukcje, regulaminy wewnętrzne lub FAQ – w poszukiwaniu istotnych fragmentów i przekazuje je modelowi językowemu jako kontekst. Odpowiedź opiera się więc na aktualnych treściach specyficznych dla firmy, a nie wyłącznie na wiedzy treningowej modelu. Ogranicza to zmyślone stwierdzenia, umożliwia prześledzenie źródeł i pozwala na aktualizacje bez ponownego trenowania.

RAG
wyszukiwanie wiedzy
+1