Słownik pojęć

Człowiek w pętli (human-in-the-loop)

Czym jest Człowiek w pętli (human-in-the-loop)?

Human-in-the-loop (człowiek w pętli) opisuje przepływy pracy, w których ludzie włączają się w proces AI w określonych punktach: sprawdzają wyniki, zatwierdzają je lub poprawiają albo przejmują trudne przypadki. Zasada ta zmniejsza ryzyko błędnych wyników i pozostawia odpowiedzialność po stronie ludzi, zwłaszcza w decyzjach dotyczących osób, pieniędzy czy spraw prawnych. Przykład: agent AI przygotowuje szkice odpowiedzi na zapytania klientów, a pracownik sprawdza je przed wysłaniem.

Jak pomaga KI.ordo

W projektach KI.ordo agenci dostarczają szkice, które ludzie zatwierdzają, a czat na stronie może przekazać rozmowy zespołowi przez formularz kontaktowy.

Dowiedz się więcej

Tematy

zatwierdzenie
nadzór
odpowiedzialność

Wypróbuj KI.ordo

Agenci, przepływy i szablony w jednym obszarze roboczym – bezpłatne demo na 24 godziny.

Uruchom demo

← Wszystkie pojęcia

Powiązane pojęcia

System automatyzacji z AI

System automatyzacji z AI łączy tradycyjną automatyzację procesów z możliwościami AI, takimi jak rozumienie tekstu, klasyfikacja czy wsparcie decyzji. Dzięki temu można automatyzować przepływy pracy także z nieustrukturyzowanymi danymi wejściowymi, jak e-maile, formularze czy zapytania. Typowa konfiguracja to łańcuch: wyzwalacz, kroki przetwarzania, warunki i wynik, z zatwierdzeniem przez człowieka w krytycznych punktach. Przykład: przychodzące zapytania są automatycznie kategoryzowane, streszczane i przekazywane do właściwego działu.

Automatyzacja
Procesy
+1

Inteligentni agenci

Inteligentny agent to system, który postrzega swoje otoczenie, przetwarza informacje i samodzielnie wybiera działania, aby osiągnąć cel. Dziś pojęcie to oznacza zwykle oprogramowanie oparte na dużych modelach językowych, które wykonuje polecenia, korzysta z wiedzy i wywołuje narzędzia, takie jak wyszukiwarka czy API. To, ile agent może robić samodzielnie, powinno być przedmiotem świadomej decyzji. Przykład: agent odpowiada na pytania klientów na podstawie dokumentacji produktu.

agenci
autonomia
+1

Uczenie ze wzmocnieniem na podstawie opinii człowieka (RLHF)

RLHF to metoda treningu, dzięki której modele językowe stają się bardziej pomocne i bezpieczniejsze. Ludzie porównują i oceniają kilka odpowiedzi modelu; na podstawie tych ocen trenuje się model nagrody, który następnie dalej trenuje sam model językowy metodą uczenia ze wzmocnieniem. Uczy to go na przykład odpowiadać jaśniej lub odrzucać problematyczne prośby. RLHF odbywa się u dostawcy modelu przed jego wydaniem – nie u poszczególnych użytkowników.

trenowanie
opinie człowieka
+1

Halucynacja

Halucynacja to wynik modelu AI, który brzmi przekonująco, ale jest błędny lub całkowicie zmyślony – na przykład nieistniejący wyrok sądu, błędna liczba czy wymyślone źródło. Przyczyna: modele językowe tworzą prawdopodobne sformułowania, a nie sprawdzają automatycznie faktów. Ryzyko maleje, gdy odpowiedzi opierają się na zweryfikowanych źródłach, podawane są dowody, a ważne wyniki sprawdzają ludzie.

modele językowe
niezawodność
+1

Szablon