Słownik pojęć

Constitutional AI

Czym jest Constitutional AI?

Constitutional AI to metoda trenowania modeli językowych opublikowana przez Anthropic w 2022 roku; nie ma nic wspólnego z prawem konstytucyjnym. Opiera się na spisanym zbiorze zasad, „konstytucji”: model krytykuje i poprawia własne odpowiedzi w świetle tych zasad, następnie AI porównuje pary odpowiedzi, a ta informacja zwrotna służy jako sygnał nagrody w uczeniu przez wzmacnianie (RLAIF). Zmniejsza to potrzebę ręcznego oznaczania szkodliwych treści przez ludzi; w styczniu 2026 roku Anthropic opublikował zrewidowaną konstytucję dla Claude.

Jak pomaga KI.ordo

Modele Claude firmy Anthropic wykorzystywane w KI.ordo są trenowane między innymi tą metodą.

Tematy

Training
bezpieczeństwo AI
Anthropic

Wypróbuj KI.ordo

Agenci, przepływy i szablony w jednym obszarze roboczym – bezpłatne demo na 24 godziny.

Uruchom demo

← Wszystkie pojęcia

Powiązane pojęcia

Uczenie ze wzmocnieniem na podstawie opinii człowieka (RLHF)

RLHF to metoda treningu, dzięki której modele językowe stają się bardziej pomocne i bezpieczniejsze. Ludzie porównują i oceniają kilka odpowiedzi modelu; na podstawie tych ocen trenuje się model nagrody, który następnie dalej trenuje sam model językowy metodą uczenia ze wzmocnieniem. Uczy to go na przykład odpowiadać jaśniej lub odrzucać problematyczne prośby. RLHF odbywa się u dostawcy modelu przed jego wydaniem – nie u poszczególnych użytkowników.

trenowanie
opinie człowieka
+1

Claude

Claude to rodzina dużych modeli językowych amerykańskiej firmy Anthropic, zajmującej się AI. Modele rozumieją i piszą teksty w wielu językach, analizują dokumenty, piszą kod i mogą korzystać z narzędzi, na przykład do researchu lub automatyzacji. Najbardziej znane są rodziny modeli Haiku, Sonnet i Opus, które różnią się szybkością, kosztem i możliwościami. Anthropic kładzie szczególny nacisk na bezpieczeństwo i niezawodne zachowanie modeli.

Anthropic
model językowy
+1

Etyka AI

Etyka AI zajmuje się pytaniami moralnymi związanymi z rozwojem i wykorzystaniem AI: sprawiedliwością i dyskryminacją, przejrzystością i wyjaśnialnością, ochroną danych, odpowiedzialnością za błędy, bezpieczeństwem oraz skutkami dla pracy i społeczeństwa. W organizacjach konkretyzuje się w wytycznych, ocenach ryzyka, nadzorze człowieka i szczerej komunikacji o ograniczeniach AI. Przykład: przed wprowadzeniem narzędzia do selekcji CV sprawdza się, czy nie dyskryminuje ono określonych grup.

etyka
Właściwy dział
+1

Bezpieczeństwo LLM

Bezpieczeństwo LLM obejmuje wszystkie środki chroniące aplikacje zbudowane na dużych modelach językowych przed nadużyciami, wyciekiem danych i niepożądanym zachowaniem. Typowe zagrożenia to prompt injection, ujawnienie poufnych instrukcji lub danych oraz agenci z nadmiernymi uprawnieniami. Ochronę zapewnia kilka warstw: jasne instrukcje, ograniczone prawa, kontrola danych wejściowych i wyjściowych, zapory AI, red teaming i regularne audyty.

bezpieczeństwo
modele językowe
+1

Szablon