Glosář

Q-learning

Co je Q-learning?

Q-learning je základní metoda posilovaného učení. Agent se metodou pokusu a omylu učí, jakou dlouhodobou hodnotu („Q-hodnotu“) má určitá akce v určité situaci, a postupně volí nejslibnější akce. K tomu nepotřebuje model svého prostředí. V kombinaci s neuronovými sítěmi (deep Q-learning) se tímto přístupem systém společnosti DeepMind naučil hrát mnoho videoher pro Atari pouze z pixelů na obrazovce.

Témata

  • posilované učení
  • algoritmus
  • odměna

Vyzkoušet KI.ordo

Agenti, postupy a šablony v jednom pracovním prostoru – 24hodinové demo zdarma.

Spustit demo
← Všechny pojmy

Související pojmy

Posilované učení (RL)

Posilované učení je odvětví strojového učení, v němž se agent učí metodou pokusu a omylu. Jedná v určitém prostředí, za dobré výsledky dostává odměny a za špatné tresty a tímto způsobem vytváří strategii, která maximalizuje jeho celkovou odměnu. Známými příklady jsou programy, které ovládly deskové hry, jako je go, řízení robotů a doladění jazykových modelů na základě lidského hodnocení.

  • metoda učení
  • odměna
  • +1

Posilované učení z lidské zpětné vazby (RLHF)

RLHF je trénovací metoda, díky níž jsou jazykové modely užitečnější a bezpečnější. Lidé porovnávají a hodnotí několik odpovědí modelu; z těchto úsudků se trénuje model odměn, který pak prostřednictvím posilovaného učení dále trénuje samotný jazykový model. Učí se tak například odpovídat srozumitelněji nebo odmítat problematické požadavky. RLHF probíhá u poskytovatele modelu před jeho vydáním – ne u jednotlivých uživatelů.

  • trénování
  • lidská zpětná vazba
  • +1

Metody Monte Carlo

Metody Monte Carlo jsou výpočetní techniky, které pomocí velmi velkého počtu náhodných vzorků aproximují výsledky, jež je obtížné spočítat analyticky. Systém se simuluje tisíckrát s náhodně obměňovanými předpoklady a analyzuje se rozdělení výsledků. Organizace je využívají například při analýze rizik, plánování projektů nebo oceňování portfolií. V AI se metody používají mimo jiné při posilovaném učení a ve stromovém prohledávání her.

  • simulace
  • statistika
  • +1

Umělé neuronové sítě (ANN)

Umělé neuronové sítě (ANN) jsou výpočetní modely složené z mnoha propojených jednotek („neuronů“) uspořádaných do vrstev, které zpracovávají vstupy prostřednictvím vážených spojení. Při trénování se váhy krok za krokem upravují na příkladech, obvykle zpětným šířením chyby (backpropagation). ANN jsou základem hlubokého učení a pohánějí rozpoznávání obrazu, rozpoznávání řeči a velké jazykové modely. Navzdory biologické inspiraci fungují mnohem jednodušeji než lidský mozek.

  • Hluboké učení
  • základy AI
  • +1