Umělá superinteligence (ASI, artificial superintelligence) je teoretický koncept AI, která výrazně překonává člověka téměř ve všech intelektuálních schopnostech, včetně výzkumu, plánování a sociálního úsudku. Žádný takový systém neexistuje. Pojem se používá hlavně ve filozofii a výzkumu bezpečnosti AI k diskusi o otázkách kontroly a sladění budoucích systémů s lidskými hodnotami.
Agenti, postupy a šablony v jednom pracovním prostoru – 24hodinové demo zdarma.
Spustit demoUmělá obecná inteligence (AGI, artificial general intelligence) označuje hypotetický systém AI, který zvládne široké spektrum intelektuálních úloh na lidské úrovni a pružně přenáší naučené do nových oblastí. Dnešní systémy podávají dobré výkony v mnoha úlohách, ale stále vykazují omezení, například ve spolehlivosti. Neexistuje obecně přijímaná definice ani způsob měření a to, zda a kdy AGI bude dosažena, je mezi odborníky sporné.
Technologická singularita je teoretická představa: bod, ve kterém se umělá inteligence zlepšuje tak rychle, že technologický pokrok už lidé nemohou předvídat ani řídit. Pojem zpopularizovali autor Vernor Vinge a futurista Ray Kurzweil. Zda a kdy k tomu může dojít, je vědecky otevřené a sporné. Přesto tato myšlenka ovlivňuje diskuse o bezpečnosti AI, regulaci a dlouhodobých rizicích.
Etika AI se zabývá morálními otázkami kolem vývoje a využívání AI: férovostí a diskriminací, transparentností a vysvětlitelností, ochranou údajů, odpovědností za chyby, bezpečností a dopady na práci a společnost. Pro organizace se konkretizuje v zásadách, posouzeních rizik, lidském dohledu a otevřené komunikaci o omezeních AI. Příklad: před zavedením nástroje pro třídění životopisů se ověří, zda neznevýhodňuje určité skupiny.
Bezpečnost LLM zahrnuje všechna opatření, která chrání aplikace postavené na velkých jazykových modelech před zneužitím, únikem dat a nežádoucím chováním. Typická rizika zahrnují prompt injection, vyzrazení důvěrných pokynů nebo dat a agenty s nadměrnými oprávněními. Ochrana vychází z několika vrstev: jasné pokyny, omezená práva, kontroly vstupů a výstupů, AI firewally, red teaming a pravidelné audity.
