Umelá superinteligencia (ASI, artificial superintelligence) je teoretický koncept AI, ktorá by takmer vo všetkých intelektuálnych schopnostiach výrazne prekonala ľudí, vrátane výskumu, plánovania a sociálneho úsudku. Žiadny takýto systém neexistuje. Pojem sa používa najmä vo filozofii a výskume bezpečnosti AI na diskusiu o otázkach kontroly a zosúladenia budúcich systémov s ľudskými hodnotami.
Agenti, postupy a šablóny v jednom pracovnom priestore – bezplatné 24-hodinové demo.
Spustiť demoUmelá všeobecná inteligencia (AGI, artificial general intelligence) označuje hypotetický systém AI, ktorý dokáže zvládať široké spektrum intelektuálnych úloh na ľudskej úrovni a flexibilne prenášať naučené do nových oblastí. Dnešné systémy podávajú dobrý výkon pri mnohých úlohách, no stále vykazujú obmedzenia, napríklad v spoľahlivosti. Neexistuje všeobecne akceptovaná definícia ani spôsob merania a o tom, či a kedy sa AGI dosiahne, sa odborníci sporia.
Technologická singularita je teoretická predstava: bod, v ktorom sa umelá inteligencia zlepšuje tak rýchlo, že ľudia už nedokážu technologický pokrok predvídať ani riadiť. Pojem spopularizovali autor Vernor Vinge a futurista Ray Kurzweil. Či a kedy by sa to mohlo stať, je vedecky otvorené a sporné. Napriek tomu táto myšlienka ovplyvňuje diskusie o bezpečnosti AI, regulácii a dlhodobých rizikách.
Etika AI sa zaoberá morálnymi otázkami okolo vývoja a používania AI: spravodlivosťou a diskrimináciou, transparentnosťou a vysvetliteľnosťou, ochranou údajov, zodpovednosťou za chyby, bezpečnosťou a vplyvmi na prácu a spoločnosť. Pre organizácie sa konkretizuje v usmerneniach, posudzovaní rizík, ľudskom dohľade a úprimnej komunikácii o limitoch AI. Príklad: pred zavedením nástroja na preosievanie životopisov sa skontroluje, či neznevýhodňuje určité skupiny.
Bezpečnosť LLM zahŕňa všetky opatrenia, ktoré chránia aplikácie postavené na veľkých jazykových modeloch pred zneužitím, únikom údajov a nežiaducim správaním. Typické riziká zahŕňajú prompt injection, prezradenie dôverných pokynov alebo údajov a agentov s nadmernými oprávneniami. Ochranu zabezpečuje viacero vrstiev: jasné pokyny, obmedzené práva, kontroly vstupov a výstupov, AI firewally, red teaming a pravidelné audity.
