Umjetna superinteligencija (ASI) teorijski je koncept UI-ja koji znatno nadmašuje ljude u gotovo svim intelektualnim sposobnostima, uključujući istraživanje, planiranje i društvenu prosudbu. Takav sustav ne postoji. Pojam se koristi uglavnom u filozofiji i istraživanju sigurnosti UI-ja za raspravu o pitanjima kontrole i usklađivanja budućih sustava s ljudskim vrijednostima.
Agenti, tijekovi rada i predlošci u jednom radnom prostoru – besplatna demo verzija na 24 sata.
Pokrenite demoOpća umjetna inteligencija (AGI) označava hipotetski UI sustav koji može obavljati širok raspon intelektualnih zadataka na ljudskoj razini i fleksibilno prenositi naučeno na nova područja. Današnji sustavi dobro rade mnoge zadatke, ali još pokazuju ograničenja, primjerice u pouzdanosti. Ne postoji općeprihvaćena definicija ni način mjerenja, a stručnjaci raspravljaju hoće li se i kada AGI postići.
Tehnološka singularnost teorijski je pojam: točka u kojoj se umjetna inteligencija poboljšava tako brzo da ljudi više ne mogu predvidjeti ni kontrolirati tehnološki napredak. Pojam su popularizirali autor Vernor Vinge i futurist Ray Kurzweil. Hoće li se to dogoditi i kada, znanstveno je otvoreno i sporno. Ipak ta ideja utječe na rasprave o sigurnosti UI-ja, regulaciji i dugoročnim rizicima.
Etika UI-ja bavi se moralnim pitanjima razvoja i uporabe UI-ja: pravednošću i diskriminacijom, transparentnošću i objašnjivošću, zaštitom podataka, odgovornošću za pogreške, sigurnošću te utjecajem na rad i društvo. Za organizacije postaje konkretna u smjernicama, procjenama rizika, ljudskom nadzoru i iskrenoj komunikaciji o ograničenjima UI-ja. Primjer: prije uvođenja alata za probir životopisa provjerava se stavlja li određene skupine u nepovoljniji položaj.
Sigurnost LLM-a obuhvaća sve mjere koje aplikacije izgrađene na velikim jezičnim modelima štite od zlouporabe, curenja podataka i neželjenog ponašanja. Tipični rizici uključuju prompt injection, otkrivanje povjerljivih uputa ili podataka te agente s prevelikim ovlastima. Zaštita dolazi iz više slojeva: jasnih uputa, ograničenih prava, provjera unosa i izlaza, UI vatrozida, red teaminga i redovitih revizija.
