Umetna superinteligenca (artificial superintelligence, ASI) je teoretični koncept UI, ki bi ljudi znatno presegala v skoraj vseh intelektualnih zmožnostih, vključno z raziskovanjem, načrtovanjem in družbeno presojo. Takšen sistem ne obstaja. Izraz se uporablja predvsem v filozofiji in raziskavah varnosti UI za razpravo o vprašanjih nadzora in usklajevanja prihodnjih sistemov s človeškimi vrednotami.
Agenti, poteki dela in predloge v enem delovnem prostoru – brezplačna 24-urna predstavitev.
Začni predstavitevSplošna umetna inteligenca (artificial general intelligence, AGI) označuje hipotetični sistem UI, ki bi lahko na človeški ravni obvladal široko paleto intelektualnih nalog in naučeno prožno prenašal na nova področja. Današnji sistemi dobro opravljajo številne naloge, a še kažejo omejitve, na primer pri zanesljivosti. Splošno sprejete opredelitve ali načina merjenja ni, med strokovnjaki pa je sporno, ali bo AGI dosežena in kdaj.
Tehnološka singularnost je teoretična zamisel: točka, ko se umetna inteligenca izboljšuje tako hitro, da ljudje tehnološkega napredka ne morejo več napovedovati ali nadzorovati. Pojem sta popularizirala pisatelj Vernor Vinge in futurist Ray Kurzweil. Ali in kdaj bi se to lahko zgodilo, je znanstveno odprto in sporno. Kljub temu ideja vpliva na razprave o varnosti UI, regulaciji in dolgoročnih tveganjih.
Etika UI se ukvarja z moralnimi vprašanji ob razvoju in uporabi UI: pravičnost in diskriminacija, preglednost in razložljivost, varstvo podatkov, odgovornost za napake, varnost ter učinki na delo in družbo. Za organizacije se konkretizira v smernicah, ocenah tveganja, človeškem nadzoru in poštenem komuniciranju o omejitvah UI. Primer: preden se uvede orodje za pregledovanje življenjepisov, se preveri, ali morda postavlja določene skupine v slabši položaj.
Varnost LLM zajema vse ukrepe, ki aplikacije na osnovi velikih jezikovnih modelov ščitijo pred zlorabo, uhajanjem podatkov in neželenim vedenjem. Tipična tveganja so vstavljanje ukazov, razkritje zaupnih navodil ali podatkov in agenti s prekomernimi pooblastili. Zaščita izhaja iz več plasti: jasnih navodil, omejenih pravic, preverjanja vnosov in izpisov, požarnih zidov UI, red teaminga in rednih pregledov.
