Tehnološka singularnost je teoretična zamisel: točka, ko se umetna inteligenca izboljšuje tako hitro, da ljudje tehnološkega napredka ne morejo več napovedovati ali nadzorovati. Pojem sta popularizirala pisatelj Vernor Vinge in futurist Ray Kurzweil. Ali in kdaj bi se to lahko zgodilo, je znanstveno odprto in sporno. Kljub temu ideja vpliva na razprave o varnosti UI, regulaciji in dolgoročnih tveganjih.
Agenti, poteki dela in predloge v enem delovnem prostoru – brezplačna 24-urna predstavitev.
Začni predstavitevUmetna superinteligenca (artificial superintelligence, ASI) je teoretični koncept UI, ki bi ljudi znatno presegala v skoraj vseh intelektualnih zmožnostih, vključno z raziskovanjem, načrtovanjem in družbeno presojo. Takšen sistem ne obstaja. Izraz se uporablja predvsem v filozofiji in raziskavah varnosti UI za razpravo o vprašanjih nadzora in usklajevanja prihodnjih sistemov s človeškimi vrednotami.
Splošna umetna inteligenca (artificial general intelligence, AGI) označuje hipotetični sistem UI, ki bi lahko na človeški ravni obvladal široko paleto intelektualnih nalog in naučeno prožno prenašal na nova področja. Današnji sistemi dobro opravljajo številne naloge, a še kažejo omejitve, na primer pri zanesljivosti. Splošno sprejete opredelitve ali načina merjenja ni, med strokovnjaki pa je sporno, ali bo AGI dosežena in kdaj.
Etika UI se ukvarja z moralnimi vprašanji ob razvoju in uporabi UI: pravičnost in diskriminacija, preglednost in razložljivost, varstvo podatkov, odgovornost za napake, varnost ter učinki na delo in družbo. Za organizacije se konkretizira v smernicah, ocenah tveganja, človeškem nadzoru in poštenem komuniciranju o omejitvah UI. Primer: preden se uvede orodje za pregledovanje življenjepisov, se preveri, ali morda postavlja določene skupine v slabši položaj.
Stanje oktober 2026. Tehnično se težišče premika od klepetalnih robotov k agentom UI, ki opravljajo večstopenjske naloge in prek standardov, kot je Model Context Protocol, uporabljajo orodja. Po podatkih Crunchbase je približno 64 % svetovnega tveganega kapitala v tretjem četrtletju 2026 šlo v zagonska podjetja s področja UI. V EU veljajo obveznosti za modele UI za splošne namene od avgusta 2025; roki za visokotvegane sisteme so bili preloženi na december 2027 in avgust 2028.
