Mākslīgais superintelekts (ASI) ir teorētisks jēdziens MI, kas būtiski pārspēj cilvēkus gandrīz visās intelektuālajās spējās, tostarp pētniecībā, plānošanā un sociālajā spriešanā. Šādas sistēmas nepastāv. Terminu galvenokārt lieto filozofijā un MI drošības pētniecībā, lai apspriestu kontroles jautājumus un nākotnes sistēmu saskaņošanu ar cilvēciskām vērtībām.
Vispārīgais mākslīgais intelekts (AGI) apzīmē hipotētisku MI sistēmu, kas spēj veikt plašu intelektuālo uzdevumu loku cilvēka līmenī un elastīgi pārnest apgūto uz jaunām jomām. Mūsdienu sistēmas daudzos uzdevumos darbojas labi, taču joprojām uzrāda ierobežojumus, piemēram, uzticamībā. Nav vispārpieņemtas definīcijas vai mērīšanas veida, un ekspertu vidū ir strīdi par to, vai un kad AGI tiks sasniegts.
Tehnoloģiskā singularitāte ir teorētisks jēdziens: brīdis, kad mākslīgais intelekts sevi uzlabo tik strauji, ka cilvēki vairs nespēj paredzēt vai kontrolēt tehnoloģisko progresu. Šo terminu popularizēja autors Vernor Vinge un futūrists Ray Kurzweil. Vai un kad tas varētu notikt, zinātniski ir atklāts un strīdīgs jautājums. Tomēr ideja ietekmē diskusijas par MI drošību, regulējumu un ilgtermiņa riskiem.
MI ētika nodarbojas ar morāles jautājumiem ap MI izstrādi un izmantošanu: taisnīgumu un diskrimināciju, pārredzamību un izskaidrojamību, datu aizsardzību, atbildību par kļūdām, drošību un ietekmi uz darbu un sabiedrību. Organizācijām tā kļūst konkrēta vadlīnijās, riska novērtējumos, cilvēka uzraudzībā un godīgā komunikācijā par MI ierobežojumiem. Piemērs: pirms CV atlases rīka ieviešanas tiek pārbaudīts, vai tas nenostāda neizdevīgākā situācijā noteiktas grupas.
LLM drošība aptver visus pasākumus, kas aizsargā uz lielajiem valodas modeļiem balstītas lietojumprogrammas pret ļaunprātīgu izmantošanu, datu noplūdi un nevēlamu uzvedību. Tipiski riski ir uzvedņu injekcija, konfidenciālu norādījumu vai datu izpaušana un aģenti ar pārmērīgām atļaujām. Aizsardzību nodrošina vairāki slāņi: skaidri norādījumi, ierobežotas tiesības, ievaddatu un izvaddatu pārbaudes, MI ugunsmūri, red teaming un regulāri auditi.
