Is-superintelliġenza artifiċjali (ASI) hija kunċett teoretiku ta' IA li taqbeż b'mod sinifikanti lill-bnedmin f'kważi l-ħiliet intellettwali kollha, inklużi r-riċerka, l-ippjanar u l-ġudizzju soċjali. Ma teżisti l-ebda sistema bħal din. It-terminu jintuża l-aktar fil-filosofija u fir-riċerka dwar is-sigurtà tal-IA biex jiġu diskussi mistoqsijiet ta' kontroll u ta' allinjament ta' sistemi futuri mal-valuri tal-bniedem.
Aġenti, flussi tax-xogħol u mudelli fi spazju tax-xogħol wieħed – demo b'xejn għal 24 siegħa.
Ibda d-demoL-intelliġenza artifiċjali ġenerali (AGI) tirreferi għal sistema tal-IA ipotetika li tista' tittratta firxa wiesgħa ta' kompiti intellettwali fil-livell tal-bniedem u tittrasferixxi b'mod flessibbli dak li tgħallmet lejn oqsma ġodda. Is-sistemi tal-lum jaħdmu tajjeb f'ħafna kompiti iżda xorta juru limitazzjonijiet, pereżempju fl-affidabbiltà. M'hemm l-ebda definizzjoni jew mod ta' kejl aċċettat b'mod ġenerali, u jekk u meta se tintlaħaq l-AGI huwa kkontestat fost l-esperti.
Is-singularità teknoloġika hija nozzjoni teoretika: punt li fih l-intelliġenza artifiċjali ttejjeb lilha nnifisha b'mod tant mgħaġġel li l-progress teknoloġiku ma jistax jiġi mbassar jew ikkontrollat aktar mill-bniedem. It-terminu ġie popolarizzat mill-awtur Vernor Vinge u mill-futurist Ray Kurzweil. Jekk u meta jista' jseħħ dan huwa xjentifikament miftuħ u diskuss. Madankollu, l-idea tinfluwenza d-diskussjonijiet dwar is-sigurtà tal-IA, ir-regolamentazzjoni u r-riskji fit-tul.
L-etika tal-IA tittratta l-kwistjonijiet morali madwar l-iżvilupp u l-użu tal-IA: ġustizzja u diskriminazzjoni, trasparenza u spjegabbiltà, protezzjoni tad-data, responsabbiltà għall-iżbalji, sigurtà u l-effetti fuq ix-xogħol u s-soċjetà. Għall-organizzazzjonijiet issir konkreta f'linji gwida, valutazzjonijiet tar-riskju, sorveljanza umana u komunikazzjoni onesta dwar il-limiti tal-IA. Eżempju: qabel ma tiddaħħal għodda għall-iskrinjar ta' CVs, tiġi ċċekkjata jekk tpoġġix gruppi partikolari fi żvantaġġ.
Is-sigurtà tal-LLM tkopri l-miżuri kollha li jipproteġu applikazzjonijiet mibnija fuq mudelli lingwistiċi kbar minn użu ħażin, tnixxija tad-data u mġiba mhux mixtieqa. Riskji tipiċi jinkludu prompt injection, żvelar ta' struzzjonijiet jew data kunfidenzjali, u aġenti b'permessi eċċessivi. Il-protezzjoni tiġi minn diversi saffi: struzzjonijiet ċari, drittijiet ristretti, kontrolli tal-inputs u tal-outputs, firewalls tal-IA, red teaming u awditi regolari.
