Изкуственият свръхинтелект (artificial superintelligence, ASI) е теоретично понятие за ИИ, който значително надхвърля хората почти във всички интелектуални способности, включително изследване, планиране и социална преценка. Такава система не съществува. Терминът се използва главно във философията и в изследванията на безопасността на ИИ, за да се обсъждат въпроси за контрола и за съгласуването на бъдещите системи с човешките ценности.
Агенти, потоци и шаблони в едно работно пространство – безплатна 24-часова демонстрация.
Стартирайте демотоИзкуственият общ интелект (artificial general intelligence, AGI) означава хипотетична ИИ система, която може да се справя с широк кръг интелектуални задачи на човешко равнище и гъвкаво да пренася наученото в нови области. Днешните системи се представят добре при много задачи, но все още показват ограничения, например по отношение на надеждността. Няма общоприета дефиниция или начин за измерване, а дали и кога ще бъде постигнат AGI, е спорно сред експертите.
Технологичната сингулярност е теоретична представа: момент, в който изкуственият интелект се подобрява толкова бързо, че технологичният напредък вече не може да бъде предвиден или контролиран от хората. Терминът е популяризиран от писателя Върнър Виндж и футуриста Рей Курцвайл. Дали и кога това може да се случи, е научно открит и спорен въпрос. Въпреки това идеята влияе върху дискусиите за безопасността на ИИ, регулирането и дългосрочните рискове.
Етиката на ИИ се занимава с моралните въпроси около разработването и използването на ИИ: справедливост и дискриминация, прозрачност и обяснимост, защита на данните, отговорност за грешки, безопасност и последици за труда и обществото. За организациите тя става конкретна в насоки, оценки на риска, човешки надзор и честна комуникация за ограниченията на ИИ. Пример: преди да бъде въведен инструмент за подбор на автобиографии, той се проверява дали не поставя в неблагоприятно положение определени групи.
Сигурността на LLM обхваща всички мерки, които защитават приложенията, изградени върху големи езикови модели, от злоупотреби, изтичане на данни и нежелано поведение. Типични рискове са промпт инжекция, разкриване на поверителни инструкции или данни и агенти с прекомерни права. Защитата идва от няколко слоя: ясни инструкции, ограничени права, проверка на входните и изходните данни, ИИ защитни стени, red teaming и редовни одити.
