Kunstig superintelligens (artificial superintelligence, ASI) er et teoretisk begreb for en AI, der væsentligt overgår mennesker i næsten alle intellektuelle evner, herunder forskning, planlægning og socialt skøn. Et sådant system findes ikke. Begrebet bruges hovedsagelig i filosofi og AI-sikkerhedsforskning til at diskutere spørgsmål om kontrol og om at afstemme fremtidige systemer med menneskelige værdier.
Kunstig generel intelligens (artificial general intelligence, AGI) betegner et hypotetisk AI-system, der kan klare en bred vifte af intellektuelle opgaver på menneskeligt niveau og fleksibelt overføre det lærte til nye områder. Nutidens systemer klarer sig godt på mange opgaver, men viser stadig begrænsninger, f.eks. i pålidelighed. Der findes ingen almindeligt accepteret definition eller målemetode, og om og hvornår AGI nås, er omstridt blandt eksperter.
Den teknologiske singularitet er en teoretisk forestilling: et punkt, hvor kunstig intelligens forbedrer sig selv så hurtigt, at den teknologiske udvikling ikke længere kan forudsiges eller styres af mennesker. Begrebet blev gjort kendt af forfatteren Vernor Vinge og futuristen Ray Kurzweil. Om og hvornår det kan ske, er videnskabeligt åbent og omstridt. Ikke desto mindre påvirker ideen debatten om AI-sikkerhed, regulering og langsigtede risici.
AI-etik beskæftiger sig med de moralske spørgsmål omkring udvikling og brug af AI: retfærdighed og diskrimination, gennemsigtighed og forklarlighed, databeskyttelse, ansvar for fejl, sikkerhed og konsekvenserne for arbejde og samfund. For organisationer bliver det konkret i retningslinjer, risikovurderinger, menneskeligt tilsyn og ærlig kommunikation om AI's begrænsninger. Eksempel: Før et værktøj til screening af CV'er indføres, kontrolleres det, om det stiller bestemte grupper dårligere.
LLM-sikkerhed omfatter alle foranstaltninger, der beskytter applikationer bygget på store sprogmodeller mod misbrug, datalæk og uønsket adfærd. Typiske risici er prompt injection, afsløring af fortrolige instruktioner eller data og agenter med for vidtgående tilladelser. Beskyttelsen kommer fra flere lag: klare instruktioner, begrænsede rettigheder, kontrol af input og output, AI-firewalls, red teaming og regelmæssige audits.
