Artificial superintelligence (ASI) is een theoretisch concept voor een AI die mensen op bijna alle intellectuele vermogens aanzienlijk overtreft, waaronder onderzoek, planning en sociaal oordeel. Zo’n systeem bestaat niet. De term wordt vooral in de filosofie en het onderzoek naar AI-veiligheid gebruikt om vragen over controle en over het afstemmen van toekomstige systemen op menselijke waarden te bespreken.
Agents, workflows en sjablonen in één werkruimte – gratis demo van 24 uur.
Demo startenArtificial general intelligence (AGI) verwijst naar een hypothetisch AI-systeem dat een breed scala aan intellectuele taken op menselijk niveau aankan en het geleerde flexibel naar nieuwe gebieden kan overbrengen. Huidige systemen presteren goed op veel taken, maar vertonen nog beperkingen, bijvoorbeeld in betrouwbaarheid. Er bestaat geen algemeen aanvaarde definitie of meetmethode, en of en wanneer AGI wordt bereikt, is onder deskundigen omstreden.
De technologische singulariteit is een theoretisch idee: een punt waarop kunstmatige intelligentie zichzelf zo snel verbetert dat technologische vooruitgang door mensen niet meer te voorspellen of te beheersen is. De term werd gepopulariseerd door de schrijver Vernor Vinge en de futurist Ray Kurzweil. Of en wanneer dit zou kunnen gebeuren, is wetenschappelijk open en omstreden. Toch beïnvloedt het idee de discussies over AI-veiligheid, regulering en risico’s op lange termijn.
AI-ethiek behandelt de morele vragen rond de ontwikkeling en het gebruik van AI: eerlijkheid en discriminatie, transparantie en verklaarbaarheid, gegevensbescherming, verantwoordelijkheid voor fouten, veiligheid en de gevolgen voor werk en samenleving. Voor organisaties wordt het concreet in richtlijnen, risicobeoordelingen, menselijk toezicht en eerlijke communicatie over de grenzen van AI. Voorbeeld: voordat een tool voor cv-screening wordt ingevoerd, wordt gecontroleerd of die bepaalde groepen benadeelt.
LLM-beveiliging omvat alle maatregelen die toepassingen op basis van grote taalmodellen beschermen tegen misbruik, datalekken en ongewenst gedrag. Typische risico’s zijn prompt injection, het prijsgeven van vertrouwelijke instructies of gegevens, en agents met te ruime rechten. Bescherming komt uit meerdere lagen: duidelijke instructies, beperkte rechten, controles op invoer en uitvoer, AI-firewalls, red teaming en regelmatige audits.
