La superintelligenza artificiale (Artificial Superintelligence, ASI) è un concetto teorico che indica un'IA in grado di superare nettamente le persone in quasi tutte le capacità intellettuali, compresi ricerca, pianificazione e giudizio sociale. Un sistema del genere non esiste. Il termine si usa soprattutto in filosofia e nella ricerca sulla sicurezza dell'IA per discutere di controllo e di allineamento dei sistemi futuri ai valori umani.
Agenti, flussi e modelli in un’unica area di lavoro – demo gratuita di 24 ore.
Avvia demoL'intelligenza artificiale generale (Artificial General Intelligence, AGI) indica un ipotetico sistema di IA in grado di svolgere un'ampia gamma di compiti intellettuali a livello umano e di trasferire in modo flessibile ciò che ha appreso a nuovi ambiti. I sistemi attuali sono efficaci in molti compiti, ma mostrano ancora limiti, ad esempio di affidabilità. Non esiste una definizione né un metodo di misura condivisi; se e quando l'AGI sarà raggiunta è oggetto di dibattito tra gli esperti.
La singolarità tecnologica è un'idea teorica: un momento a partire dal quale l'intelligenza artificiale si migliora da sola così rapidamente che il progresso tecnico non è più prevedibile né controllabile dall'uomo. Il termine è stato reso noto dallo scrittore Vernor Vinge e dal futurologo Ray Kurzweil. Se e quando ciò possa accadere è una questione scientificamente aperta e controversa. L'idea influenza comunque il dibattito su sicurezza dell'IA, regolamentazione e rischi a lungo termine.
L'etica dell'IA si occupa delle questioni morali legate allo sviluppo e all'uso dell'IA: equità e discriminazione, trasparenza e spiegabilità, protezione dei dati, responsabilità per gli errori, sicurezza ed effetti su lavoro e società. Per le organizzazioni si traduce in linee guida, valutazioni del rischio, supervisione umana e comunicazione onesta sui limiti dell'IA. Esempio: prima di introdurre un filtro per le candidature si verifica che non svantaggi determinati gruppi.
La sicurezza degli LLM comprende tutte le misure che proteggono le applicazioni basate su modelli linguistici di grandi dimensioni da abusi, fughe di dati e comportamenti indesiderati. Rischi tipici sono la prompt injection, la divulgazione di istruzioni o dati riservati e agenti con permessi eccessivi. La protezione nasce da più livelli: istruzioni chiare, diritti limitati, controllo di input e output, firewall per l’IA, red teaming e audit regolari.
