Sztuczna superinteligencja (ASI) to teoretyczna koncepcja AI, która znacząco przewyższa ludzi w niemal wszystkich zdolnościach intelektualnych, w tym w badaniach, planowaniu i ocenie społecznej. Taki system nie istnieje. Pojęcie to jest używane głównie w filozofii i badaniach nad bezpieczeństwem AI do omawiania kwestii kontroli i zgodności przyszłych systemów z wartościami ludzkimi.
Agenci, przepływy i szablony w jednym obszarze roboczym – bezpłatne demo na 24 godziny.
Uruchom demoOgólna sztuczna inteligencja (AGI) to hipotetyczny system AI, który potrafi sprostać szerokiemu zakresowi zadań intelektualnych na poziomie człowieka i elastycznie przenosić zdobytą wiedzę na nowe dziedziny. Dzisiejsze systemy radzą sobie dobrze z wieloma zadaniami, ale nadal mają ograniczenia, na przykład w niezawodności. Nie istnieje powszechnie przyjęta definicja ani sposób pomiaru, a to, czy i kiedy AGI zostanie osiągnięta, jest sporne wśród ekspertów.
Osobliwość technologiczna (singularity) to koncepcja teoretyczna: moment, w którym sztuczna inteligencja ulepsza samą siebie tak szybko, że postęp technologiczny przestaje być przewidywalny i kontrolowany przez ludzi. Pojęcie spopularyzowali pisarz Vernor Vinge i futurysta Ray Kurzweil. To, czy i kiedy mogłoby do tego dojść, jest naukowo otwarte i sporne. Mimo to idea ta wpływa na dyskusje o bezpieczeństwie AI, regulacjach i długoterminowych zagrożeniach.
Etyka AI zajmuje się pytaniami moralnymi związanymi z rozwojem i wykorzystaniem AI: sprawiedliwością i dyskryminacją, przejrzystością i wyjaśnialnością, ochroną danych, odpowiedzialnością za błędy, bezpieczeństwem oraz skutkami dla pracy i społeczeństwa. W organizacjach konkretyzuje się w wytycznych, ocenach ryzyka, nadzorze człowieka i szczerej komunikacji o ograniczeniach AI. Przykład: przed wprowadzeniem narzędzia do selekcji CV sprawdza się, czy nie dyskryminuje ono określonych grup.
Bezpieczeństwo LLM obejmuje wszystkie środki chroniące aplikacje zbudowane na dużych modelach językowych przed nadużyciami, wyciekiem danych i niepożądanym zachowaniem. Typowe zagrożenia to prompt injection, ujawnienie poufnych instrukcji lub danych oraz agenci z nadmiernymi uprawnieniami. Ochronę zapewnia kilka warstw: jasne instrukcje, ograniczone prawa, kontrola danych wejściowych i wyjściowych, zapory AI, red teaming i regularne audyty.
