Речник

Етика на ИИ

Какво е Етика на ИИ?

Етиката на ИИ се занимава с моралните въпроси около разработването и използването на ИИ: справедливост и дискриминация, прозрачност и обяснимост, защита на данните, отговорност за грешки, безопасност и последици за труда и обществото. За организациите тя става конкретна в насоки, оценки на риска, човешки надзор и честна комуникация за ограниченията на ИИ. Пример: преди да бъде въведен инструмент за подбор на автобиографии, той се проверява дали не поставя в неблагоприятно положение определени групи.

Теми

Етика
Отговорност
Fairness

Изпробвайте KI.ordo

Агенти, потоци и шаблони в едно работно пространство – безплатна 24-часова демонстрация.

Стартирайте демото

← Всички термини

Свързани термини

Bias

В областта на ИИ пристрастието (bias) означава систематично изкривяване на резултатите. То често произтича от небалансирани или исторически изкривени обучителни данни, но и от устройството на модела или от начина, по който е зададен въпросът. Известен пример: инструмент за подбор на кандидати, който се учи от минали решения за наемане, може да затвърди съществуващи неравнопоставености. В статистиката терминът означава и отклонението на една оценка от истинската стойност. Мерките за противодействие включват разнообразни данни, редовни одити и човешки решения по кадрови въпроси.

Етика на ИИ
Fairness
+1

Прозрачност на ИИ

Прозрачността на ИИ означава да се разкрива кога участва ИИ, на какви данни и източници се основават резултатите му и как се стига до решенията. Това включва маркиране на съдържание, генерирано от ИИ, проследими препратки към източници, дневници и документирани промени. Прозрачността създава доверие, улеснява отстраняването на грешки и отчасти се изисква от закона, например от задълженията за прозрачност на Акта на ЕС за изкуствения интелект, според които хората трябва да могат да разберат, че взаимодействат с ИИ.

Прозрачност
Доверие
+1

Обяснимост

Обяснимостта (обясним ИИ, explainable AI, XAI) описва доколко може да се разбере защо една ИИ система е стигнала до определен резултат. Тя включва методи, които показват кои входни данни са повлияли най-силно на решението, както и практически помощни средства като сочене на източници и дневници. Обяснимостта е важна за доверието, за отстраняването на грешки и за регулирането – например когато банка трябва да обоснове защо е отказала заявление.

XAI
Прозрачност
+1

ИИ и правата на човека

Понятието описва как ИИ системите могат да засягат правата на човека, като неприкосновеността на личния живот, равното третиране, свободата на изразяване или справедливия процес, както положително, така и отрицателно. Рисковете произтичат например от дискриминационни решения, масово наблюдение, биометрична идентификация или липса на средства за оспорване на решения. Международни рамки като Рамковата конвенция на Съвета на Европа за ИИ и Акта на ЕС за изкуствения интелект адресират тези въпроси. Организациите реагират с оценки на въздействието, прозрачност и човешки надзор.

Етика
Основни права
+1