Речник

ИИ и правата на човека

Какво е ИИ и правата на човека?

Понятието описва как ИИ системите могат да засягат правата на човека, като неприкосновеността на личния живот, равното третиране, свободата на изразяване или справедливия процес, както положително, така и отрицателно. Рисковете произтичат например от дискриминационни решения, масово наблюдение, биометрична идентификация или липса на средства за оспорване на решения. Международни рамки като Рамковата конвенция на Съвета на Европа за ИИ и Акта на ЕС за изкуствения интелект адресират тези въпроси. Организациите реагират с оценки на въздействието, прозрачност и човешки надзор.

Теми

Етика
Основни права
Регулиране

Изпробвайте KI.ordo

Агенти, потоци и шаблони в едно работно пространство – безплатна 24-часова демонстрация.

Стартирайте демото

← Всички термини

Свързани термини

Етика на ИИ

Етиката на ИИ се занимава с моралните въпроси около разработването и използването на ИИ: справедливост и дискриминация, прозрачност и обяснимост, защита на данните, отговорност за грешки, безопасност и последици за труда и обществото. За организациите тя става конкретна в насоки, оценки на риска, човешки надзор и честна комуникация за ограниченията на ИИ. Пример: преди да бъде въведен инструмент за подбор на автобиографии, той се проверява дали не поставя в неблагоприятно положение определени групи.

Етика
Отговорност
+1

Дискриминация в ИИ

Дискриминация в ИИ има, когато една ИИ система неоправдано поставя хората в неблагоприятно положение въз основа на характеристики като пол, етнически произход, възраст или увреждане. Причините обикновено са изкривени обучителни данни, неподходящи заместващи признаци като пощенски кодове или липса на тестване; известни случаи има при подбора на персонал и кредитирането. Мерките включват представителни данни, редовно тестване за справедливост, прозрачност и човешки надзор над решенията, засягащи хора.

справедливост
пристрастие
+1

Нормативна уредба за защита на данните

Нормативната уредба за защита на данните са правните разпоредби за работа с лични данни. В ЕС ключова рамка е Общият регламент относно защитата на данните (ОРЗД); той изисква, наред с другото, правно основание за всяка дейност по обработване, свеждане на данните до минимум, прозрачност към субектите на данни и договори за обработване на данни с доставчиците на услуги. При използване на ИИ организациите трябва да изяснят какви данни попадат във входните данни, източниците на знания и дневниците и къде се обработват.

ОРЗД
защита на данните
+1

Прозрачност на ИИ

Прозрачността на ИИ означава да се разкрива кога участва ИИ, на какви данни и източници се основават резултатите му и как се стига до решенията. Това включва маркиране на съдържание, генерирано от ИИ, проследими препратки към източници, дневници и документирани промени. Прозрачността създава доверие, улеснява отстраняването на грешки и отчасти се изисква от закона, например от задълженията за прозрачност на Акта на ЕС за изкуствения интелект, според които хората трябва да могат да разберат, че взаимодействат с ИИ.

Прозрачност
Доверие
+1