Речник

Bias

Какво е Bias?

В областта на ИИ пристрастието (bias) означава систематично изкривяване на резултатите. То често произтича от небалансирани или исторически изкривени обучителни данни, но и от устройството на модела или от начина, по който е зададен въпросът. Известен пример: инструмент за подбор на кандидати, който се учи от минали решения за наемане, може да затвърди съществуващи неравнопоставености. В статистиката терминът означава и отклонението на една оценка от истинската стойност. Мерките за противодействие включват разнообразни данни, редовни одити и човешки решения по кадрови въпроси.

Теми

Етика на ИИ
Fairness
Качество на данните

Изпробвайте KI.ordo

Агенти, потоци и шаблони в едно работно пространство – безплатна 24-часова демонстрация.

Стартирайте демото

← Всички термини

Свързани термини

Дискриминация в ИИ

Дискриминация в ИИ има, когато една ИИ система неоправдано поставя хората в неблагоприятно положение въз основа на характеристики като пол, етнически произход, възраст или увреждане. Причините обикновено са изкривени обучителни данни, неподходящи заместващи признаци като пощенски кодове или липса на тестване; известни случаи има при подбора на персонал и кредитирането. Мерките включват представителни данни, редовно тестване за справедливост, прозрачност и човешки надзор над решенията, засягащи хора.

справедливост
пристрастие
+1

Данни за обучение

Данните за обучение са примерите, от които моделът с ИИ научава закономерности: големи текстови колекции за езиковите модели, изображения с етикети за моделите за изображения. Качеството, разнообразието и актуалността им до голяма степен определят колко надежден и справедлив е моделът и колко актуални ще са знанията му. За организациите е важно и дали доставчикът използва въведените от клиентите данни за по-нататъшно обучение.

Данни
Training
+1

Етика на ИИ

Етиката на ИИ се занимава с моралните въпроси около разработването и използването на ИИ: справедливост и дискриминация, прозрачност и обяснимост, защита на данните, отговорност за грешки, безопасност и последици за труда и обществото. За организациите тя става конкретна в насоки, оценки на риска, човешки надзор и честна комуникация за ограниченията на ИИ. Пример: преди да бъде въведен инструмент за подбор на автобиографии, той се проверява дали не поставя в неблагоприятно положение определени групи.

Етика
Отговорност
+1

Обяснимост

Обяснимостта (обясним ИИ, explainable AI, XAI) описва доколко може да се разбере защо една ИИ система е стигнала до определен резултат. Тя включва методи, които показват кои входни данни са повлияли най-силно на решението, както и практически помощни средства като сочене на източници и дневници. Обяснимостта е важна за доверието, за отстраняването на грешки и за регулирането – например когато банка трябва да обоснове защо е отказала заявление.

XAI
Прозрачност
+1