BG
ВходЗапочнете сега
Речник

Индиректна промпт инжекция

Какво е Индиректна промпт инжекция?

При индиректната промпт инжекция манипулативните инструкции не са във входните данни на потребителя, а са скрити в съдържание, което ИИ системата обработва по пътя – като уеб страници, имейли или документи. Когато агент прочете такова съдържание, може да вземе скритите команди за истински задачи и например да разкрие данни. Предпазните мерки включват третиране на външното съдържание строго като данни, ограничаване на правата, проверка на входните данни и изискване на човешко одобрение за критични действия.

Как помага KI.ordo

KI.ordo предлага готов шаблон „ИИ защитна стена“, който може да се постави пред агент като допълнителен проверяващ слой, например когато съдържание постъпва през инструмента за четене на уеб страници.

Научете повече : Индиректна промпт инжекция

Подходящи шаблони

Теми

  • Сигурност
  • Промпт инжекция
  • Агенти

Изпробвайте KI.ordo

Агенти, потоци и шаблони в едно работно пространство – безплатна 24-часова демонстрация.

Стартирайте демото
← Всички термини

Свързани термини

ИИ защитна стена

ИИ защитната стена е защитен слой между потребителите, източниците на данни и ИИ модела. Тя проверява входните данни за опити за манипулация, като промпт инжекция или джейлбрейк, и проверява изходните данни, например за поверителни данни или нежелано съдържание, преди да ги предаде нататък. Може да използва правила, класификационни модели или втори езиков модел. ИИ защитната стена намалява риска, но не предлага пълна защита и не замества нито ограничените права, нито тестването.

  • Сигурност
  • Промпт инжекция
  • +1
Шаблон

Jailbreaking

Джейлбрейкът (jailbreaking) означава опити за заобикаляне на правилата за безопасност на ИИ модел чрез хитро формулирани входни данни, така че той да създава съдържание или да извършва действия, които е предвидено да отказва. За организациите това е риск, защото чатбот може например да разкрие поверителни инструкции или да реагира неподходящо. Защитните мерки включват ясни системни инструкции, проверка на входа и изхода, ограничени права, водене на дневник и редовни тестове за сигурност (red teaming).

  • Сигурност
  • Предотвратяване на злоупотреби
  • +1
Шаблон

сигурност на LLM

Сигурността на LLM обхваща всички мерки, които защитават приложенията, изградени върху големи езикови модели, от злоупотреби, изтичане на данни и нежелано поведение. Типични рискове са промпт инжекция, разкриване на поверителни инструкции или данни и агенти с прекомерни права. Защитата идва от няколко слоя: ясни инструкции, ограничени права, проверка на входните и изходните данни, ИИ защитни стени, red teaming и редовни одити.

  • сигурност
  • езикови модели
  • +1
Шаблон

OWASP LLM Top 10

OWASP Top 10 за приложения с LLM е списък на най-важните рискове за сигурността в приложения, изградени върху големи езикови модели, публикуван от проекта OWASP GenAI Security Project. Актуалното издание за 2026 г. излезе през август 2026 г. (към октомври 2026 г.) и обхваща: инжектиране на промптове (prompt injection), разкриване на чувствителна информация, прекомерна самостоятелност (excessive agency), верига на доставки, отравяне на данни и модели, неограничена консумация, дезинформация, разкриване на скрит контекст, слабости на векторите и ембедингите и неправилна обработка на изхода. Служи като контролен списък за разработка и одити.

  • сигурност
  • стандарт
  • +1
Шаблон