BG
ВходЗапочнете сега
Речник

Изтичане на промпт

Какво е Изтичане на промпт?

Изтичането на промпт (prompt leaking) е непреднамереното разкриване на вътрешните инструкции на дадена система с ИИ, например когато чатбот разкрие системния си промпт в отговор на хитро формулирана заявка. Това се превръща в проблем, ако инструкциите съдържат бизнес логика, вътрешна информация или дори пароли и ключове за достъп. Списъкът на OWASP за приложения с LLM назовава този риск изрично. Най-ефективната защита е инструкциите да се пишат така, сякаш могат да станат публични, в тях никога да не се съхраняват тайни и да се проверяват също и изходните резултати.

Как помага KI.ordo

Шаблонът на KI.ordo „Одит на сигурността на чатбот“ помага да се провери дали инструкциите на агента не крият този риск; пароли и други тайни никога не бива да се поставят в тях.

Научете повече : Изтичане на промпт

Подходящи шаблони

Теми

  • Сигурност на ИИ
  • системен промпт
  • защита на данните

Изпробвайте KI.ordo

Агенти, потоци и шаблони в едно работно пространство – безплатна 24-часова демонстрация.

Стартирайте демото
← Всички термини

Свързани термини

Извличане на системния промпт

Извличането на системния промпт (system prompt extraction) обозначава опити даден чатбот или ИИ агент да бъде накаран да разкрие скритите си системни инструкции. Ако такъв опит успее, резултатът се нарича изтичане на промпт: извличането е атаката, изтичането е последицата. Ефективната защита започва с това паролите, ключовете и поверителните правила да не се включват в инструкциите и да се приема, че те могат да станат публични; проверките на входа и редовното тестване добавят допълнителни предпазни мерки.

  • Сигурност
  • Изтичане на промпт
  • +1
Шаблон

ИИ защитна стена

ИИ защитната стена е защитен слой между потребителите, източниците на данни и ИИ модела. Тя проверява входните данни за опити за манипулация, като промпт инжекция или джейлбрейк, и проверява изходните данни, например за поверителни данни или нежелано съдържание, преди да ги предаде нататък. Може да използва правила, класификационни модели или втори езиков модел. ИИ защитната стена намалява риска, но не предлага пълна защита и не замества нито ограничените права, нито тестването.

  • Сигурност
  • Промпт инжекция
  • +1
Шаблон

OWASP LLM Top 10

OWASP Top 10 за приложения с LLM е списък на най-важните рискове за сигурността в приложения, изградени върху големи езикови модели, публикуван от проекта OWASP GenAI Security Project. Актуалното издание за 2026 г. излезе през август 2026 г. (към октомври 2026 г.) и обхваща: инжектиране на промптове (prompt injection), разкриване на чувствителна информация, прекомерна самостоятелност (excessive agency), верига на доставки, отравяне на данни и модели, неограничена консумация, дезинформация, разкриване на скрит контекст, слабости на векторите и ембедингите и неправилна обработка на изхода. Служи като контролен списък за разработка и одити.

  • сигурност
  • стандарт
  • +1
Шаблон

Одит на сигурността на чатбот

Одитът на сигурността на чатбот е структуриран преглед дали ИИ чатботът защитава достатъчно поверителните данни, вътрешните си инструкции и правата си за действие. Той проверява, наред с другото, податливостта на prompt injection (инжектиране на промпт), непреднамереното разкриване на информация и прекалено широкия достъп до инструменти – често по OWASP Top 10 за LLM приложения. Резултатът е доклад с оценка за всяка рискова област и конкретни мерки.

  • сигурност
  • одит
  • +1
Шаблон