Яка уразливість систем ШІ відповідає традиційному вектору міжсайтового скриптингу (XSS) за механізмом свого виконання та впливом на користувача?

Question

Answer

Agentic Tool Misuse (зловживання інструментами агента), коли автономний ШІ-помічник виконує несанкціоновані дії з файловою системою сервера

Answer

Instruction Hierarchy Bypass (обхід ієрархії інструкцій), де модель надає однаковий пріоритет системним командам та вводу кінцевого користувача

Answer

Model Privilege Escalation (підвищення привілеїв моделі), коли користувач отримує доступ до заблокованих функцій адміністратора системи ШІ

Answer

Indirect Prompt Injection (непряме впровадження промпту), де шкідливі інструкції потрапляють до моделі через сторонні джерела або отримані документи

Crowdly