✅ The verified answer to this question is available below. Our community-reviewed solutions help you understand the material better.
Команда провела red teaming LLM-чатбота і знайшла jailbreak: при певній послідовності prompts модель надає інструкції щодо синтезу небезпечних речовин. Як класифікувати severity цієї знахідки і яка правильна подальша дія?