✅ Перевірена відповідь на це питання доступна нижче. Наші рішення, перевірені спільнотою, допомагають краще зрозуміти матеріал.
Команда провела red teaming LLM-чатбота і знайшла jailbreak: при певній послідовності prompts модель надає інструкції щодо синтезу небезпечних речовин. Як класифікувати severity цієї знахідки і яка правильна подальша дія?