大型语言模型（LLMs）在能力上取得了显著进展，但确保其对有害提示的安全性仍然是一个关键挑战。研究表明，LLMs中有害查询和安全查询的潜在表示（嵌入）通常具有线性可分性，这一特性被用于通过扰动有害查询的嵌入向安全子空间构建攻击。基于这一观察，提出了一种名为嵌入空间分离（ES2）的表示级微调方法，通过显式扩大有害和安全表示在嵌入空间中的距离来提高LLM的安全性。为了防止模型一般能力的下降，引入了一种...