在生产环境中使用大型语言模型（LLMs）时，系统性失败往往比随机错误更为常见。这些失败源于模型的架构和训练过程。研究者识别了11种行为失效模式，并引用了60多篇学术文献。其中，'幻觉'或'虚构'是一个主要问题，模型可能会自信地引用不存在的库，并在被问及原因时编造出看似合理的解释。研究者Farquhar等人提出了'语义熵'的概念来检测这种现象，通过聚类语义上等价的答案并计算熵值来判断。高熵值通常意味...