ARACH（自适应上下文中心的注意力重新分配）是一种无需训练的推理时插件，旨在增强大型语言模型（LLMs）的性能。尽管LLMs已经取得了显著的成果，但进一步提升往往需要昂贵的训练成本。这促使了对后训练技术的关注，尤其是那些在推理时无需更新权重的训练自由方法。大多数训练自由的方法将模型视为黑箱，通过输入/输出级别的干预来改善输出，如提示设计和通过重复采样、重新排名/验证或搜索进行的测试时缩放。ARA...