在大型语言模型和生成架构的快速发展中，开发者社区对预测能力的过度追求，导致了对因果理解的忽视。作为一名数据科学家和医学博士，作者在NHS的癌症商业智能领域工作，并在TalentHacked担任联合创始人，亲眼目睹了黑箱模型在高风险环境中的失败。无论是预测患者中风风险的算法，还是决定技术专业人士是否符合英国全球人才签证资格的系统，缺乏解释能力的模型不仅是技术债务，更是系统性负担。需要转变思路，从构建...