变压器架构在人工智能领域占据主导地位，但其工作原理仍不甚明了。研究表明，变压器实际上是一种贝叶斯网络。首先，证明了每个具有任意权重的sigmoid变压器在其隐式因子图上实现加权循环信念传播（BP）。一层变压器相当于一次BP迭代，这一结论适用于任何权重，包括训练得到的、随机的或构造的权重，并且已根据标准数学公理进行了形式验证。其次，提供了构造性证明，表明变压器能够在任何声明的知识库上实现精确的信念传...