📄 中文摘要
LWM-Temporal 是大型无线模型(LWM)系列的新成员,专注于无线信道的时空特性。作为一种任务无关的基础模型,LWM-Temporal 学习通用的信道嵌入,能够捕捉由移动性引起的演变,并可在各种下游任务中重复使用。为了实现这一目标,LWM-Temporal 在角度-延迟-时间域中操作,引入了稀疏时空注意力(SSTA),这是一种传播对齐的注意力机制,限制了交互仅在物理上合理的邻域内进行,从而将注意力复杂度降低了一个数量级,同时保持几何一致的依赖关系。LWM-Temporal 采用自监督方式进行预训练,使用物理信息掩码进行训练。