DG-Mamba: Robust and Efficient Dynamic Graph Structure Learning with
Selective State Space Models
论文的创新点
结论
本文提出了一种健壮高效的线性时间复杂度DGSL(动态图结构学习)框架DG-Mamba。在状态离散化的SSM中,核化的消息传递具有很高的效率。学习结构用DGSL的建议PRI正则化。揭示了长期相关性和潜在的预测模式,以加强稳健性。广泛的实验表明,它在对抗对手攻击的12个最先进的基线上具有优越性。
Mamba: Linear-Time Sequence Modeling with Selective State Spaces
论文创新点
结论
我们在结构化状态空间模型中引入了一种选择机制,允许它们在序列长度线性扩展的同时执行上下文相关的推理。当整合到简单的无关注点架构中时,Mamba在不同的域集合上实现了最先进的结果,在这些领域中,它的性能与强大的Transformer模型不相上下,甚至超过了它们。我们的结果表明,Mamba是一个很有可能成为通用序列模型骨架的候选基因。