文章主要内容总结
本文聚焦于图感知大语言模型(graph-aware Large Language Models, LLMs)的对抗性攻击与防御,是首个系统研究该领域脆弱性的工作。主要内容包括:
- 研究背景:随着图感知LLMs(如LLAGA、GRAPHPROMPTER)在节点分类等任务中逐渐替代图神经网络(GNNs),其对抗性攻击的脆弱性尚未被探索。
- 攻击分析:
- 评估了现有GNN对抗性攻击方法(NETTACK、METAATTACK)在图感知LLMs上的迁移性,包括训练时的投毒攻击(poisoning attacks)和测试时的规避攻击(evasion attacks)。
- 发现LLAGA因节点序列模板设计更易受攻击,而GRAPHPROMPTER的GNN编码器更稳健,但两者均易受不可察觉的特征扰动攻击。
- 提出LLAGA的新攻击面:通过注入恶意节点作为占位符,可严重降低其性能。
- 防御框架:提出端到端防御框架GALGUARD,结合LLM-based特征校正模块(缓解特征扰动)和适配的GNN防御(抵御结构攻击)。
文章创新点
- 首次系统探究图感知LLMs的对抗性攻击脆弱性,验证了GNN攻击方法对该类模型的有效性。
- 提出图感知LLMs的分类法,基于图编码方式分为“文本描述型”和“学习投影器型”。
- 发现LLAGA的节点序列模板注入