Hugging Face · 每日论文· 媒体 / 作者来源·精选
文本图软提示中的令牌崩溃现象研究
原文标题
On the Token Collapse Phenomenon in Textual Graph Soft Prompting
AI 导读
研究深入分析了G-Retriever方法，发现其图软提示存在令牌崩溃现象，即图令牌在不同输入间变得几乎无法区分。实验表明，替换令牌对准确率无影响，且学习到的常量提示性能相当或更优。研究提出两阶段流程生成非崩溃令牌，并证明令牌变异性不等于模型实际使用图信息。
来源：Hugging Face · 每日论文 · arxiv.org
导读与选稿说明
揭示了图软提示方法中的关键缺陷，提供了评估图令牌对齐的实用方法，适用于图神经网络与LLM结合的研究与应用。
导读由模型辅助整理，非独立核验。完整信息见原文。