Hugging Face · 每日论文· 媒体 / 作者来源·精选
DuoLM：基于语言模型的高效个性化推荐框架
原文标题
DuoLM: Fast and Effective Personalized Recommendation with Language Models
AI 导读
研究团队提出DuoLM框架，通过紧凑推荐模型与高效运行时结合，实现个性化推荐。编码器LLM学习可重用的紧凑物品表示，个性化排序器LLM结合用户历史与反馈进行推荐。在单块H100上每秒可处理约26,400个候选评分，比vLLM服务教师模型的吞吐量提高约60倍，同时保持与专家教师模型相当的推荐质量。
来源：Hugging Face · 每日论文 · arxiv.org
导读与选稿说明
DuoLM框架通过模型压缩与优化推理，在保持推荐质量的同时将服务吞吐量提升60倍，适用于大规模个性化推荐场景。
导读由模型辅助整理，非独立核验。完整信息见原文。