论文研究 ·
LAVOIR:让单轮决策编码器学会主动补全缺失信息
LAVOIR: Teaching a Single-Pass Decision Encoder When and What to Ask with Amortized Value of Information
66进行中1 条arXiv cs.AI
AI 解读
AI 生成推荐理由帮助轻量决策模型降低因信息不全导致的判断误差。
可自主判断问询价值的单遍决策编码器LAVOIR,准确率较基线显著提升
发生了什么
针对TypeSafe Jev、开源Laya等单遍文本决策模型遇到缺失信息只能猜测、无法主动索求信息的痛点,研究者提出LAVOIR模型。它将候选缺失信息槽位与答案选项并列输入,单轮前向传播同时输出决策分布、各槽位的问询预期决策增益,无需人工标注价值目标。实测每会话最多问询0.5次时准确率较从不问询高14.1个点,真实对话场景问询后准确率最高提升8.3个点,在SGD数据集上可将问询率从93%降至8.6%,单题中位响应仅31ms。
关键信息
- 模型
- LAVOIR(带信息价值路由的单遍决策编码器)
- 核心机制
- 单轮前向传播输出决策结果、待问询信息的预期增益,无需人工标注
- 核心性能
- 每会话问询≤0.5次时,较不问询基线准确率高14.1个百分点
- 问询率控制
- SGD数据集上可将问询率从93%降至8.6%
- 响应速度
- GH200硬件上单题中位响应时长31ms
- 基准对比
- 在Laya的12个基准测试中7项得分高于Laya原模型
背景
此前TypeSafe的Jev、开源对标模型Laya等单遍决策模型,可单轮前向传播输出校准概率的文本类型问题答案,但遇到关键信息缺失时无主动索求能力,只能靠现有信息猜测决策。
为什么重要
对任务型对话领域的开发者而言,可将信息价值判断逻辑与单遍推理流程整合,无需单独搭建复杂的问询策略模块,即可给现有低延迟决策模型补上主动补全缺失信息的能力;对行业来说,该方案降低了高准确率对话决策系统的部署门槛;对普通用户而言,系统只会在有明确价值时发起问询,大幅减少无效交互。
由 AI 根据原文生成,可能有疏漏,以原文为准。