论文研究 ·

LAVOIR:让单轮决策编码器学会主动补全缺失信息

LAVOIR: Teaching a Single-Pass Decision Encoder When and What to Ask with Amortized Value of Information

66进行中1 条arXiv cs.AI

AI 解读

AI 生成

推荐理由帮助轻量决策模型降低因信息不全导致的判断误差。

可自主判断问询价值的单遍决策编码器LAVOIR,准确率较基线显著提升

发生了什么

针对TypeSafe Jev、开源Laya等单遍文本决策模型遇到缺失信息只能猜测、无法主动索求信息的痛点,研究者提出LAVOIR模型。它将候选缺失信息槽位与答案选项并列输入,单轮前向传播同时输出决策分布、各槽位的问询预期决策增益,无需人工标注价值目标。实测每会话最多问询0.5次时准确率较从不问询高14.1个点,真实对话场景问询后准确率最高提升8.3个点,在SGD数据集上可将问询率从93%降至8.6%,单题中位响应仅31ms。

关键信息

模型
LAVOIR(带信息价值路由的单遍决策编码器)
核心机制
单轮前向传播输出决策结果、待问询信息的预期增益,无需人工标注
核心性能
每会话问询≤0.5次时,较不问询基线准确率高14.1个百分点
问询率控制
SGD数据集上可将问询率从93%降至8.6%
响应速度
GH200硬件上单题中位响应时长31ms
基准对比
在Laya的12个基准测试中7项得分高于Laya原模型

背景

此前TypeSafe的Jev、开源对标模型Laya等单遍决策模型,可单轮前向传播输出校准概率的文本类型问题答案,但遇到关键信息缺失时无主动索求能力,只能靠现有信息猜测决策。

为什么重要

对任务型对话领域的开发者而言,可将信息价值判断逻辑与单遍推理流程整合,无需单独搭建复杂的问询策略模块,即可给现有低延迟决策模型补上主动补全缺失信息的能力;对行业来说,该方案降低了高准确率对话决策系统的部署门槛;对普通用户而言,系统只会在有明确价值时发起问询,大幅减少无效交互。

由 AI 根据原文生成,可能有疏漏,以原文为准。

来源

  1. arXiv cs.AI ↗LAVOIR:让单轮决策编码器学会主动补全缺失信息LAVOIR: Teaching a Single-Pass Decision Encoder When and What to Ask with Amortized Value of Information针对单轮文本决策模型无法主动获取缺失信息的缺陷,提出LAVOIR主动询问机制。
返回 AI 热点