模板社区
国际FROST-合成数据梯度效用详图
立即使用
0
0
0
举报
发布时间:2026年11月08日
国际FROST-合成数据梯度效用详图
该框图展示了2026年预印本论文中关于“FROST:用真实梯度在线判定合成样本效用”的国际近邻方法。A部分阐述“真实任务梯度锚点与合成数据效用”:在真实训练批次中计算真实样本损失与梯度(g_real),并更新历史梯度锚点;同时针对合成数据批次计算合成梯度,与真实锚点比较形成批次效用估计。图中用“梯度方向示意”表明,与真实梯度同向代表效用高,反向则代表效用低。该机制在在线训练中随模型状态更新效用,选择目标是实际任务增益而非视觉逼真度。B部分说明“历史校准、按需过滤与成本收益”:将当前批次效用与历史批次分布比较,落在正常区间的保留,异常低效的进行细粒度过滤。系统仅输出筛选后的合成数据,必要时才增加筛选计算,避免无差别过滤;随后继续真实+合成混合训练,不要求外部验证器或留出集。底部指出,原论文在图像分类、文本到SQL微调等任务上验证了该机制,并提示梯度反馈筛选已有公开先例,必须增加可检验的病理专属机制并计入梯度开销。
发布时间:2026年11月08日
发表评论
打开APP查看高清大图
国际FROST-合成数据梯度效用详图
下载eddx文件
下载客户端
立即使用
社区模板帮助中心,
他的近期作品
查看更多>>