基于动态软提示的少样本主动学习框架PromptAL:优化决策边界与目标分布对齐

【字体: 时间:2025年09月04日 来源:Knowledge-Based Systems 7.6

编辑推荐:

  本文提出创新性混合主动学习(AL)框架PromptAL,通过样本感知动态软提示(Sample-Aware Dynamic Soft Prompts)调整预测分布,结合不确定性估计与全局/局部多样性(Global/Local Diversity)策略,显著提升少样本场景下目标分布拟合效率。实验表明其在6个域内和3个域外(OOD)任务中超越9种基线方法,为AL领域提供新范式。

  

亮点
本研究首次将软提示机制整合至主动学习(AL)范式,提出PromptAL框架通过动态调整预测分布优化决策边界,突破少样本场景下分布偏差的瓶颈。

方法学
PromptAL包含四阶段:(1) 基于未标记数据构建样本感知动态软提示,调整预训练语言模型(PLMs)预测分布;(2) 计算熵值得分量化不确定性;(3) 在知识特征空间聚类实现全局多样性;(4) 联合加权评分筛选兼具不确定性和局部多样性的高质量样本。

实验验证

  • 核心实验:少样本场景下PromptAL准确率显著优于基线
  • 域外测试:在3个OOD任务中展现卓越泛化能力
  • 消融研究:动态软提示对性能提升贡献度达32.7%
  • 样本分析:所选样本在类别平衡性/代表性等维度最优

讨论
与Llama 3等大语言模型(LLMs)对比实验表明,RoBERTa-Base基础的PromptAL在少样本分类任务中保持竞争优势,验证其在资源受限场景的应用价值。

结论
PromptAL通过动态软提示机制有效弥合经验分布与目标分布差距,为AL领域提供可扩展的新型研究框架。代码已开源。

(注:严格遵循生命科学领域术语规范,保留原文技术符号如PLMs/OOD,未包含文献/图示标识)

相关新闻
生物通微信公众号
微信
新浪微博
  • 急聘职位
  • 高薪职位

知名企业招聘

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号