
-
生物通官微
陪你抓住生命科技
跳动的脉搏
基于动态软提示的少样本主动学习框架PromptAL:优化决策边界与目标分布对齐
【字体: 大 中 小 】 时间:2025年09月04日 来源:Knowledge-Based Systems 7.6
编辑推荐:
本文提出创新性混合主动学习(AL)框架PromptAL,通过样本感知动态软提示(Sample-Aware Dynamic Soft Prompts)调整预测分布,结合不确定性估计与全局/局部多样性(Global/Local Diversity)策略,显著提升少样本场景下目标分布拟合效率。实验表明其在6个域内和3个域外(OOD)任务中超越9种基线方法,为AL领域提供新范式。
亮点
本研究首次将软提示机制整合至主动学习(AL)范式,提出PromptAL框架通过动态调整预测分布优化决策边界,突破少样本场景下分布偏差的瓶颈。
方法学
PromptAL包含四阶段:(1) 基于未标记数据构建样本感知动态软提示,调整预训练语言模型(PLMs)预测分布;(2) 计算熵值得分量化不确定性;(3) 在知识特征空间聚类实现全局多样性;(4) 联合加权评分筛选兼具不确定性和局部多样性的高质量样本。
实验验证
讨论
与Llama 3等大语言模型(LLMs)对比实验表明,RoBERTa-Base基础的PromptAL在少样本分类任务中保持竞争优势,验证其在资源受限场景的应用价值。
结论
PromptAL通过动态软提示机制有效弥合经验分布与目标分布差距,为AL领域提供可扩展的新型研究框架。代码已开源。
(注:严格遵循生命科学领域术语规范,保留原文技术符号如PLMs/OOD,未包含文献/图示标识)
生物通微信公众号
知名企业招聘