我国学者在可信人工智能的多模态融合学习领域取得进展

　　

图 可信冲突多模态学习算法

　　可信人工智能主要研究人工智能算法的可解释性、可靠性和不确定性估计等，目标是解决黑盒决策、算法偏见等问题，对人工智能技术在医疗、自动驾驶等场景的应用具有重要推动作用。

　　在国家自然科学基金项目（批准号：62133012、61936006）等资助下，西安电子科技大学赵伟教授团队的研究成果“可信冲突多模态学习算法（Reliable Conflictive Multi-view Learning）”获AAAI-24最佳论文奖。近年来，利用多模态信息提升模型决策置信度成为可信人工智能的热门研究方向。传统多模态可信融合学习无法处理模态间的决策冲突，导致实际应用时效果反而不及单模态，已成为多模态可信融合的瓶颈问题。该成果在这一难题上实现突破，提出一种新的多模态深度融合方法，实现了证据层面的冲突多模态数据可信融合，能够在决策性能提高23.24%的同时，可靠地度量决策置信度，并从理论上证明了该方法能够量化冲突模态带来的负面影响。AAAI是人工智能领域历史最悠久、涵盖内容最广泛的国际顶级学术会议之一。自1984年该学术会议设立最佳论文奖评选以来的41年中，该论文是以国内单位（含港澳台地区）为第一单位获得该奖项的第3篇论文。

　　西安电子科技大学赵伟教授团队聚焦实际复杂场景中的智能信息处理和决策问题，在低质量数据知识提取、鲁棒决策环境建模和面向高风险决策的可信深度学习等关键问题上取得进展。相关研究成果发表在《IEEE模式分析与机器智能汇刊》（TPAMI）、《IEEE知识与数据工程汇刊》（TKDE）、《神经信息处理系统大会》（NeurIPS）、《国际人工智能协会人工智能大会》（AAAI）等人工智能领域的国际期刊和会议，被来自麻省理工、斯坦福、剑桥、普林斯顿等国际高校和谷歌、微软、IBM等国际企业的多个知名学者团队引用和正面评价。研究成果获得省部级自然科学奖一等奖等，并部分应用于上海瑞金医院和阿里巴巴广告平台，以及京东、飞步等企业的业务场景。