记者5月9日从西安电子科技大学获悉，由该校计算机科学与技术学院赵伟教授领衔的智能媒体计算机团队，通过数据可信重建以及弱监督深度学习框架，缓解了数据质量低及标注数据稀缺的难题，进一步揭示了神经网络的决策机制，有效提升了现有可信人工智能方法的鲁棒性、可解释性和安全性。其相关研究成果《可信冲突多模态学习算法》论文，日前获得国际人工智能领域顶级学术会议AAAI 2024杰出论文奖。
当人工智能深入我们的生活，成为医疗助手、驾车“司机”，我们依靠什么相信它们的“判断”?想要获得人类的信任，对人工智能决策而言并非易事。
在实际复杂场景中，决策任务的误判可能导致重大代价，如生命、财产损失等。传统可信人工智能多关注单模态数据，无法满足实际场景中多模态数据的分析决策，单模态数据有限的信息量导致单模态智能的可信度存在瓶颈。
为此，团队创新打破单模态数据思路，提出冲突多模态学习算法，通过数据可信重建以及弱监督深度学习框架这一算法，实现了证据层面的冲突多模态数据可信融合，能够在决策性能提高23.24%的同时，可靠地度量决策置信度，并从理论上证明了该方法能够量化冲突模态带来的负面影响，有效解决了当前研究面临的数据质量低、决策不可信等难题，为后续研究提供了重要的理论基础和技术支撑。
团队青年教师徐偲副教授解释道，该算法在给出置信度的同时，还会给出多模态数据的冲突度，若置信度不高且冲突度较高时，人工智能的决策便明显不太可信。这样一种全面综合的方法实现了多模态信息的“去伪存真”，使得多模态模型可以“兼听则明”。
据悉，自1984年AAAI设立最佳论文奖以来的41年间，该团队论文本次获奖是仅以国内单位(含港澳台地区)为完成单位获得该奖项的第二篇。
