澳门官网正规电子游戏王湘浩人工智能杰出学者系列讲座(第二场)成功举办

发布时间:2022-01-03 点击:

2022年1月3日,澳门官网正规电子游戏网站、计算机科学与技术学院、软件学院在东荣会议中心报告厅联合举办了澳门官网正规电子游戏王湘浩人工智能杰出学者系列讲座第二场活动,活动邀请了清华大学朱军教授作主题报告。计算机学院院长杨博、澳门官网正规电子游戏网站党委书记张晓冰、副书记兼副院长刘丽、副院长伍铁如、行政副院长韩小伟及澳门官网正规电子游戏网站全体师生出席了报告会,报告由澳门官网正规电子游戏网站院长常毅主持。

常毅详细介绍了朱军教授的基本情况、研究方向及其取得的突出成绩,并期待未来能与清华大学等兄弟高校和科研院所继续加强学术交流和科研合作,共同为人工智能领域的发展贡献力量。

朱军以“深度学习的对抗攻击和防御”为题,介绍了深度学习模型在计算机视觉、自然语言处理、视频理解等领域的实际应用中所面临的对抗噪声攻击风险以及相应的解决方案。首先,他以计算机视觉为例,向同学们详细地介绍了黑盒攻击、白盒攻击、基于决策的攻击等常见攻击手段,以及相对应的鲁棒训练、输入转换、随机处理、模型集成、可验证防御等防御策略。随后,他分享了他的团队三篇近期工作成果,包括对抗鲁棒性中对softmax交叉熵损失函数的再思考、面向鲁棒深度学习的对抗分布式训练以及图像分类任务中对抗鲁棒性的基准。最后,朱军教授指出,从准确度到鲁棒性的视角转换能够给我们带来更多对机器学习的启发性思考;他认为,深度学习中对抗攻击和防御之间的差距以及基准测试的公平性问题仍是目前的重要挑战;而对于人工智能的安全性问题,除了对抗噪声攻击风险以外,还有更多的如隐私、可解释性、人工智能滥用等方面值得我们进一步研究。

报告结束后,朱军与师生进行了深入交流,分享了自己对噪声对抗样本与真实样本分布之间关系、目前鲁棒训练在大规模数据集上出现的性能瓶颈、强化学习在对抗攻击和防御上的应用,以及对抗攻击对深度模型可解释性带来的启发等问题的看法,并阐述了自己对目前传统机器学习和贝叶斯学派深度学习所面临机遇和挑战的启发性思考。