2022年9月25日和9月27日上午,美国密苏里大学哥伦比亚分校信息学研究所许东教授应金沙威尼斯欢乐娱人城邀请,以线上腾讯会议的形式为金沙威尼斯欢乐娱人城的老师和同学们作了两场题为“Explainable AI, Attention Mechanism and Transformer”的学术报告。
近些年来,随着相关领域的发展,深度学习模型已经表现出优越的性能和潜力,然而,受可解释性的限制,深度学习常常被认为“黑盒”。目前,可解释的人工智能(Explainable AI, XAI)以“为模型提供可解释性进而提升模型表现”为目标与主题,已经引起了广泛的研究并取得了卓越成就。在本次报告中,许东教授从XAI的范畴开始,由浅入深地带领大家学习了典型的模型无关方法如LIME和SHAP,而后,许东教授详细介绍了许多基于显著图技术(Saliency Map)的模型思想来可视化关键特征信息,主要包括基于梯度的反向传播(Gradient-based Backpropagation)、反卷积网络(Deconvolutional Networks)与类激活图(Class Activation Maps, CAMs)等。同时,许东教授讲解了基于注意力机制的相关模型如Transformer和BERT等。报告的最后,许东教授热情地与同学们展开互动,并就同学和老师们的问题进行了详尽的解答。本次报告受到了广大师生的热烈响应和强烈反响。
许东老师是电气工程与计算机科学系特聘教授,任教于克里斯托弗·邦德生命科学中心和是密苏里大学哥伦比亚分校信息学研究所。许东老师于2007-2016年担任计算机科学系主任,2017-2020年担任信息技术项目主任。许东老师于1995年博士毕业于伊利诺伊大学,在美国国家癌症研究所做了两年的博士后工作。在加入密苏里大学之前,许东老师一直是橡树岭国家实验室的科学家。30年来,许东老师在计算生物学和生物信息学的多个领域进行了研究,包括单细胞数据分析、蛋白质结构预测与建模、蛋白质翻译后修饰、蛋白质定位预测、计算系统生物学、生物信息系统和生物信息学在人类、微生物和植物中的应用等。自2012年以来,许东老师的研究重点为生物信息学和深度学习之间的接口。许东教授现已发表了400多篇论文,被引用21,000余次。并于2015年入选美国科学促进会研究员,2020年入选美国医学与生物工程研究所研究员。