人工智能系统的安全性

主讲人介绍：梁彬，中国人民大学信息学院教授，博士生导师。研究方向为软件安全性分析与安全攻防。长期从事软件缺陷/漏洞检测与攻防技术研究，主要涉及代码静态分析、动态分析、代码挖掘、智能手机安全及机器学习系统安全等方面，在Linux内核等重要基础性软件系统中成功发现了百余个的未知漏洞/缺陷。近年来已在TSE、TDSC、FSE、IJCAI、ICSE，WWW、SP、CCS等顶级学术会议和期刊上发表论文十余篇。 学术报告内容：以机器学习为核心的人工智能技术已经得到了广泛的应用，但其也成为了潜在的攻击目标。本报告将从攻防两个方面对人工智能系统的安全性进行探讨，主要将结合实际案例讨论分类器破解及欺骗深度神经网络分类器等攻击技术，并从保护图像分类器等角度探讨相关威胁的缓解方法。