历时三天的2019世界人工智能大会落幕！500余位国内外顶尖高校、行业领军企业、国际组织的重要嘉宾云集上海，盛况空前。在本次盛会上，著名计算机软件科学家、上海人工智能安全专委会主任、尊龙凯吋官方网站何积丰院士作主题报告，分享前沿科研进展。此外，更有多位学院师生、校友的身影出现在大会现场。

何积丰院士入选上海人工智能发展“智囊团”

8月28日，2019世界人工智能大会开幕前夕，上海市召开人工智能战略咨询专家会议，市委书记李强出席大会并讲话。会上，何积丰院士与罗杰·瑞迪、高文、陈杰、梅宏、黄晓庆等6位专家增补为上海市人工智能战略咨询专家委员会成员。李强为增补专家颁发聘书。

李强在会上指出，当前人工智能发展面临新的重大机遇，我们要深入贯彻落实习近平总书记考察上海重要讲话精神，把开放之门敞得更大，把创新之火点得更旺，把包容生态建得更好，不断增创先发优势、彰显策源优势、释放场景优势、厚植生态优势，加快向具有全球影响力的人工智能创新策源、应用示范、制度供给和人才集聚高地进军。

李强为何积丰院士颁发上海市人工智能战略咨询专家聘书

主题报告交流前沿进展

新增为上海市人工智能战略咨询专家委员会成员后，何积丰院士于大会期间作数场主题报告。在8月30日下午主题为“安全赋能、智创未来”的2019世界人工智能安全高端对话中，何积丰以“安全可信人工智能”为题发表主旨演讲。

“人工智能目前无处不在，引领着我国的产业变革与经济转型，然而人工智能技术是否安全可信尚未得到严格的验证。自动驾驶事故、数据泄露、机器人失误等事件都表明目前人工智能技术存在巨大的安全隐患。”

何积丰指出，新一代的通用人工智能需要感知、管理、控制、决策等全息智能技术的进一步发展，但同时新技术又在数据安全、网络安全、算法安全、隐私安全以及法律法规、社会伦理等方面存在安全漏洞。“人工智能技术应当考虑可信问题，人工智能应当具备与人类智能类似的特质，包括鲁棒性、自适应性、透明性、可解释性、公平性、自我反省等。”

作为可信软件领域的国际专家，何积丰早已于2017年香山会议时首次提出可信人工智能的理念，认为软硬件作为人工智能技术的载体，其可信问题是不可避免的。目前的人工智能系统主要基于机器学习技术，存在过度依赖数据与标注、模型黑盒且复杂度高、可解释性差等问题，无法通过形式化验证等软件工程技术对其进行理论验证与分析，从而无法预测其可信性。

何积丰认为，可信人工智能研究的关键是建立理论上可证明的人工智能系统。目前可信人工智能尚存在许多技术问题，特别是由于其处在复杂的信息-物理-人融合系统中。环境建模与人在回路存在不确定性问题；智能模块与可信软件存在语义鸿沟，无法通过准确形式化描述；目前的系统建模方法还不适用于智能系统与机器学习算法；此外，针对大规模复杂系统的人工智能可信验证引擎也是亟需突破的技术难点。

会上，何积丰院士为2019世界人工智能产业安全十大创新实践颁奖

同时，何积丰表示，人工智能发展需要与上海“四个中心”建设结合，明确人工智能的开发应用边界，以人的需求为出发点，多考虑老百姓是否得益，能否提高人们的生活水平，需与产业发展、社会发展相适应。

新老软院人现场集结

学院陈闻杰副教授表示：“本届世界人工智能大会的主题是‘智联世界，无限可能’。我体会更深的还是‘人工智能，以人为本’。不管是万众瞩目的双马对话，还是更面向专业听众的主论坛，其核心还在于人工智能和人的关系问题。人工智能的炉火已经烧得通红，水还没有烧开，或许我们应该一方面更大规模的培养人才，一方面在伦理安全方面扎紧篱笆，静候新的时代。”

刚入学的研一新生张瑞在参加了大会后不禁感慨到：“我们无比荣幸，生活在这样一个变革的时代，计算机、互联网，以及由此发展出的人工智能技术，给了我们一个画笔，让我们有机会去描绘自己理想的世界。人工智能技术的蓬勃发展，一定会持续推动社会的进步，成为不断带给我们新奇与美好的强大引擎”。

研二学生王治豪也表示，本次大会最大的收获便是“给参会的研究人员指明了一个大的研究方向，让我们明白下一步往哪里走才是正确的”。

在安全分论坛上，学院2002级校友、上海工业控制安全创新科技有限公司COO刘毅代表企业与珠海格力电器股份有限公司工艺部、科士恩科技（上海）有限公司签署三方合作意向书。该项目提出了多模态协同的AI通用背景模型协同工业检测。

来源丨校宣传部、参会师生及校友