热门标签 | HotTags
当前位置:  开发笔记 > 后端 > 正文

2021世界人工智能大会AIDebate:图神经网络是否是实现认知智能的关键?

点击蓝字关注我们AITIME欢迎每一位AI爱好者的加入!2021年7月10日,WAIC(2021世界人工智能大会)“图神经网

点击蓝字

关注我们

AI TIME欢迎每一位AI爱好者的加入!

2021年7月10日,WAIC(2021世界人工智能大会)“图神经网络与认知智能前沿技术论坛”在上海世博中心成功举办。清华大学计算机科学与技术系教授李涓子,复旦大学计算机科学技术学院教授黄萱菁,清华大学计算机科学与技术系副教授许斌,阿里巴巴达摩院资深算法专家杨红霞,浙江大学副教授、人工智能系系主任杨洋,清华大学电子工程系助理研究员戴国浩等学术大咖和产业大拿,共同探索“图神经网络与认知智能”的技术现状与产业前景。AI TIME负责人何芸主持了本次论坛。

图 | AI TIME负责人何芸

本次论坛以“图神经网络”“大规模预训练模型”“认知智能”等前沿方向为主题,不仅展示学术界对相关技术的最新研究工作,还剖析了图神经网络、认知智能等领域的理论基础、技术路线、产业落地、发展前景等,在AI Debeat环节,线下、线上的观众还和各位大咖一同进行互动、思辨。

 

顺应第三代AI算法的潮流,未来图神经网络研究的重要趋势将是面向推理和认知。李涓子教授首先做了题为《知识图谱与认知推理 》的主题报告。李涓子指出,认知是人获取和应用知识的过程,知识图谱是人对客观世界认知的表示。而人工智能就是研究和设计智能系统,让它像人一样感知推理思考并且做出规划、决策。知识的表示和推理在人工智能里面占了非常重要的地位。

 

“在未来,知识驱动和数据驱动相结合,将是机器智能非常重要的理论研究,我们以复杂问答为基础,提出了基于图结构的可解释认知推理框架。框架将提问对象表示为图结构,将复杂问题解析为基本函数的组合程序以表示推理过程,在图结构上使用注意力机制进行模块推理,使得每个模块的输出可以被人类所理解。未来希望进一步构建可扩展的通用推理函数库,并研究多模态认知推理和具有增量学习能力的推理。”

 

图 | 清华大学计算机科学与技术系教授李涓子

接下来,许斌副教授介绍了面向大规模知识图谱的预训练模型及其应用。许斌副教授指出,我们目前已经进入第三代人工智能,即认知智能阶段。主要思路就是利用数据统计与知识推理融合的计算。2020年OPEN AI发布一个巨大的预训练模型GPT3,参数达到1750亿;2021年1月,谷歌发布了新的预训练模型,参数达到1.6万亿;而在这方面,中国的同行不甘示弱,2021年6月,北京智源研究院发布悟道中文预训练模型,参数达到1.75万亿。

图 | 清华大学计算机科学与技术系副教授许斌

紧接着,阿里巴巴资深算法专家杨红霞介绍了《超大规模多模态预训练模型M6》,浙江大学副教授杨洋做了《图神经网络的鲁棒性学习》的报告。除了各位知名学者和产业专家就“图神经网络”“大规模预训练模型”“认知智能”等前沿方向展示了最新研究工作,更为精彩的是本次论坛的几位嘉宾学者还会针对该领域前沿技术方向在理论、技术、产业落地、展望等方面展开了思辨。

图 | AI Debate

对于图神经网络会给哪些领域带来变革性的提升,黄萱菁表示,图神经网络这几年的发展大家有目共睹,以前研究不是很多,是因为图太复杂,对图进行信息处理超出了当时的工具能力,这几年有了神经网络特别是图神经网络的快速发展,对于NLP中间分析、产生图结构提供了很有利的工具,图神经网络、图结构对NLP带来了突破性的应用。跳出传统计算机科学的范畴来看,包括药物、生化,不管知识图谱、图结构、图神经网络都能将为这些领域带来突破。

对于最近大火的大规模预训练模型,是否会给图神经网络带来新的价值, 杨红霞认为,今天的预训练模型处在所谓大力出奇迹阶段。黄萱菁则表示,从NLP角度来说,图神经网络是手段,图结构是目标,预训练模型也是手段而不是目标,所以这个角度来说,预训练模型的大力出奇迹,可能是系统降维打击,预训练里有很多能力没有很好的挖掘,比如虽然可以把预训练模型参数从一千亿到万亿级,但我们只需挖掘更小规模的预训练模型,就能够捕捉很多的信息。

接下来各位专家学者讨论了图神经网络存在的一些问题,包括不可解释、鲁棒性差、缺乏因果关系,以及如何对未来更大规模的图神经网络提供算力支持等。

戴国浩表示,我们现在所处理的图数据有着非常明显的特征,是非结构化的、稀疏的;但是,现有的硬件架构往往是结构化的,面向稠密数据结构做设计和优化的。因此,数据特征和硬件特征之间存在巨大鸿沟,我们的数据如何高效地在面向稠密数据的结构化的硬件上做处理?这是我们面临的很大的问题。一方面,我们需要自顶向下研究数据在硬件上的高效映射方法;另一方面,自底向上面向稀疏数据设计新的硬件架构也是一个可行方向。

杨洋则认为,这些问题中最重要的是不可解释性。“因为可解释性的本质,就是把深度学习的模型从非常高维的空间映射到人类认知比较低维的空间上,我觉得非常难,我个人的判断,可解释性的需求应该会不断下降,因为随着AI在各个领域有越来越多的成果出来,我相信大家会越来越多的无条件的支持、信任它。”未来大家对于AI的接受能力会越来越高,对于可解释性的需求会越来越低,同时模型做得越来越复杂,我们真正做到的可解释性会越来越难。

图 | 浙江大学人工智能系系主任杨洋副教授

黄萱菁则认为,对于可解释的需求会越来越高,因为AI整个领域从默默无闻在角落偷偷奋斗,现在到了聚光灯下,最早的时候只要把模型功能构建讲清楚,原理说清楚,给业内人做解释,现在可解释的范畴就变了,我们需要向公众做解释,比如医生是系统的用户,不能说服医生的话,他就不和你配合,再比如自动驾驶,不能把过程解释清楚,怎样让监管层批准?因此整个可解释的要求越来越高。

图 | 阿里巴巴达摩院资深算法专家杨红霞

杨红霞补充道,从业界角度来说,这四个点当中大家比较关心鲁棒性和大算力。算力越好对我们越好,同样的模型我肯定喜欢1分钟不喜欢一个小时,鲁棒性也一样。

对于如何将图神经网络做大做深来适应产业界更复杂的场景,杨红霞认为,现在比较核心的场景还是搜索推荐和广告,如果希望GNN业界有更大影响力,肯定希望在这几个大流量场景下做突破。

黄萱菁则认为,我们不是需要把图神经网络做大做深适应产业界更复杂的场景,而是产业界出现更复杂的场景,怎样的模型能够实现它的目标,这是手段问题,而不是一定要优化图神经网络让它做得怎么样。

戴国浩表示,我相信未来如何将图神经网络在产业界做更高效的落地,包括是否要有专用的架构,还是考虑通用性和算法的普世性的角度开展未来一系列的研究,可能是可行的研究方向。

对于本次论坛的主题“图神经网络是否是实现认知智能的关键”这一问题,各位专家学者也发表了自己的看法。

图 | 复旦大学计算机科学技术学院教授黄萱菁

黄萱菁指出,图神经网络和认知智能不是等价关系,“我认为图神经网络是实现认知智能比较好的手段,如果可以充分发挥图神经网络的推理能力,比如我们用更好的图表示,更好的消息传递机制,我们从数据中间可以推理出来更加复杂的预测结果,提升我们对事物的理解能力。”

许斌表示,“人工智能的目的,是能帮助整个人类生活变得更加美好,认知智能只是对于人工智能认知的阶段,图神经网络只是寻找通向最终强人工智能道路上很小的阶段,研究人员目前对于人的大脑脑科学的研究很多东西都未知,如果伴随对于大脑的结构和工作原理更加全面的调查,我相信会对于我们未来实现真正的人工智能有很大的帮助,我们还在路上,但是未来是美好的。”

关于WAIC

2018年,WAIC(世界人工智能大会)在上海首次亮相,助力上海加快建设人工智能创新策源、应用示范、制度供给和人才聚集的“上海高地”,为中国乃至世界人工智能发展贡献力量。

2021年7月7日至10日,第四届WAIC将继续亮相上海。秉持“智联世界”的理念,围绕“智联世界 众智成城”的主题,坚持“高端化、国际化、专业化、市场化、智能化”的办会方针,策划多种形式的活动,搭建国际合作交流平台,汇聚顶级科学家、企业家、政府官员、专家学者、国际组织、投资人、初创团队等。努力促进全球人工智能创新思想、技术、应用、人才和资本的集聚和交流,推动全球科技创新协同,助力打造人工智能世界级产业集群。

AI TIME欢迎AI领域学者投稿,期待大家剖析学科历史发展和前沿技术。针对热门话题,我们将邀请专家一起论道。同时,我们也长期招募优质的撰稿人,顶级的平台需要顶级的你!

请将简历等信息发至yun.he@aminer.cn!

微信联系:AITIME_HY

AI TIME是清华大学计算机系一群关注人工智能发展,并有思想情怀的青年学者们创办的圈子,旨在发扬科学思辨精神,邀请各界人士对人工智能理论、算法、场景、应用的本质问题进行探索,加强思想碰撞,打造一个知识分享的聚集地。

更多资讯请扫码关注

我知道你“在看”哟~

点击 阅读原文 查看精彩回放!



推荐阅读
  • 生成式对抗网络模型综述摘要生成式对抗网络模型(GAN)是基于深度学习的一种强大的生成模型,可以应用于计算机视觉、自然语言处理、半监督学习等重要领域。生成式对抗网络 ... [详细]
  • 人工智能推理能力与假设检验
    最近Google的Deepmind开始研究如何让AI做数学题。这个问题的提出非常有启发,逻辑推理,发现新知识的能力应该是强人工智能出现自我意识之前最需要发展的能力。深度学习目前可以 ... [详细]
  • 干货 | 携程AI推理性能的自动化优化实践
    作者简介携程度假AI研发团队致力于为携程旅游事业部提供丰富的AI技术产品,其中性能优化组为AI模型提供全方位的优化方案,提升推理性能降低成本࿰ ... [详细]
  • 「爆干7天7夜」入门AI人工智能学习路线一条龙,真的不能再透彻了
    前言应广大粉丝要求,今天迪迦来和大家讲解一下如何去入门人工智能,也算是迪迦对自己学习人工智能这么多年的一个总结吧,本条学习路线并不会那么 ... [详细]
  • 深度学习与神经网络——邱锡鹏
    深度学习与神经网络——邱锡鹏-一、绪论人工智能的一个子领域神经网络:一种以(人工))神经元为基本单元的模型深度学习:一类机器学习问题,主要解决贡献度分配问题知识结构:路线图:顶 ... [详细]
  • 近年来,大数据成为互联网世界的新宠儿,被列入阿里巴巴、谷歌等公司的战略规划中,也在政府报告中频繁提及。据《大数据人才报告》显示,目前全国大数据人才仅46万,未来3-5年将出现高达150万的人才缺口。根据领英报告,数据剖析人才供应指数最低,且跳槽速度最快。中国商业结合会数据剖析专业委员会统计显示,未来中国基础性数据剖析人才缺口将高达1400万。目前BAT企业中,60%以上的招聘职位都是针对大数据人才的。 ... [详细]
  • 本文讨论了同事工资打听的话题,包括同工不同酬现象、打探工资的途径、为什么打听别人的工资、职业的本质、商业价值与工资的关系,以及如何面对同事工资比自己高的情况和凸显自己的商业价值。故事中的阿巧发现同事的工资比自己高后感到不满,通过与老公、闺蜜交流和搜索相关关键词来寻求解决办法。 ... [详细]
  • 企业数据应用挑战及元数据管理的重要性
    本文主要介绍了企业在日常经营管理过程中面临的数据应用挑战,包括数据找不到、数据读不懂、数据不可信等问题。针对这些挑战,通过元数据管理可以实现数据的可见、可懂、可用,帮助业务快速获取所需数据。文章提出了“灵魂”三问——元数据是什么、有什么用、又该怎么管,强调了元数据管理在企业数据治理中的基础和前提作用。 ... [详细]
  • 背景应用安全领域,各类攻击长久以来都危害着互联网上的应用,在web应用安全风险中,各类注入、跨站等攻击仍然占据着较前的位置。WAF(Web应用防火墙)正是为防御和阻断这类攻击而存在 ... [详细]
  • 本文介绍了iOS开发中检测和解决内存泄漏的方法,包括静态分析、使用instruments检查内存泄漏以及代码测试等。同时还介绍了最能挣钱的行业,包括互联网行业、娱乐行业、教育行业、智能行业和老年服务行业,并提供了选行业的技巧。 ... [详细]
  • 杭州PHP大厂有哪些(2023年最新分享)
    导读:今天编程笔记来给各位分享关于杭州PHP大厂有哪些的相关内容,如果能碰巧解决你现在面临的问题,别忘了关注本站,现在开始吧!本文目录一览: ... [详细]
  • 【论文】ICLR 2020 九篇满分论文!!!
    点击上方,选择星标或置顶,每天给你送干货!阅读大概需要11分钟跟随小博主,每天进步一丢丢来自:深度学习技术前沿 ... [详细]
  • Two Sigma人均22万英镑~
    近期原创文章: ... [详细]
  • 65位高校教师接龙晒工资!给打算入高校的研究生们参考!
    本文转载自:募格学术|来源:麦可思研究综合整理自小木虫论坛前有清华教授被骗千万,后有某重点高校青年教师晒出月薪900的工资条, ... [详细]
  • 本博文基于《Amalgamationofproteinsequence,structureandtextualinformationforimprovingprote ... [详细]
author-avatar
百万会员XTN_859
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有