2020WVRC世界VR产业大会Yoshua Bengio：按“注意力机制”进行转换和推理
在2020世界VR产业大会（WVRC）上，2018年图灵奖获得者、蒙特利尔大学教授Yoshua Bengio（约书亚·本吉奥）带来致辞，他谈到：
我和几个合作团队用了一年多的时间进行研究得出的这些成果，这些成果是关于“知识表示”（knowledge representation）系统的。我们的大脑处理的两类截然不同的知识：一类是隐性知识，一类是显性的可语言化的知识。这个世界有的信息是可以语言化的，有的是不可语言化的，可语言化的知识有助于我们进行推理和解释。这其中有一些特殊的属性，这些特殊的属性，列出一些高级概念属性，研究这些有助于我们加快进一步加快人工智能的发展。
假如我定一个规则，谈论“狗”，他可以谈论我的“狗”，我也可以谈论你的“狗”，还可以是他谈论他的“狗”等，这其中就存在着很多变量。为什么会存在这么多变量，谈论狗是不变的框架，而主语是变量，存在很多可能性，就需要根据语境来进行推理，对于人来说这个推理只需要经历几步，很简单。但是对于机器来说，需要经过很复杂的演绎和推导过程才能达到。如果我们通过共享参数来进行结构化，对于同一个主题的共享不同变量之间进行间接或直接互动，有可能加快这个推导进程。
另外一个非常有意思的事情是关于推理，我们看人类是如何做推理的。人类推理其实是每一次涉及一个思想，每一个思想又涉及到几个变量，我们每次关注焦点其实是从这几个变量转到另外几个变量中，有的时候是按顺序来转换，当多个变量有冲突和竞争关系的时候，我们是按照注意力机制来进行相应的转换和推理的。所以我们研究人类的推理机制可以将“注意力机制”加入高级知识推理的维度。
环视天下声明：HOSSKY网站登载或转载此文出于传递更多信息之目的，并不意味着赞同其观点或证实其描述。
Copyright © 2017-2022 hossky.com All Rights Reserved. 