当树木吸收越来越多的营养以后，会变得越来越臃肿，而这一点在百度知道这类产品上则愈加凸显。从百度知道成立到现在，所有用户贡献的问答信息均存在着，而且该数据还在不断被刷新着，不断有着新的内容加入进去。
曾被某群里的一句“问答类网站倒了多少”而惊醒，2014年4月，国外的问答网站Quora融资8000万美元，紧接着国内的知乎也于2014年6月获得2千万美元新融资。好像是问答网站处于“欣欣向荣”的景象，百度指数中“问答网站”的搜索指数也在显著提升，但是真的如此吗？
问答网站应该说是UGC模式的另一种形态的产品，这其中最大的受益者是百度知道，截止到日前，百度知道解决了272664310个问题（数据来自百度知道首页），而国内其他的综合类问答网站，或者已经死亡，或者已经处于半死不活的状态，要么也难成大气候。早期的时候，我曾提到过，百度并不仅仅只是一个搜索引擎产品，在其内容厚度上，国内的互联网公司无人能比，360亦深深地明白此理，在搜索之后紧跟着推出了自己的问答产品，奈何，市场是经不起任何等待的。
“消失”的搜搜问问，死去的搜狐问答
在搜搜被并入搜狗以后，搜搜问问则是最直接的牺牲品，直接被并入到搜狗的新产品搜狗问答中，作为需要融合的两款产品，搜搜的命运是被注定的。搜搜问问上线至今已有7年的历史了，其最风靡之际，在国内综合问答网站中，仅次于百度知道，但终究其塑造的品牌还是消失在了并购的大格局中。
和“消失”的搜搜问问命运不同的是另一款问答产品——搜狐问答。搜狐问答上线的历史也比较悠久，早期也属于顶级的综合问答产品，不过后来搜狗搜索整体对待搜狐问答有点捉摸不定，先不谈对搜狐问答的激励措施，仅仅是后期推出的“新搜狗问答上线”，明显和搜狐问答就存在冲突。
而今，搜狐问答则彻底死掉了（作者微信公众号：郭静的互联网圈），打开搜狐问答的域名（wenda.sohu.com）会直接跳转到搜狐圈子页面（quan.sohu.com），搜狐圈子是一款类似于百度贴吧的互动产品，成立于2007年7月3日。当然，搜狐问答死掉的另一个原因是搜搜问问的合并，明显搜狗问答+搜搜问问之后的新问答产品——搜狗问答更具有竞争力。
奇虎问答变身360问答，难成气候
奇虎问答上线于2008年3月，2012年8月16日，360推出自己的搜索引擎产品360搜索，而360问答平台上线于2012年9月22日，打开奇虎问答的域名（wenda.qihoo.com）会直接跳转到360问答的页面（wenda.so.com），奇虎问答开始变身为360问答，并被360搜索委以除搜索之外的第二大产品线，360问答的位置仅次于360搜索页。
应该说360深深的明白，作为搜索引擎产品，仅仅拥有空搜索引擎是不够的，必须要有自己的内容核心，而问答能接入奇虎问答，必然是360搜索产品线的一大重要产品。
360问答的问题是，难成气候。为何这么说呢？互联网上体量的变化是呈现级数展现的，并不是简单的1000是100的10倍而已，百度知道的内容是被百度、搜狗、谷歌几大搜索引擎都引用的，而360问答的内容几乎只有360搜索自己引用，在内容源上360问答是比较孤立的，它的流量来源只能是360搜索。
在已有的问答市场上，要再造出一个类似于百度知道体量的产品，360问答需要太长的时间来追赶，而互联网最缺的就是时间，百度知道也在奔跑，而且是快速的跑，相对于体量巨大的百度知道来说，360问答的追赶速度就像是乌龟，太慢了。
那些“消失”的知名不知名的问答网站
1.58同城问答（wen.58.com）。58同城问答是服务于大众百姓的本地生活问答平台，用户可以提出问题、解答问题、浏览本地生活问答知识。
2.新浪爱问知识人（iask.sina.com.cn）。新浪旗下的问答产品，网站上最老的问答出自2004年07月29日，而最新的问题则是2014年5月21日，呵呵，这是等着死的节奏么？
3.雅虎知识堂（ks.cn.yahoo.com）。随着雅虎中国的关闭，雅虎旗下的中文问答产品雅虎知识堂也“消失”在了公众的视线里。
4.当然，还有很多不知名的小型问答网站，随便copy一个网站程序，直接抓取了就上的，这部分网站也不再少数，而今，这部分网站也逐渐消失在了公众的实现里，虽然它们几乎没出现过。
百度知道的大弊端：臃肿、真假难辨
当树木吸收越来越多的营养以后，会变得越来越臃肿，而这一点在百度知道这类产品上则愈加凸显。从百度知道成立到现在，所有用户贡献的问答信息均存在着，而且该数据还在不断被刷新着，不断有着新的内容加入进去。
相信所有人都会在百度知道遇到一个问题，上面和下面两个同样问题的答案完全相反，如果打开百度知道整个页面的结果，会发现差别甚大，这类问题特别在食品、医疗等领域出现的较多。虽然百度知道为了解决这一问题，推出了专家策略，但是往往我们会发现，两个专家的问题答案完全不同，这样就导致了百度知道会出现一个大问题，真假难辨。
用户只是想知道“郭静的互联网圈”是谁在运营的，而结果页面则会显现很多不同的答案，特别多。
百度知道还会面临的另一个大问题就是，随着百度知道越来越臃肿，能够贡献有用问答知识的人越来越少。
问答网站在PC端可以通过浏览器，统一进入到用户的“内容库”里，但是到了移动端，浏览器或者单个app都很难成为用户上网的唯一入口，这就造成了平台的内容很难被分发出去，所以问答网站必须呈现新的形态出现，才能让其在移动端也发挥着和PC端一样的作用。
从总体的量上来说，目前综合类问答网站，也仅剩几大搜索引擎的问答产品还在坚挺，当然，也只是现在在坚挺着，当它的内容量臃肿到一定程度的时候，也许其自身也会不堪重负，问答网站总体的态势，已不复当年的英姿。真假的问题，在问答网站中尤为明显，也许，其会成为互联网去掉“虚假”头衔的第一个“杀鸡儆猴”的产物。
【作者微信公众号：郭静的互联网圈】
AI 科技评论按，2017 年 11 月 25-26 日，中国中文信息学会 2017 学术年会暨理事会在深圳隆重举行。会议第一天，主办方邀请到美国伊利诺伊大学香槟分校（UIUC）计算机系教授翟成祥、中国科学院心理研究所所长傅小兰、京东硅谷研究院主任研究员李维、清华大学医学院生物医学工程系宋森、今日头条人工智能实验室主任李航为大家带来了五场精彩纷呈的特邀报告。关于大会第一天的内容，AI 科技评论之前有详细报导，具体信息请参见《横跨心理学、计算机科学、神经科学，看中国中文信息学会 2017 学术年会如何引起多个领域大碰撞》。
在此次会议上，作为最后一位特邀报告嘉宾，李航研究员带来了主题为《人工智能的未来—记忆、知识与语言》的分享，他此次的分享主要围绕智能问答系统展开，为大家分析了 NLP 所面临的三大挑战、目前值得借鉴的应对方法以及对智能问答系统的展望。关键词如下：长期记忆、神经处理、符号处理。
以下为他的演讲内容，AI 科技评论做了不改变原意的编辑和整理。
构建拥有长期记忆的智能问答系统，是我们现在的愿景
今天非常高兴来到这里，与大家一起从记忆、知识和语言的角度探讨自然语言处理、人工智能在未来发展的趋势。首先我们来看记忆和智能的关系，分析自然语言处理的发展是否可以构建智能化的问答系统。
先来看看记忆对人的智能有多么重要。这里是一个示例，英国有一名叫 Clive Wearing 的音乐家，他现在七十多岁，他在四十多岁时患了脑炎，非常幸运的是他存活下来了，但不幸的是他大脑里的海马体受到了损伤，得病了之后不能再记新的东西。日常的症状如下，他认识自己的太太，但不认识自己的女儿，虽然说话、行动、唱歌、弹钢琴都没问题，但他没有记忆了，只有瞬间意识。大家有兴趣的可以去网上搜关于他的视频看一下。
他太太把他的病总结的非常清楚，能够做简单的思考，但没有记忆。从这个案例中，可以看到记忆对人来说是非常重要的。这里面涉及到一个重要的器官，即大脑中的海马体。这里有一张图，是人体大脑的结构。
下面这幅图是斯坦福的一个脑科学家 Frank Longo 画的大脑的功能模型，他是从记忆的角度看的。大脑的记忆部分首先有感官，来感受到客观的信息，这种感官寄存器能记住外界传来的 1-5s 的信息，如果大脑感兴趣，就会记住大概 18-30s 的内容，如果对这个内容特别感兴趣，就能放到大脑的长期记忆里。
长期记忆的特点是信息的压缩。我们大脑在记忆的过程当中，记新的东西是把已有的链路增强，而不是增加新的脑细胞。
刚才看的是人脑，现在看人工智能系统，比如 AlphaGo、自动驾驶等，其实这些系统都是没有长期记忆的。这些系统里都有一定的模型，通过机器学习的方法事先学好，比如 AlphaGo 在下棋的过程中，调用训练好的模型。现在的人工智能系统，和我一开始提到的那个英国音乐家的案例很像，都属于 moment to moment，没有长期记忆。
日裔科学家 Michio Kaku 对意识的定义如下：系统和外界交互，如果系统的内部状态发生变化，就认为这个系统是有意识的。从他的观点来看，温度计和花都是有意识的。对意识的讨论大家都有不同观点，很难达到共识。从他的定义来说，人工智能系统是有简单意识的，但没有长期记忆。
往下走智能问答系统应该是什么样的呢？畅想 5-10 年后的未来，有可能构建这样的智能系统，在这个系统中，有语言处理模块，包括短期记忆、长期记忆，系统能自己不断去读取数据，能把数据里面的知识做压缩表示，放到长期记忆模块。构建这样的拥有长期记忆的智能问答系统，这是我们现在的愿景。
在这一过程中，面临着歧义性、多样性、模糊性这三个问题
自然语言处理中有个非常重要的想法：把语言的表示映射到计算机内部的表示。有了这个表示，我们认为计算机进行了语言的理解，在学习知识。
这里面有好几个挑战。人类的语言到大脑的语义理解映射是多对多的，会遇到歧义性的问题，即同一个语言表达会有不同的意思。另外会遇到多样性的问题，即不同的语言表达是同一个意思。最后一个问题是从认知的角度来看，语义是非常模糊的。
进一步来分析这三个挑战，下图中是用 claim 的几个例子，可以扩展为不同的意思。即具有多义性。
第二是多样性，比如太阳和地球的距离，有很多种不同的说法。
最后是知识概念的模糊性，比如 bachelor 的概念，它表示单身男子，但是未婚的父亲、假结婚的人等是不是可以定义为单身，大家的观点可能不一样。这与语言的多样性会有一定的关联，我们会对典型的单身男子的概念有个共识。
从这里可以看到自然语言并不好做，在自动问答系统中需要去做一个映射，映射里会面临前面提到的多义性、多样性、知识的模糊性这三大挑战。大家都在朝这样的智能问答系统努力。
未来：神经系统和符号系统的结合
现在考虑的是神经系统和符号系统的结合。
深度学习非常热，特别是在自然语言处理和机器翻译方面给我们带来了很大的进步。虽然它确实很强大，但局限性也很明显：它不能很好地处理符号。在计算机上做语言处理，离不开符号，符号很重要，是语言的本质特点。
在自然语言处理中，深度学习在人的感知领域，比如说图像、语音方面比较成功，所以自然就会想到，能不能用神经符号的处理方法实现我们所说的智能问答系统。这样的智能问答系统，通过把神经处理和符号处理相结合，加上语言处理模块，沿用深度学习的概念，这里面包括编码器、解码器。在表示信息的时候，既有符号表示，又有神经表示，用词向量去表示单词。将符号表示和向量表示组合起来，产生一定的结构，更好地表示知识。
这样的工作业界已经开始在做。比如 2015 年提出的 Nell（Never Ending Language Learning) 系统，这个工作强调让系统看大量文本内容，自动学到知识。这个系统能自动在互联网上爬取数据、处理数据、抽取知识，加入到数据库。
另外一个比较具有代表性的工作是 Percy Liang 在 2016 的研究。首先要有语法，语法通常是人定义的，通过语法产生多个解释；然后要有模型，模型也是事先学好的；再基于上下文选择最有可能的解释，转换为逻辑表达式。在这里，我们的思考是，现在是否能借鉴深度学习的想法，做一个端到端的系统，完全自动学到语言处理的编码器、解码器等。
为什么很多人都关注长期记忆，因为长期记忆确实是现在几乎所有的人工智能系统所不具备的能力。现在也有这方面的研究，比较有名的就是 DeepMind 的 DNC（Differentiable Neural Computers）工作，这个工作也是在关注如何把知识用矩阵的形式存储在长期记忆里。这个系统里提出了三类不同的神经网络，这三种不同的神经网络实际上模仿了老鼠的海马体机理，目前对老鼠的海马体机制已经研究得比较透彻。
大家也知道 Facebook 的 Memory Networks 系统，这个系统可以根据描述做些简单的问答。系统最核心的概念也是长期记忆，想法相对来说是比较传统的深度学习概念，模型的构建全是神经网络在做。
最近的最接近的工作是谷歌 16 年出的 Neural Symbolic Machines 模型，这个想法非常有意思，要做的事情也是问答，训练数据是大量的问句和命令，去学习 Sequence to Sequence 模型，可以执行复杂的计算机命令，找到答案。
华为诺亚方舟实验室在神经符号处理方面的相关工作
下面是我之前在华为诺亚方舟实验室做的两个工作，都是神经符号处理方面的。
第一个是 GenQA。这个工作是这样的，假设你有个知识图谱，这里面含有大量的问答句。我们希望模型能自动学习神经网络，去做问答，生成答案。
这个工作是基于神经符号处理的思想，其中包括长、短期记忆模块。假设来了一个问句，现在有编码器，可以把这个问句转化为内部表示，其中既有符号表示，又有向量表示，然后用这些表示去检索知识库。这个过程用神经网络来控制。这个工作主要的特点是得到的三元组可能是最好的三元组，根据问句的向量表示，检索到三元组的向量符号表示。
在下图中，左下方是根据语言的理解该生成什么，右边是从长期记忆里检索的结果，通过把两者结合来做判断。
第二个要介绍的是今年比较新的工作，叫做 Neural Enquirer and Symbolic Enquirer，与基于神经符号处理的思想非常一致。其中既有神经表示，又有符号表示。查询数据库是个非常复杂的过程，在这个工作中，我们希望把 Enquirer 做得非常好，真正去把问句的表示利用起来，很好地检索数据库。
怎么样把自然语言的描述转化为命令还是有一定的挑战，这个系统中有两个 Enquirer，一个是 Neural Enquirer，一个是 Symbolic Enquirer。数据库的查询操作用符号来表示，整个操作过程用神经网络来控制，通过三步就能把答案找到。我们可以把数据库查询分解成为最基本的操作，比如 argmax、select 等，可以定义一个命令的集合来组成命令，命令每次的操作是针对一列进行的。
Symbolic Enquirer 的特点是操作的过程全是符号，底层全是用神经网络去做。用端到端就能构建这样的系统，不需要任何人的参与。假设有大量的语法，就能学习神经网络，自动产生命令序列，访问数据库找到答案。另外一个对应的想法是 Neural Enquirer，同样的问句，逻辑上也要执行三步，我们全部用神经网络去实现。这一块用到五个 executor。
Symbolic Enquirer 在执行上很快，它的缺点是学习非常困难。Neural Enquirer 的优点是学习比较快，但执行上比较慢，相当于每次都要把数据库的表重新扫描一遍。自然的想法是将这两个 Enquirer Couple 起来，把两者的优点结合。学习的时候，先学 Neural Enquirer，学好了之后再让他去指导 Symbolic Enquirer，然后 Symbolic Enquirer 再去引导 Neural Enquirer，两个 Enquirer 互相帮助。
总结
下面我做一个简单的总结，今天我们畅想的是自然语言的未来，希望未来自然语言处理系统能慢慢实现长期记忆，能把深度学习和符号处理结合起来，发挥两者的优势。同时，我们也要更多地参考人脑的信息处理机制，未来把自然语言处理推到另一个高度。考虑有这样的智能问答系统，能看大量的文献，知识库，读取到重要的信息知识。目前业界正在做很多的相关工作，相信这在未来会是一个重要方向。
后续，李航研究员会以这次公开演讲的主题为契机，撰写长文来描述他眼中「人工智能的未来」，AI 科技评论也会第一时间关注。