人工大脑之父放言:50年后机器人威胁人类(请热爱AI的同学们关注本帖的后续精彩讨论)

青山

对于这种判断，要考虑上下文。而且作为人，都有可能判断错，机器也一样可能判断错。

原帖由 liuhuey 于 1-7-2009 13:13 发表

                               
登录/注册后可看大图

那么，如果一个女孩子突然在论坛上发帖子“青山，我爱你”。

鉴于您在论坛的威望和地位，鉴于您在辩论中智勇双全的表现，是否可以认为她对您的爱意是真实的呢？

青山

不同意这个观点。现代机械比人的力量大了很多倍。同样的，人工智能也可以比人的智力强很多倍。

原帖由 beysup 于 1-7-2009 13:02 发表

                               
登录/注册后可看大图

我认为人工智能不可能超越人的智能，就因为它是人工的。如果未来真的有一天人工智能的机器人威胁或取代人类，那只能说是人类玩火自焚，咎由自取的结果，就好比核武器，本身就是毁灭人类的事物，但是人类确总是朝着毁灭自我的方向发展。

我的理论是任何事物只能创造出比它低级的事物，不可能创造出比它更高级的事物，比如精密的机械设备能制造简单的机械设备和优质的产品，但是不能制造出比自身更精密的机械设备。人类科学发展的狭隘和局限就在于人类目前只能局限在人类的世界里。

还有一点我认为科学和哲学以及神学是相通的。

青山

我很赞同。

原帖由 fredku 于 1-7-2009 12:51 发表

                               
登录/注册后可看大图

文化,语言，是在有同性的许多个体的互相互动中不断丰富发展变化的。不能用人类小孩的语言花絮来要求可能的智能机器人,只要智能机器人有学习能力,疑问能力，它们会发展出自己的文化.

青山

抱歉，我不是Gay。

原帖由 liuhuey 于 1-7-2009 13:22 发表

                               
登录/注册后可看大图

青山，我爱你。

青山

就算是真的也没用。

原帖由 stellahie 于 1-7-2009 13:26 发表

                               
登录/注册后可看大图

我的分析：
你纠缠了这么久，肯定是为了引起青山的注意。所以，你的爱是真心的。

鉴定完毕。

青山

我属兔的，你比我还小点。

原帖由 liuhuey 于 1-7-2009 13:45 发表

                               
登录/注册后可看大图

俺属龙的，今年也33，咱们做兄弟...

难道你还是不肯相信么？

青山

老兄，你这里有明显的问题啊。如果你相信上帝创造了人，那我就不跟你讨论了。
否则的话，人是怎么来的？还不是从单细胞生物逐渐进化来了？复杂的生物，都是
从简单的生物来的。

从进化成为动物开始，你我每一代祖先的母亲，都生产了一个比自己更聪明和精密的后代。
只不过生物个体的进化极其缓慢，而人工智能体则不是，可以不受动物界的很多约束。
可以一下子提高很多。

智力是可以依靠处理单元的累积而提高的。人脑的处理单元是限定的，但是人工智能体
的处理单元是依照摩尔定律，高速发展的。

原帖由 beysup 于 1-7-2009 15:36 发表

                               
登录/注册后可看大图

我想两位没有明白我的意思，我所谓的精密，是从整体上来看的，人没有机械力量大，没有计算机计算速度快，但是人比机械和计算机要“精密”，要“高级”。这种所谓的高级和精密包括思想，意识，情感，结构，存在方式，控制能力，改变能力和运用能力等。首先，从结构和存在方式上看，人类是生物体，这点与机械和计算机有着本质的不同，世界上没有任何机械或电子设备的复杂和精密度能比得上生物体，因为人类本身就是生物体，所以不可能创造出生物体或与其同样精密，高级的事物。而机械和计算机是人类这个高级事物为了弥补自身在力量和计算速度方面的不足而制造出来的，这是一种运用能力的表现，人类知道怎么用，机械不知道，计算机也不知道。同时机械和计算机的所有特点和能力都是人类希望的并受控于人类的。

换个角度看，人类为什么会具有上述提到的那些特点，是什么事物使人类具备这些特点呢？或者说人类的思想，意识，情感和各种能力是某种比人类更高级的事物希望人类具有并受之控制的呢？做为人类这个级别的我们是没有能力知道的。从哲学的角度看，某种级别事物的存在，一定有更高级别事物的存在。事物可以发展，进化，但是不能超越。假如达尔文的进化论正确，人类从猿到现在所谓的高度文明，也没有达到超越。

青山

成啊，收你这个弟弟了。贤弟请起。
不过你那3根香，貌似太结实了点。

原帖由 liuhuey 于 1-7-2009 15:59 发表

                               
登录/注册后可看大图

好，咱们结拜了吧，有这么多论坛朋友做见证呢。

先点上三根香

青山兄在上，请受小弟一拜

换你了，你可以说“愚兄”怎样怎样。

青山

人工智能并不需要改变自然界的基本规则。你说的这些问题，自然有那个领域的人去研究。
这和人工智能的发展没有任何矛盾之处。

原帖由 beysup 于 1-7-2009 16:02 发表

                               
登录/注册后可看大图

况且人类目前对世界和事物的认知还局限于一般的运用，并不能改变和控制。比如光速，万有引力，元素，为什么同样由碳氢氧元素组成的物质，有的就有生命，有的就是大石头？牛顿只是发现了万有引力，但是并没有解释万有引力是怎么来的；爱因斯坦说光速是最快的，但是他能解释光速为什么是30万公里/小时，而不是40万公里/小吗？还有，就算物质是由原子组成的，原子是由原子核内质子，中子和核外电子组成，那么谁知道质子，中子，电子又是什么构成的吗？所以，人类或许是很低等的事物，也许有更高级的事物像人类观察草履虫那样在观察我们呢。

青山

原帖由 liuhuey 于 1-7-2009 16:08 发表

                               
登录/注册后可看大图

结实好，见证咱友谊地久天长。
好了，各位现场的观众朋友，各位潜水的水民兄弟，今天是我跟青山结拜弟兄的大喜日子。
还望大家有分的加分，有空的顶个帖子。
以后咱在论坛上也是有人罩着的啦，各位版主删贴的时候手下留情哦  
我大哥他比较老实，以后不准谁对他冷嘲热讽挖苦打击，被我发现坚决死掐到底哈

青山

我现在研究的就是自然语言。语法这一层面，其实已经有很多研究成果了，
已经相对成熟，想继续仅仅依靠语法分析去提高，已经很难了。
现在自然语言的关键问题在语义（semantics）这一层。

我已经基本上想清楚了语义和语法层同时工作的模型，现在就在
尝试建立和完善这个模型。事实上，一些语法分析的错误，是需要
靠语义理解来弥补的，单纯的语法分析，并不能解决全部的语法问题。
现在我们需要的，是一个至少囊括语法和语义的系统。其实仅有这些
还不够，比语义更进一步，还需要有时间和空间想象的能力，才能更
好的理解人类写的文章。

我现在的切入点就是语义的理解，但是我思考的，是整个自然语言理解的模型。

机器翻译其实是自然语言处理的一个应用。只要可以做到真正的理解，
那么机器翻译的问题也就迎刃而解了。比如我现在主攻的多义词解析。
word sense disambiguation.机器翻译之所以质量差，很大程度
上就是因为不能够根据上下文，选择正确的词义去翻译，所以结果
看上去前言不搭后语。只要能解决WSD的问题，机器翻译的质量马上
就会有很大的提高。

原帖由 key 于 1-7-2009 17:24 发表

                               
登录/注册后可看大图

其实倒不是神创论。

我前面也说过，只要能逻辑化的东西，最后用电子计算的方式进行逻辑，理论上还是可以的。
但有的东西目前还不能逻辑化，或者人们还根本不知道或还未意识到的东西，那是无从电子化。
这就是计算科学的局限性。

比如，自然语言分析方法，目前对于自然语言的语言学研究还只是一个很初级的阶段；语言中很多东西
在语言学本身就没有形成科学的研究结果。这是最基础的科学。在这个前提下，人们要实现自然语言的
计算机处理就只能见步行步。个人认为Functional Grammar对于自然语言的计算机处理会很有帮助，
Functional Grammar就是澳洲的语言学科学家搞出来的，他老人家还活着，他老婆还在悉尼大学。

为什么ML现在大量针对Natural Language，那是因为市场在那里。然而，即使是简单到计算机翻译这样
一个看似一目了然的领域，现在还只是一个很初级的阶段；就根本不用提知识理解了。

青山

你说得没错，我现在就在具体做研究工作。我具体的课题是word sense disambiguation。

但是，并不等于你研究一个课题，就只着眼于一个具体课题。我发现很多学校的研究者，就在
一些前人的理论上加加减减，只看到眼前一寸那么远。而事实上，人工智能方面的研究，不仅
需要具体的课题，也需要新的思想，方向性的指引。坦率地说，就WSD这个具体课题，过去10
年中，多数论文都走在错误的方向上。

我试图在具体课题和新思想方面，都有所贡献。事实上，我是一群Phd学生中，唯一一个把最
大部分的时间用在编程上的人。我的工作模式，是experiment->prototype->paper。
而多数学校的研究者，都是paper->experiment->prototype。往往最后一步就省略了。
从脚踏实地这一点上，在学校科研这个圈子里，我应该算是最实在的了。

在过去一年半的研究中，我的思想不断的引导我得到预期的实验结果。所以我现在相信，我的
思想，至少在方向上是正确的。

原帖由 key 于 1-7-2009 17:43 发表

                               
登录/注册后可看大图

其实关于智力水平的定义，我不是太清楚。
一个正常人，要计算 1531432151432 x 143354351234234231，没有几分钟，怎样也算不出来，如果计算 sqrt(15454344235456234543)，取小数点后8位，
那一个正常人可以去死了。但叫一台电子计算机去做，8086就可以了。

再者，如果有人自称能记住整个wikipedia上的资料，有两个可能，一是这个人说谎，另一个可能就是这个人说疯话，因为谁都知道不可能。
但叫一台计算机去做。。。。。我的Palm treo 650上就有中文wiki的全部资料。

我不反对，我也没有权力去反对其他学者去研究人智模拟；但个人观点，作为一个严肃的学者，我认为应该更多关注计算科学的计算优势，
结合当前的理论，建立能够帮助人类的设备、机器，或发展相关的理论。

我总喜欢用1999年cmu大学和我们一起做的一个研究来说事。当时我们实验室的想法是要从影片中识别某个人，比如bill gates；但当时cmu做的
是在影片中找到脸的位置。后来我们的工作不了了之；而现在，所有的digital camera上都有脸的动态定位。我不知道这个技术是否来自cmu，
但作为全球最好的人智实验室（至少之一），我相信他们代表了最前沿的科技；而他们做的事，和我们最大的不同，是务实。实实际际的做事。

青山

第一，linguistics本身并不能解决linguistic的所有问题。但是linguistics这一层已经相对成熟了。
比如我用于语法分析的standford dependency parser，自动的词性标注，正确率已经接近95%。
dependency graph解析的正确率，如果你取它的前5个解，正确率也是很高的。
而在这些可能的解中确定真正的解，则需要语义分析的帮助。

第二，我没有海量资料，我说的是互联网上有海量的资料。而我要做的，是尝试让系统能够通过阅读普通的文章，进一步的学习。我的真正经过标注的训练集，也是很不够的。

第三，以往的很多研究，都是期望人先把自然语言的规律总结出来，然后再教给系统，这个思路根本就是错的。自然语言的多样性，让任何这种总结规律的努力都不可能成功。事实上，真正的出路在于让计算机自己从大量的训练集中，去总结不同范围的规律。

第四，你上来就要求人工智能去翻译诗是错误的思路。人工智能确实需要有一个学习的过程。一个人也有学习的过程，而一个人很重要的一个能力，就是当你读到一篇文章的时候，你能判断你自己能否读懂。对于你能读懂的，你可以处理，对于你不能读懂的，你可以先扔掉。而这正是我研究的突破口。我也在尝试赋予人工智能系统有选择性的阅读并学习的能力。

第五，计算机能做比你想象的多得多的事。你没有信心，不代表问题就不能解决。我没看到不可逾越的障碍，也一直在不断推进，需要的只是时间。

原帖由 key 于 1-7-2009 18:01 发表

                               
登录/注册后可看大图

我没有你这么乐观。我读过General Linguistics, Functional Linguistics, Applied Linguistics
（Freeoz的TheWall比我专多了，我只是上了半年，逃课多），但这些大的语言学理论都没有达到一个所谓的“很高水平”。
以Applied Linguistics来例，现在是否有发展，我不知道，但就几年前，代表这个领域一个很高水平的成果是
一个学者以他的小孩学习第一语言的作为研究对象写的日记式研究结果。而人们对于Second language acquisition
的研究也只是很有限。在这些条件下，连人类自己对自己是怎样掌握语言都不是太清楚，你怎样去模拟？

你一直说自己有海量资料。的确，我很羡慕你的研究条件；我只是想知道，你在应用什么样的模型。如果你打算创造一个
新的模型，请问你的语言学基础是什么？你的计算机基础模型又是什么？不要告诉我你的模型是突然蹦出来的。
这世界上就没有哪一种理论是突然蹦出来的。

至于翻译科学。我读过翻译理论。以你所说的“翻译水平大有提高”，请问这种提高怎样应用到下面这首诗的翻译上来：

古道西风瘦马，
夕阳西下，
断肠人在天涯

这首诗我们的老师吹了一个学期。

让计算机做计算机能做的事，我们做好自己的工作，这是我一直以来的宗旨

青山

我现在的目标是两年内要能有被承认的阶段性成果。我还有两年毕业。
成败都有可能，但是我现在坚信我的道路是对的。

原帖由 ubuntuhk 于 1-7-2009 18:08 发表

                               
登录/注册后可看大图

我对青山号称自己以语义（Semantic）的方式在WSD问题上取得的进展表示高度怀疑，希望青山快点（五年内吧）来证明我的怀疑是错的

青山

管型火器刚发明的时候，射速慢，下雨就不能用。
过了起码上百年，才体现出真正的价值。

科学研究如果只找眼前最容易出成绩的路，很容易走进死路。

其实很多Phd，包括教授们都是这样，那个可以最快出paper，就做哪个。
但是这样出不了真正有贡献的成果。

原帖由 key 于 1-7-2009 18:12 发表

                               
登录/注册后可看大图

8年前我就开始听有人在说语义网络。
但去年，我离开实验室的时候，我们还在用二分词进行机械的语言处理。
或者你说我们实验室很落后，
但这几年的Search Engine比赛我们都有冠军拿回来。

当然，我自己不搞 ...

青山

不是我要求高，是到毕业还没有被承认的阶段性成果，那以后我就只好自己养着自己继续研究了。

原帖由 ubuntuhk 于 1-7-2009 18:16 发表

                               
登录/注册后可看大图

别对自己要求这么高，那我就过三年再来看看你的作业

青山

从功利的角度，当然越快出成果越好，但是如果历代先贤都这么想，
现在恐怕我们还在刀耕火种呢。

何况我已经看到一点曙光。

你老板好可怜啊，当了老板，因为目标高一点，被自己带了10年的人鄙视。

原帖由 key 于 1-7-2009 18:20 发表

                               
登录/注册后可看大图

其实我很admire你的志气和勇气的啦
不过我有十年时间听一个可能比你更有志气和勇气的老板唱歌仔，多少有点过敏而已

青山

说实话，天网本身比施瓦辛格演的那个傻头傻脑的机器人，可能更接近未来人工智能体的存在形式。

原帖由 flyday 于 1-7-2009 23:45 发表

                               
登录/注册后可看大图

终结者2018 里的天网

青山

恩，电影里的不可当真。只是看个大概而已。写剧本的人并不是研究人工智能的。

原帖由 flyday 于 2-7-2009 00:39 发表

                               
登录/注册后可看大图

这还是一个人类可以理解的形式， 所以他不是人类的继承者

青山

当人工智能超越人类智能的时候，肯定不是不可控的。你相信一只蚊子能控制一个人么？
而停止人工智能的研究，也是不可能的。公开研究停止了，你能管得了有人在家研究么？

其实顶楼书中总结的，挺准确的。科学家并不仅仅是因为自己的好奇心而研究，也是因为
对地球文明未来的命运的不同理解的而研究。

原帖由 清风不写字 于 2-7-2009 10:05 发表

                               
登录/注册后可看大图

关键在于是否可控！
别搞得跟《生化危机》似的来个智能危机。

青山

不管他是不是炒作，他思考的问题，是有必要的。
他的预测，我认为是靠谱的。

原帖由 klux 于 2-7-2009 11:25 发表

                               
登录/注册后可看大图

炒作吧，还人工智能领域的霍金呢
国外混不出来跑国内骗去了

青山

30年前觉得人工智能要成功了，是建立在想象之上。
现在觉得人工智能要成功了，是建立在已经看得见的道路上。

原帖由 klux 于 2-7-2009 11:39 发表

                               
登录/注册后可看大图

30年前大家也都觉得人工智能就要成功了，现在呢？

青山

正因为学术界多数人还像你这么想，所以他们都没有去做。
你说苹果砸到过那么多人头上，怎么只有牛顿发现了万有引力呢？

神经网络结构如何，遗传算法到底有效没效，不做之前谁也不知道。
大家都不去做，他去做了，也作出了一些成果，证明了他的道路的
前景，他就是先驱。

你说走路谁不会啊？但是不是每个人都能成为先驱者，非不能也，
是不为也。

原帖由 key 于 1-7-2009 00:03 发表

                               
登录/注册后可看大图

另外，所谓人工大脑之父，这说话有点……怎么说呢，全世界共4台“人工大脑”，就这位同学一个人搞出来的。
我尊敬他是一个有创造力的学者，但对于人工大脑本身，我相信在学术阶的认同程度还不是太高，
不然，以全球这么多顶尖的人工智能实验室，要搞几个FPGA遗传算法实现应该不难吧？

青山

他骗得了国内政府部门的脑残，却骗不了我。
他说的东西基本上靠谱。

人工智能的发展如何，我们有生之年都能看到，走着瞧吧。

主流科学界是什么？哪个伟大的发现，在初期就被大家都看好的？
大家都看好的东西，早就做出来了。

原帖由 klux 于 2-7-2009 11:47 发表

                               
登录/注册后可看大图

道路还是你自己想象出来的吧，
主流科学界并没有这么乐观。
大家都在埋头做一两个简单的小问题呢，
这位老兄就出来大忽悠了，也就是骗骗国内政府那帮脑残，拿点科研经费罢了

青山

我在这里发帖子的同时，我的实验从来没停转过。
人工智能是实验科学，不是数学。

原帖由 klux 于 2-7-2009 11:36 发表

                               
登录/注册后可看大图

我觉得你的时间都花在freeoz上了

青山

绝大部分理论都是在前人的基础上推陈出新没错，
但是绝大多数伟大的理论，都是突破了前人的局限的。
你忘了铁球那个实验了么？

观点主流与否，并不是判断一个科学理论的依据。
我判断他的观点，并不因为他不是主流，只不过
是不是主流并不是我判断的依据。

我觉得主流还是非主流，讨论起来是毫无意义的。
还是讨论问题本身吧。

原帖由 klux 于 2-7-2009 12:00 发表

                               
登录/注册后可看大图

照这个推理，广大民科还说推翻了相对论呢，是不是也都是很有前途的？
不要看到一两个历经背道的发现成功了，就认为所有特立独行的言论都是有前途的，
绝大部分理论都是在前人基础上的推陈出新，主流科学界还是代表了科学发展的方向的

青山

我觉得质疑的精神很好，不过既然参与讨论的大多是IT方面做过研究的人，

像用非主流来质疑，用作者的动机来质疑，甚至用神学理论来质疑，是不是缺点专业精神啊？

质疑一项科学理论，请用科学本身。不要问什么，为什么主流观点还没接受？你能做出来，
别人做不出来？ 之类的，这种话实在不是一个研究者该问的。 如果每个研究者，都认为
只有主流科学界的观点才是对的，我自己能想到的别人都能想到，那也就没有科学的进步了。

何况主流科学界也在不停的变，30年前认为人工智能很快能实现的，也是当时的主流科学界。

青山

你顶楼这本书，不就是在这个领域的科普读物么。有些同学连读都没读，就拿所谓“主流科学界”来否定。

原帖由 coredump 于 2-7-2009 12:23 发表

                               
登录/注册后可看大图

我觉得大家之所以辩论起来言之无物，基本上都是对科学界AI目前到底发展到了什么水平不是真的了解造成的。反正我是不了解，我对AI的认识还是停留在大学上课的水平上。除此之外，也就是凭借自己的知识常识和判断了。如果你能把AI近年的几个研究突破，亮点告诉大家，给大家普及普及，也许辩论起来会更精彩。

不管怎么说，AI都是计算机科学的圣杯，我也相信人类一定会在这方面有所成就，绝对不会停滞不前的。

青山

我们俩的判断依据完全不同，没什么可谈的。恕我直言，你这种思路，恐怕和创新精神背道而驰，倒是很符合国内教育的特点。

原帖由 klux 于 2-7-2009 12:27 发表

                               
登录/注册后可看大图

个人经历、主流学术界的态度，是最方便易得的表象，也有很高的准确率。

青山

我相信用不了那么久。你放弃了这个课题，是你自己的损失。
到时候不知道你会不会问自己，为什么人家做得出来，我做不出来？

原帖由 klux 于 2-7-2009 12:37 发表

                               
登录/注册后可看大图

其实要忽悠的话我也能忽悠
我的毕设做的是brain-computer interface, 用大脑直接控制计算机，并实现了脑电波控制驾驶汽车，在崎岖的公路上稳定前进。
我号称，50年内可以实现脑机自由沟通！