人工大脑之父放言:50年后机器人威胁人类(请热爱AI的同学们关注本帖的后续精彩讨论)

青山

这个是没办法的，急着把人工智能军用，就相当于给你3岁的儿子一把ak47。
他可能打死所有人，最后自己饿死。能不能过这一关，就看人类的智慧和本性了。

原帖由 清风不写字 于 30-6-2009 12:58 发表

                               
登录/注册后可看大图

国家之间的利益争端没有一日停息过，如果那个国家掌握了这种技术，政府能管得住自己不用于军事？
看看核弹是怎么产生的。

科学家们其实非常容易被政治利用的。

清风不写字

毁灭就毁灭吧，反正任何文明最终都会消亡。

stellahie

原帖由 青山 于 30-6-2009 12:57 发表

                               
登录/注册后可看大图

生物本身就有扩张的本能，因为从大尺度来说，生物需要面对其他生物的竞争，不扩张就会灭亡。
人类如果不能超越地球本身，早晚会被来自其他世界的其他生物征服或者消灭。闭关自守，从来
都不是可以自安的途径。

当然不受人类控制的人工智能更危险，但是试图去控制一个比人类聪明10000倍的智能体，根本
就是不可能的任务。只会带来不必要的仇恨和痛苦。

很多人不会对自己不了解的事物感到恐惧，更不会因为恐惧而停止探索。至少我知道我自己就是
这样的人。那些传教的人来问我，你有什么困惑么？我回答他们，我的困惑就是我没有困惑。

控制一个比人类聪明的智能体 -〉不可能
不受人类控制的人工智能 -〉危险

哈哈。果然是一个危险的探索呀。

我觉得人类无止境的扩张欲和探索欲也是很危险的。除非，人类能够控制自己的野心。一步一步来。懂得何时该走，何时该停。

但是要做到，很难。

stellahie

原帖由 清风不写字 于 30-6-2009 13:13 发表

                               
登录/注册后可看大图

毁灭就毁灭吧，反正任何文明最终都会消亡。

一段毁灭，另一段重生。

青山

坦率地说，我认为这种想法是错的。人类如果闭关自守，偏安于地球，早晚会被更先进的文明像碾死蚂蚁一样消灭掉。
作为生物，发展和扩张是不能停止的，不进则退，宇宙中并不只有地球上的人类一种文明。

对于我来说，人类与其被来自遥远星球的生物灭掉，不如自己发展出人工智能文明，继承人类的文明。

如果30年后我能够知道如何制造可以在宇宙中扩张的人工智能体，那么在若干光年之外的另一个星球上的生物也一样
会知道。人类不去做，不代表另一个星球上的那些八条腿，也许16条腿的科学家们也不去做。

原帖由 stellahie 于 30-6-2009 13:32 发表

                               
登录/注册后可看大图

我觉得人类无止境的扩张欲和探索欲也是很危险的。除非，人类能够控制自己的野心。一步一步来。懂得何时该走，何时该停。

stellahie

我和你不一样。我不主张竞争。

我也相信宇宙中有千千万万的文明，当然也有比地球更先进的。其中，已经有了一个世界。懂得和平，宽容，互助，善良，聪明。

有一点天真。不要笑我。

我可以接受发展人工智能是一种阻止不了的趋势。不管最后变成什么样的武器，落在谁的手上都好，我没有太大的意见。我也希望是一个好的过渡，好的结果。如果不是，我也不会太意外。

回答那个传教士的问题。我会说：“我的困惑很多，但我从来不怎么去在乎它们。”

青山大哥，谢谢分享。

刘叔

青山是一个有觉悟的人，是一个对人类前途和未来具有忧患意识的人。他的发言，从他作为人类一员的身份来看，是很难得的了。

但是跳出身为人类的思维模式，人类不过是自然界的物种之一。它的生存、发展乃至毁灭，也必将遵循着自然的规律。无论每一个个体的人是恐惧也好，逃避也好，奢侈浪费也好，绿色环保也好，都无法改变人类这一物种的局限性。今天你也许浪费了一吨水，也许节省了一升油，然而这不过是加速或减缓了发展的势头。换句话说，审判之日必将到来。人类即使有火箭或航天飞船，也只不过是比恐龙爬得更高一点罢了。猴子变的么，怎么会不更聪明、不爬得更高呢？

黑客帝国里面的Smith说过一句话，“人类并非哺乳动物，任何一种哺乳动物都会本能的发展自然平衡，与周围的环境交融在一起，可人类不是这样，人类每到一个地方就大量繁殖，直到那里的各种自然资源全都耗尽，人类生存唯一的出路，只能是扩散到别的地方去，地球上还有一种生物也喜欢这样做----病毒”。人类的天性就是这样，不断的掠夺、占有、消耗。有人会问，我们不也生产了么？看那些粮食和牲口，看那些汽车和飞机。然而人类所有的生产活动，都是为了自身满足而进行的。我们有像蜜蜂一样，采蜜的时候为鲜花授粉么？我们有像树木一样，进行光合作用的时候释放氧气了么？没有。

人类不过是为了消耗掉地球的资源，继恐龙之后而诞生的一种生物罢了。

刘叔

然而人类毕竟和恐龙还是有着本质的区别。

（占坑，等会儿写）

青山

说实话，我觉得这句话，有点想当然了。人类只不过突破了哺乳动物的局限性而已。
事实上，这些“融入自然”的哺乳动物，正在被人类灭绝。这是他们进化速度不够快
的必然结果。如果人类学它们“融入自然”，最终的结局就是像它们一样，被更快速
进化的生物灭绝，或者圈在少数保留地或者动物园中。

另外，人类之所以看似掠夺性的开采地球，实际上，是因为人类的舞台不仅仅在地球。
就像人类历史上的古代民族一样，并不因为某个民族和平好客，与自然和谐相处，就会
免于被征服和消灭。恰恰是那些外向型的民族，占有了庞大的资源，才可以延续千年。
古埃及，古罗马，古中国，无一不是靠扩张建立了庞大的帝国。近现代的英国，美国
也是一样。我们现在会去追悼那些不知名的，可能连历史都没有留下的“融入自然”
的小民族，小部落么？

和平只存在于互相无法摧毁对方的前提下，如果在智能上有根本性的差别，那么弱肉强
食的法则是生物间关系的主流。追求和平的前提，是确保自己不会被对方消灭，没有这
个前提，捆住自己的手脚不发展，就没有和平。

原帖由 liuhuey 于 30-6-2009 15:59 发表

                               
登录/注册后可看大图

任何一种哺乳动物都会本能的发展自然平衡

刘叔

所以说你思维的局限性，源自于害怕人类灭亡的恐惧。人类有识之士也大多如你，选择反抗而不是遵从自然规律的客观性。

青山

自然规律的客观性，就是生物的扩张和竞争。这是天经地义的。如果让我在扩张和灭亡之间选择，我肯定会选择扩张而不是灭亡。人类并没有违反自然规律，也不可能违反自然规律。人类的扩张就是自然规律。人类如果不扩张，选择自我灭亡，那么就会有其它生物代替人类的位置，把人类从食物链的顶端排挤下去，继续扩张。停止扩张才是违反自然规律的。

原帖由 liuhuey 于 30-6-2009 16:25 发表

                               
登录/注册后可看大图

所以说你思维的局限性，源自于害怕人类灭亡的恐惧。人类有识之士也大多如你，选择反抗而不是遵从自然规律的客观性。

stellahie

你有没有想过。如果人类不是那么急于扩张，也不会这么快灭亡？

不用等到外星人或者其他高等生物来侵占地球。人类大量的繁殖，无止境的控制竞争占有欲，就已经把自己住的地方高度污染了。

青山

任何发展都会有风险和代价。人类扩张未必会灭亡，不扩张必然灭亡。

地球不过是人类的摇篮，为了保护地球的环境而放弃发展，其实是舍本逐末。
何况谁知道500年以后，我们现在赖以生存的氧气和水，还是不是那时候的
人类或者人类的后继者所必需的呢？

我们现在考虑500年以后的环境问题，就像500年前的人类担心他们把猎物
都捕光了，现代人捕不到猎物，会饿死一样。

就象顶楼那本书里写的，即使我们知道未来会产生原子弹，是不是古人应
该保持刀耕火种，与野兽争食，停留在原始社会，而不发展物理学呢？

原帖由 stellahie 于 30-6-2009 16:35 发表

                               
登录/注册后可看大图

你有没有想过。如果人类不是那么急于扩张，也不会这么快灭亡？

不用等到外星人或者其他高等生物来侵占地球。人类大量的繁殖，无止境的控制竞争占有欲，就已经把自己住的地方高度污染了。

刘叔

原帖由 青山 于 30-6-2009 14:27 发表

                               
登录/注册后可看大图

自然规律的客观性，就是生物的扩张和竞争。这是天经地义的。如果让我在扩张和灭亡之间选择，我肯定会选择扩张而不是灭亡。人类并没有违反自然规律，也不可能违反自然规律。人类的扩张就是自然规律。

你很狡猾嘛，存在即是合理。因为人类本身即是自然的一部分，人类的发展规律就是自然规律的一部分，所以不可能违反自然规律么？

好吧，我们把“试图违反自然规律”也当作遵守自然规律的一种表现。

清风不写字

问题是现在都轮不到担心以后的环境问题，当前的环境问题已经对很多人造成严重影响了。
畸形的发展可能带来原本不愿意看到的后果。

青山

这可不是狡猾。强者生存，弱者灭绝。这很残酷，但是在物种之间，这是自然界的基本准则。
我们无法改变这种自然规律。人类始终在顺应这种自然规律。

原帖由 liuhuey 于 30-6-2009 16:48 发表

                               
登录/注册后可看大图

你很狡猾嘛，存在即是合理。因为人类本身即是自然的一部分，人类的发展规律就是自然规律的一部分，所以不可能违反自然规律么？

好吧，我们把“试图违反自然规律”也当作遵守自然规律的一种表现。

青山

我个人的观点是，相对于技术进步来讲，现在面临的环境问题，比如整天被人提及的全球变暖，水紧缺的问题，其实都是微不足道的。随着逐渐加速的技术进步，未来100年人类生存状况的改变，会远远大于这些环境问题对人类的影响。

事实上，顶楼这本书提出的问题，才是人类真正的挑战。人类如何面对自己的后代文明。这一天已经不那么遥远了。很可能如他所说的，在两三代人的时间内到来。人类文明在未来几百年的改变，可能会远远超过过去几十万年的改变。而绝大多数人现在并没有认识到这一点。

原帖由 清风不写字 于 30-6-2009 16:50 发表

                               
登录/注册后可看大图

问题是现在都轮不到担心以后的环境问题，当前的环境问题已经对很多人造成严重影响了。
畸形的发展可能带来原本不愿意看到的后果。

刘叔

原帖由 青山 于 30-6-2009 14:41 发表

                               
登录/注册后可看大图

就象顶楼那本书里写的，即使我们知道未来会产生原子弹，是不是古人应
该保持刀耕火种，与野兽争食，停留在原始社会，而不发展物理学呢？

哈哈，其实我本来想讲，战争就是人类在扩张到外太空以前，适度减少人口数量、减缓灭亡的一种手段。原子弹不过是一种效率比较高的工具罢了。

但是现在有很多的和平爱好者，他们肯定会跳出来敲打我的。人性如何如何，战争残酷如何如何。

我说STOP！你说人性，为什么你不说动物性，不说植物性。食肉动物、食草动物，会根据食物多少自动控制族群一个平衡的数量。森林里的植物，也会根据阳光照射而呈现高低疏密的平衡。人类能这样做么？谁能够要求谁去牺牲？仅仅因为我们是人，所以我们可以比地球上其它生物多讲一个人性？

好象是这样。人是有心灵，讲感情的。这是我们与恐龙的区别，然而这也正是我们的弱点。

青山

我觉得有一点你理解的不对。食草动物并不是主动地去自我控制族群的数量，而是由于他们没有能力获得更多的资源，从而被迫的，因为饥饿而损失族群的数量。

人类与他们的差别，并不在于本性的不同，只在于人类能够获取的资源比他们多，可以利用的资源种类比他们多，如此而已。

人类由于拥有了智能，从而不断地突破自身的局限，获取越来越多的资源，扩张，发展。也许人类会灭亡，但是那样，
地球上还会产生新的智能物种，走一条新路，直到突破地球这个摇篮的局限。

原帖由 liuhuey 于 30-6-2009 17:00 发表

                               
登录/注册后可看大图

我说STOP！你说人性，为什么你不说动物性，不说植物性。食肉动物、食草动物，会根据食物多少自动控制族群一个平衡的数量。森林里的植物，也会根据阳光照射而呈现高低疏密的平衡。人类能这样做么？谁能够要求谁去牺牲？仅仅因为我们是人，所以我们可以比地球上其它生物多讲一个人性？

key

不必太认真

FPGA还是很强大的
不妨再弄一下Atom
装个embedded linux

chinese

不好意思打断一下，青山，问个题外话，你有孩子吗？

刘叔

原帖由 青山 于 30-6-2009 14:52 发表

                               
登录/注册后可看大图

我个人的观点是，相对于技术进步来讲，现在面临的环境问题，比如整天被人提及的全球变暖，水紧缺的问题，其实都是微不足道的。随着逐渐加速的技术进步，未来100年人类生存状况的改变，会远远大于这些环境问题对人类的影响。

事实上，顶楼这本书提出的问题，才是人类真正的挑战。人类如何面对自己的后代文明。这一天已经不那么遥远了。很可能如他所说的，在两三代人的时间内到来。人类文明在未来几百年的改变，可能会远远超过过去几十万年的改变。而绝大多数人现在并没有认识到这一点。

歪得挺厉害的。还是回头来讲后代文明吧——无论是人工智能的机器人，或是其它什么克隆人。

面对后代文明，人类的第一反应就是恐惧。长江后浪冲前浪，前浪死在沙滩上么。后代文明出来了，咱们怎么办呢？它要是听话还好，要是有了自我意识，自认为是高一等级的生物，反过来要消灭人类，那怎么办呢？

这样的困惑和矛盾心理，在经典科幻电影《银翼杀手》里面体现的淋漓尽致。后来的片子么，《终结者》系列，《机器战警》，《Matrix》，《攻壳机动队》都没跳出这个框框。

这个故事的主题是银翼杀手Deckard在追捕人造人的过程中越来越丧失人性，而与此同时，人造人却逐渐显露出更加人性的一面。最后，Deckard必须扪心自问：我在做什么？我和他们之间的本质不同到底是什么？如果没有不同，那么我到底是谁？

“人的第一条法则是维护自己的生存”卢梭《论社会契约》。然而人类在维护自身生存的时候，对另一拥有自我意识的物种加以限制，比如机器人三大原则，甚至进行无情的毁灭，比如银翼杀手的追杀，那么，我们活着的丧失了人性的身体，还是人么？

人类要么完全彻底的灭亡，要么 物理意义上的生存+和哲学意义上的灭亡，就这两条路吧。

青山

我看最可能的，是这两条之外的路，人在物理意义上灭亡，在精神层面被继承下去。

也许到了一个时代，人类不再生育后代，而已更有智慧的人工智能体替代。
当人类都去世以后，人工智能体文明就继承了人类的文明。

原帖由 liuhuey 于 30-6-2009 17:41 发表

                               
登录/注册后可看大图

人类要么完全彻底的灭亡，要么 物理意义上的生存+和哲学意义上的灭亡，就这两条路吧。

青山

没有。不过我想我会有的。至少我是这么希望的。

原帖由 chinese 于 30-6-2009 17:34 发表

                               
登录/注册后可看大图

不好意思打断一下，青山，问个题外话，你有孩子吗？

刘叔

原帖由 青山 于 30-6-2009 15:04 发表

                               
登录/注册后可看大图

我觉得有一点你理解的不对。食草动物并不是主动地去自我控制族群的数量，而是由于他们没有能力获得更多的资源，从而被迫的，因为饥饿而损失族群的数量。

是我没说清楚。食草食肉动物被迫的减员，植物被迫的死亡，都是遵从客观规律作用的结果。

如果遵从客观规律，地震、海啸的时候，动物是逃跑还是去相互救援呢？饥荒的时候，动物是把食物给老弱病残还是给最强壮的呢？缺水的时候，植物是统一分配还是拼命吸收呢？

想骂我的同志请打住，我并不是说救援人员和志愿者的坏话。

我想说的是，人性的光辉，是人类存续于世的理由。这光辉是照耀在人类自身身上的，对自身种族的关爱和照顾。正是这样的一点区别，将我们与可以配合攻击的狼群、可以使用工具的黑猩猩、可以语言交流的某些动物，相区别。

然而这光辉也预示了人类悲剧性谢幕的必然性，因为这光辉仅仅照耀在我们自身身上。作为一个种族，我们惟有不断的扩张才能满足自身的需求，即便我们能够开拓一千一万个地球，又如何呢？审判之日必将到来。

（思维有点跳跃，改了一下）

[ 本帖最后由 liuhuey 于 30-6-2009 16:05 编辑 ]

青山

这个也不是人类独有的，所有营社会生的动物都会，蚂蚁，蜜蜂，都在某种程度上有互助协作。
你没看狮子攻击水牛，其它水牛还过来帮忙赶走狮子呢。人类在这方面和他们没什么不同。
唯一的不同就是对资源的利用和占有。人类发展下去，未必就是悲剧性的，也可能是一个高级
文明刚刚开始酝酿。有很多不确定性，要看人类能否度过这个大关了。

原帖由 liuhuey 于 30-6-2009 17:55 发表

                               
登录/注册后可看大图

是我没说清楚。食草食肉动物被迫的减员，植物被迫的死亡，都是遵从客观规律作用的结果。

如果遵从客观规律，地震、海啸的时候，动物是逃跑还是去相互救援呢？饥荒的时候，动物是把食物给老弱病残还是给最强壮的呢？缺水的时候，植物是统一分配还是拼命吸收呢？

想骂我的同志请打住，我并不是说救援人员和志愿者的坏话。

我想说的是，人性的光辉，是人类存续于世的理由，同时也预言了人类悲剧性谢幕的必然性，因为这光辉是仅仅照耀在人类自身身上的。

刘叔

原帖由 chinese 于 30-6-2009 15:34 发表

                               
登录/注册后可看大图

不好意思打断一下，青山，问个题外话，你有孩子吗？

Chinese这话问得很好。可以回击你说的话

我看最可能的，是这两条之外的路，人在物理意义上灭亡，在精神层面被继承下去。

没有你的血脉，而在你的抚养和教育下长大的孩子，你认可是自己的孩子吗？

甚至这个孩子都不是人类，是克隆人呢？又或者是阿童木？又或者是一条非常聪明、甚至能说话的狗呢？

所谓精神的继承，完全是将死之人的垂死挣扎。你看那些个主义、思想、路线、代表，不都是这样么！（版主别删我帖子哈 ）

青山

这个现在不好说，没有事到临头，谁也不知道自己会如何选择。而且不同的人会有不同的选择。
在一个有你自己血脉，却资质平平的人类，和一个虽然不是生物意义上的人类，却拷贝了你几乎全部思想，
有着超越人类的智力的人工智能体之间，你选择哪一个，真的不好说。但是至少会有一部分人选择后者。

现在当没有选择的时候，还有很多人选择不要孩子呢，虽然我不属于他们之中的一员，但是我相信
当面临选择的时候，人们的决定会是多样的。

原帖由 liuhuey 于 30-6-2009 18:19 发表

                               
登录/注册后可看大图

没有你的血脉，而在你的抚养和教育下长大的孩子，你认可是自己的孩子吗？

甚至这个孩子都不是人类，是克隆人呢？又或者是阿童木？又或者是一条非常聪明、甚至能说话的狗呢？

所谓精神的继承，完全是将死之人的垂死挣扎。你看那些个主义、思想、路线、代表，不都是这样么！（版主别删我帖子哈 ）

stellahie

原帖由 青山 于 30-6-2009 18:01 发表

                               
登录/注册后可看大图

人类发展下去，未必就是悲剧性的，也可能是一个高级
文明刚刚开始酝酿。有很多不确定性，要看人类能否度过这个大关了。

我不反对扩张与进步，只是要看这个权力放在谁的手里，谁来主导这个步伐。

就好像你所说的，有很多不确定性。但是这条路总归还是要走下去的。

来说说你所谓的“度过这个大关”，到底要有什么条件？

fredku

真的假的??
未来几十年内就能实现这种技术吗?