人工大脑之父放言:50年后机器人威胁人类(请热爱AI的同学们关注本帖的后续精彩讨论)

青山

自我意识，其实也只是物质的一种运动方式。并没有什么高不可攀之处。

原帖由 fredku 于 1-7-2009 10:26 发表

                               
登录/注册后可看大图

是啊， 自我意识和计算程序有什么本质区别呢?对我们业外人来说，能让"程序"?产生自我意识,简直太神秘了。

青山

到目前为止，所有科幻电影里描述的，基本上都是智力水平不及人类的人工智能体。
因为即使是科幻小说的作者，也还不能完全接受，一个在智力上显著超越人类的存在。

事实上真正的高智力的人工智能体，并不是电影中笨手笨脚的机器人那样的。

原帖由 ss7889103 于 1-7-2009 10:22 发表

                               
登录/注册后可看大图

我觉得大家想到的在星际之门里面都全部提到了，古代人和复制人的战争，最终将复制人流放到一个星球上利用他们制造这些复制人的优势，在复制人身上留下了一些BUG，当然复制人本身是可以进化的，所以BUG也终归不会是BUG，最终复制人追求人类的灵魂。。。
我觉得假如机器大脑最终要超越人脑必将会引起人类基因的大进化，一面失衡的世界是不存在的，人类控制了机器人的能源，机器人控制了人类的食物，打架人类使用工具或者超能力（生物电波或者是控制自然的能力），机器人使用蛮力，貌似 这个部分如何和机器打架在变形金刚里面也有提到。
所以真到了那么一天，我觉得人类会表现比较理智，我们看那么多年的科幻电影还有小说，已经很有心理准备了。

fredku

只要意识不要肉体,那么你就不是现在意义上的人了,没有肉体现在所有的欲望,根本就不能称为人了，最多只能说你已经是进化了的另外一个存在形式: 那你还是不是生命?什么是生命的定义?

反思一下自己的思想？　也许自我意识真的没有什么神秘的?　只是一个＂时间的积累＂的过程，从小孩（小孩这个智能机器）开始不断接受生存方面的知识和条件反射（只是从纯粹的吃喝拉撒生存这些层面的知识），形成生存需要的生理上的常识：手破了会疼，饿了不吃会死，拉屎要找专门的地方以免污染环境，头掉了会死，要保护自己，再高点层次，文化享受，情感？道德？都可以通过教育智能机器来实现？

fredku

看一下自己：　仅仅作为一个生物而活着的人来讲，确实也没有什么高精确，高复杂程度的智能：就是吃喝拉撒,找人说话,(语言也只是一个有规律的知识而已,掌握它需要的也只是时间积累和不断的形成条件反射而已)

fredku

感情就有一点悬乎了，难道又不悬乎?也只是可以人为设置出来的一种程序而已?难受,高兴，郁闷，快乐,这些情绪,也是可以在人工智能里设置出来的一种"模拟"人类的模块而已!?

青山

有一点你说得很对，就是人工智能体由于物质基础与人不同，欲望也肯定与人不同。
要他们遵循人类的好恶，人类的情感，是不可能的，也是没有必要的。

至于道德，道德只是自我保护的一种社会性反馈而已，从智能的角度，与饿了会死之
类的反应没有本质区别。

文化享受来源于审美，而审美来源于欲望。人工智能体的物质基础与人类不同，所以
审美肯定也不同，文化享受也肯定有很大的差异。

原帖由 fredku 于 1-7-2009 10:37 发表

                               
登录/注册后可看大图

只要意识不要肉体,那么你就不是现在意义上的人了,没有肉体现在所有的欲望,根本就不能称为人了，最多只能说你已经是进化了的另外一个存在形式: 那你还是不是生命?什么是生命的定义?

反思一下自己的思想？　也许自我意识真的没有什么神秘的?　只是一个＂时间的积累＂的过程，从小孩（小孩这个智能机器）开始不断接受生存方面的知识和条件反射（只是从纯粹的吃喝拉撒生存这些层面的知识），形成生存需要的生理上的常识：手破了会疼，饿了不吃会死，拉屎要找专门的地方以免污染环境，头掉了会死，要保护自己，再高点层次，文化享受，情感？道德？都可以通过教育智能机器来实现

fredku

如果人生活富足，没有理想追求,吃喝拉撒,与人交流以外的时间,大脑一般也处于漠然空白状态,同样是人，不同的教育导致不同的发展,
什么是理想?什么是追求?也只是教育出来的结果?教育也只是个"时间积累"的过程.

stellahie

原帖由 fredku 于 1-7-2009 10:37 发表

                               
登录/注册后可看大图

只要意识不要肉体,那么你就不是现在意义上的人了, ...

叫做 ~ 灵魂。

fredku

看来只要技术上物质基础上，能开发出能够有足够容量和速度的计算系统，给它以时间，确实可以做到"类人智能",当然，它又完全没有必要一定要模仿的完全和人一样，比如情感，比如欲望，它完全可以自成一个系统，自己进化成一种存在，它为什么要考虑人类的感受?完全没有必要，就象我们不用考虑猪,鸡,羊的感受一样，食物而已。

青山

模拟人类感情的模块是会有的，但是人工智能体真正自身的感情并不是依靠模拟人来产生的。
而是其自身需要的反映。

人类的喜怒哀乐，不过是一种连带的反馈系统，是受激素水平调节的。这就是为什么会有兴奋剂。
而化学调节其实是很粗糙简单的，一般只有某几种激素的水平高低的差别。而人工智能体可以
构建复杂得多的连带反馈机制。

原帖由 fredku 于 1-7-2009 10:42 发表

                               
登录/注册后可看大图

感情就有一点悬乎了，难道又不悬乎?也只是可以人为设置出来的一种程序而已?难受,高兴，郁闷，快乐,这些情绪,也是可以在人工智能里设置出来的一种"模拟"人类的模块而已!?

青山

你说得没错。通过一个极限之后，其实就是这样。

原帖由 fredku 于 1-7-2009 10:48 发表

                               
登录/注册后可看大图

看来只要技术上物质基础上，能开发出能够有足够容量和速度的计算系统，给它以时间，确实可以做到"类人智能",当然，它又完全没有必要一定要模仿的完全和人一样，比如情感，比如欲望，它完全可以自成一个系统，自己进化成一种存在，它为什么要考虑人类的感受?完全没有必要，就象我们不用考虑猪,鸡,羊的感受一样，食物而已。

青山

灵魂是什么？其实就是一种复杂的运动状态。当运动停止了，灵魂也就消失了。
这种运动和我们容易理解的，车轮转动，无线电波的运动，没有本质差别。
只不过复杂到一定程度，就会有新的特性产生。

原帖由 stellahie 于 1-7-2009 10:47 发表

                               
登录/注册后可看大图

叫做 ~ 灵魂。

fredku

也许"自我意识"不是一个孤立的概念? 而是许多条件反射综合起来的一种外在表现? 比如自私:生理基础要生存，要享受,劳动很累,如果能不劳而获就非常不错, 可以掠夺别人的东西成为自己的东西，那是低等动物的"天性"(低等条件反射),人是社会动物，条件反射就更复杂些,给不同反应的人定义了许多道德规范, 我要生存就要劳动，不劳动抢劫是不对的，我勤劳别人赞美我,虽然胜利基础累点，但是这是社会规则!

又或者"自我意识"完全不必要被概括起来成为一个"概念"? 人总是喜欢概括总结,但其实人的智能和认识是有限的,概括和总结其实从更高点层面去看,又是完全可笑的?

fredku

太复杂了，青山真是高科技人才啊，啥时候可以造个精神超人出来!?

青山

概括总结还是必要的，尤其当你打算设计出人造的“自我意识”的时候。

原帖由 fredku 于 1-7-2009 10:56 发表

                               
登录/注册后可看大图

也许"自我意识"不是一个孤立的概念? 而是许多条件反射综合起来的一种外在表现? 比如自私:生理基础要生存，要享受,劳动很累,如果能不劳而获就非常不错, 可以掠夺别人的东西成为自己的东西，那是低等动物的"天性"(低等条件反射),人是社会动物，条件反射就更复杂些,给不同反应的人定义了许多道德规范, 我要生存就要劳动，不劳动抢劫是不对的，我勤劳别人赞美我,虽然胜利基础累点，但是这是社会规则!

又或者"自我意识"完全不必要被概括起来成为一个"概念"? 人总是喜欢概括总结,但其实人的智能和认识是有限的,概括和总结其实从更高点层面去看,又是完全可笑的?

青山

不知道，也许像顶楼书中说的，在我们的有生之年吧。

原帖由 fredku 于 1-7-2009 10:57 发表

                               
登录/注册后可看大图

太复杂了，青山真是高科技人才啊，啥时候可以造个精神超人出来!?

fredku

啥时候可以把人类10几年才能定型的语言沟通学习过程(语言沟通的"应该的","正常的"对答对于不同的生物和不同的社会,不同的文化,是不同的)浓缩到很短时间内通过程序输入给某超级计算机?


突然想到好奇心，想象力?野心?这个也是能模仿出来的吗,也是能教育出来的吗?!

fredku

如果说你的自我意识,是一个长时间的积累的过程的话，要完全复制给智能机器是不可能的吧!

青山

我现在的课题就是自然语言理解。虽然还有很长的路要走，但是到目
前为止，我没有看到不可逾越的障碍。

想象力来源于过往的经验和随机的尝试。好奇心和野心来源于欲望。
如果我们赋予人工智能体自维护的责任，他们自然就会有欲望。

原帖由 fredku 于 1-7-2009 11:03 发表

                               
登录/注册后可看大图

啥时候可以把人类10几年才能定型的语言沟通学习过程(语言沟通的"应该的","正常的"对答对于不同的生物和不同的社会,不同的文化,是不同的)浓缩到很短时间内通过程序输入给某超级计算机?


突然想到好奇心，想象力?野 ...

fredku

原帖由 fredku 于 1-7-2009 11:08 发表

                               
登录/注册后可看大图

如果说你的自我意识,是一个长时间的积累的过程的话，要完全复制给智能机器是不可能的吧!

就是说，不可能幻想把你的意识在很短时间内复制给机器,你对任何一个外界刺激的反应,都不可能和你试图制作出来的机器完全一样吧!你的大脑对外界的反应,考虑到时间积累因素,是不可复制的。

stellahie

原帖由 青山 于 1-7-2009 10:54 发表

                               
登录/注册后可看大图

灵魂是什么？其实就是一种复杂的运动状态。当运动停止了，灵魂也就消失了。
这种运动和我们容易理解的，车轮转动，无线电波的运动，没有本质差别。
只不过复杂到一定程度，就会有新的特性产生。

灵魂不也叫第8意识吗。随着呼吸停止而消失的是人（肉体），灵魂可以转换为不同的形态呈现和生存下去。

自我意识也只不过是一组记忆而已。要复制，应该是有办法的。

青山

说实话，我也认为把一个人的意识完整地复制给人工智能体，其难度远远超过构建一个比人聪明10000倍的人工智能体。
到目前为止，我没看到能够完整地读出人类大脑内部全部信息的技术手段。

人工智能体将是一个新的个体，你可以教育他，可以把你的知识和经验通过语言传授给他，但是我不知道如何把你的
整个头脑拷贝给他。主要的瓶颈在于，人的大脑是模拟的，不是数字的，复杂的物理化学结构，信息很难读出来。

原帖由 fredku 于 1-7-2009 11:11 发表

                               
登录/注册后可看大图

就是说，不可能幻想把你的意识在很短时间内复制给机器,你对任何一个外界刺激的反应,都不可能和你试图制作出来的机器完全一样吧!你的大脑对外界的反应,考虑到时间积累因素,是不可复制的。

fredku

求知欲呢?为什么机器能象人一样会试图从语言交流中吸收知识?它们会归纳总结?会得出自己的不同于其他机器的看法?

青山

我的理解，所谓灵魂，就是你大脑的运动状态。灵魂不可能脱离大脑而存在，除非有人能够在大脑死亡之前，
把里边的所有信息和运动状态，都拷贝出来。而这项技术，到目前为止我没看到确定的可能。

原帖由 stellahie 于 1-7-2009 11:14 发表

                               
登录/注册后可看大图

灵魂不也叫第8意识吗。随着呼吸停止而消失的是人（肉体），灵魂可以转换为不同的形态呈现和生存下去。

自我意识也只不过是一组记忆而已。要复制，应该是有办法的。

青山

我现在研究课题，就是让人工智能系统通过阅读来学习知识，并增进其对语言的理解能力。

现在的问题是机器只能通过人们标注过的文章来学习。我要做到的，是努力使人工智能系统，
通过普通的文章去学习。因为现在互联网上有海量的文章。只要能够进入良性循环，人工智能
系统就可以通过海量的阅读，不断提高自己对语言的理解能力。

欲望和能力是两个不同的问题。我们首先要解决的，是能力问题。欲望其实好解决，欲望需要
的只是理由。

原帖由 fredku 于 1-7-2009 11:17 发表

                               
登录/注册后可看大图

求知欲呢?为什么机器能象人一样会试图从语言交流中吸收知识?它们会归纳总结?会得出自己的不同于其他机器的看法?

fredku

自我学习的动力是啥呢.

为什么人要求知识?是欲望? 为什么有这个欲望? 是教育出来的?是教育出来的习惯吗!
为什么人要求生存? 为什么人要恐惧死亡?仅仅由于害怕疼痛? 婴儿好象不恐惧死亡,看来求生欲望也是教育出来的习惯，外加怕疼的生理反应,

青山

欲望和能力是两个不同的问题，我们先要解决的是能力问题。
欲望来源于其自身的需要。如果你不让人工智能系统自己负责
自己的全套维护，那么他就不会产生欲望。

而当你赋予他自我维护的责任，那么为了达成这一目标，他
就会有理由去做各种事情。

原帖由 fredku 于 1-7-2009 11:24 发表

                               
登录/注册后可看大图

自我学习的动力是啥呢.

为什么人要求知识?是欲望? 为什么有这个欲望? 是教育出来的?是教育出来的习惯吗!
为什么人要求生存? 为什么人要恐惧死亡?仅仅由于害怕疼痛? 婴儿好象不恐惧死亡,看来求生欲望也是教育出来 ...

stellahie

第一：灵魂存在的形态只是停留在各家理论的阶段。姑且不管。

第二：我曾经看过一篇报道。有一个试验将老鼠的大脑里提取的一种物质，转移到其他老鼠的大脑内，发现有部分的记忆也跟着被转移了。这一方面，比较接近克隆技术的研究。

如果大脑复制（现有记忆转移），结合人工智能机器（不断学习新知识），或许可以实现所谓的将一个人的“寿命”延续下去吧。

这个寿命也不再局限于肉体有效期的限制了。

fredku

原帖由 青山 于 1-7-2009 11:27 发表

                               
登录/注册后可看大图

欲望和能力是两个不同的问题，我们先要解决的是能力问题。
欲望来源于其自身的需要。如果你不让人工智能系统自己负责
自己的全套维护，那么他就不会产生欲望。

而当你赋予他自我维护的责任，那么为了达成这一目 ...

青山

是啊，这是一个从人类过度到人工智能文明的相对平缓的方式。
不过从我目前的认识，觉得制造出人工智能体容易，拷贝人的思想更难。
至少我还没有什么可行的思路。

我现在能想到的，也许可以把人工智能模块连接到人脑。经过长时间的
共同工作，逐步的把人的大部分思想转移到人工智能模块上去。当这个
人死亡的时候，那个人工智能模块可以留下来，继续工作。

我14楼说的就是这个意思。

原帖由 stellahie 于 1-7-2009 11:30 发表

                               
登录/注册后可看大图

如果大脑复制（现有记忆转移），结合人工智能机器（不断学习新知识），或许可以实现所谓的将一个人的“寿命”延续下去吧。

这个寿命也不再局限于肉体有效期的限制了。