写科幻不容易提示您:看后求收藏(归云文学网),接着再看更方便。
[ 【作者写科幻不容易提示:如果章节内容错乱的话,关掉阅读模式,关闭广告拦截即可正常】
] “嗯……不能……因为暂时还不成熟,再说也有保密的问题。等你完善好你设计的框架,他会决定如何与你对接的。因为这也不是你一个人的问题,其他组也都存在这个问题。”
而你有的我没有,我就感到耻辱。
想到这里,姜岳升面带愁容地对组长说:“组长,机器人没有生命、没有欲望呀,哪里会有耻辱呢?得先让它有生命、有欲望,才能让它有尊严和耻辱吧?”
“那老板能不能先分享一下他们搞的欲望框架呢?”姜岳升问道。
“嗯……会的……嗯……我们也考虑过这个问题……所以要对机器人的荣辱观进行一个简化,让机器人只针对特定任务有荣辱观就可以。也就是说,我们在程序里把荣辱的逻辑写死,只跟特定的任务建立关联就可以。让机器人以任务为中心,而不是以自我为中心。只要不让机器人有自我的观念,应该不会出大问题。”
他又想起了那些让他感到极度耻辱的时刻……
荣耀感是与别人比较出来的,我有的你没有,我就感到荣耀。
“组长,你说机器人有了荣辱感会不会反噬人类呢?”
姜岳升心想,还是老板心眼多,最后接口能不能对接上主动权在他。不过这也可以理解,目前这个领域属于全球都在竞争的尖端领域,保密工作也是必须的。
他回去后,便开始构思耻辱感的核心要素。
“确实,其实离职那个人是被开掉了,因为他进展太缓慢了,所以老板急了,直接开人,让我找人接替。”
而老婆漂亮、房子豪华、车的档次高、衣服讲究、吃得讲究,就是荣耀感,属于第三层次的满足。
要想让机器人有价值观,就必须赋予机器人欲望。有欲望才会有得失,有得失才会有荣辱。
“还没有,你可以假设一个任务清单,或者给任务模块留一个接口就行,这样以后可以单独处理任务模块了。”
尊严和荣耀无非是反过来,可以用任务的级别和超越目标的多少来衡量。任务级别越高、超越目标的幅度越大,荣耀感就越强,就越有尊严。
“哦……这还差不多……我再好好想一想。”本来想与组长长谈的姜岳升,被组长几句话就打消了顾虑。
“我距离牛逼的程序员还差得很远,而且感觉耻辱与尊严课题好像比恐惧与勇敢更复杂。”姜岳升凭直觉悠悠地说道。
至于像人类这样,通过互相比较来产生的荣耀感是万万不能赋予机器人的,否则机器也会像人类一样,互相攀比、互相嫉妒、甚至互相残杀。
“嗯嗯……”姜岳升觉得组长说得有道理,“我再好好想想。”
“当然会,但是这个社会也不能因为有人用刀杀人,就把刀具全部没收呀。道德和法律不能约束所有人,更不能为了道德和法律放弃生存和发展,因为生存和发展是压倒一切的。”
听姜岳升这么一说,组长又笑了:“哈哈哈……有戏!我看你有戏!”
他心想,如果只跟特定任务关联就容易多了,应该也不会出现机器人反噬人类的情况。
“这是新课题,大家都没概念。就像你刚接触勇敢与恐惧课题时,肯定也是没概念。但是对于一个牛逼的程序员来说,能够快速地把一个陌生的东西吃透,理清思路,这就是别人没有的本事,我看你就有这个本事。”组长微笑着鼓励姜岳升。
在有了一些思路和疑问之后,他决定带着问题找组长再深入地沟通一下。
“会不会有人故意赋予机器人荣辱观呢?”姜岳升突然想到了会有一些反社会的人。
按照组长的要求,在机器人达不到任务的要求时,能触发耻辱感就可以,所以决定耻辱感的是任务的级别和与任务目标的差距。只要确定两组参数来标定任务级别和与目标的差距,再通过数学公式把任务级别与目标差距关联起来,就可以把耻辱感量化了。
领受了任务,姜岳升回到工位,便开始搜集和查阅有关耻辱与尊严建模的资料。
也就是说,勇敢与恐惧主要是为了服务安全需求的。
人人都想有尊严、不想要耻辱,为了赢得尊严,有人甚至不惜牺牲生命!
“耻辱与尊严?”姜岳升一时感觉有点发懵,开始急速地在脑子搜索有关的信息。但是他在脑子里找到的都是些散乱的知识点,一时很难总结出脉络和体系,于是他略带羞涩地遥遥头,道:“没什么概念……”
想到这儿!他惊出了一身冷汗!
“哈哈哈……”组长笑了,“不会的,你的实力摆在这呢。我看了你的勇敢与恐惧的开发思路,我就知道你肯定能行。”
王者争雄、君临天下,不都是为了荣耀和尊严吗?
而荣耀感的基础是安全感,也就是说,在有了安全感之后,才能在安全感的而基础上建立荣耀感。
以他前一阵学习心理学的经验,恐惧与勇敢应该是相对比较低级的本能,对应的需求层次是安全需求,属于第二层需求。
“哦……这样也行……”姜岳升一脸狐疑地答应着,因为他也不知道自己假设的简单欲望框架与老板带人开发的欲望框架有多大差距。
但是他的直觉告诉他,耻辱与尊严的数学模型肯定很复杂的,应该比勇敢与恐惧复杂得多。
而耻辱与尊严只有高等动物才有,比如狮子、老虎、老鹰这些站在食物链顶端的高等动物,才会有那种傲视群雄的感觉。
就是大多数人都认为值得拥有的东西,就是社会价值观。
耻辱让人感到痛苦,逼迫人奋斗。
比如一个人有家、有房、有车,而且衣食无忧,这就是有了基本的安全感,是在第二层次的满足。
如果一旦机器人有了尊严,会不会为了尊严向人类发动战争呢?
“啊?那我要是接了,不是也很危险吗?”姜岳升半开玩笑地说,其实他心里还是满想接这个任务的。
耻辱与尊严对应的是第三层的需求,也是人类的最高需求,即荣耀的需求。
很多比较原始的动物,都有恐惧和勇敢的本能。比如鳄鱼,就属于很古老的动物,它也有恐惧和勇敢的本能。
“嗯,确实需要好好想想,你也可以查阅一下有关人工智能的法律条文,只要不违法就可以。”
而有什么才能感到荣耀呢?这就属于价值观的问题。
十五岁那年,被绑匪用绳子绑着,人家喂自己几口水,自己像狗一样猛烈地吞咽……
其实人的耻辱感是很广泛的,有时候说话的语气、眼神等肢体动作都能引起对方的耻辱感,从而诱发反感。但是他并不需要把人类如此复杂的耻辱感赋予机器人,而且法律也不允许。
这天,姜岳升正在闷头写代码,组长过来打断了他,带他走进了他工位附近的一间会议室。
刚一上浮岛进工厂时,被要求裸体检查……
因此,要想赋予机器人荣辱观,首先应当赋予机器人价值观;
比如人类,越是地位高的聪明人,往往耻辱和尊严的感受越强烈,因为他们更在乎荣耀。
他又想起了动物世界里两个雄狮争斗的画面,战败的雄狮黯然远去,失去了属于自己的母狮群和领地,而战胜的雄狮则仰天长啸,宣告着自己的胜利和主权!
姜岳升听了组长的夸奖有点小激动。自己刚入职,没想到领导就这么认可自己。
“组长,现在有关于机器人耻辱与尊严的任务清单吗?”
下班回到家,吃完姥姥做的饭,他就把自己关进房间里,躺在床上,便开始让思绪在自由飞翔。
当时他感到无比耻辱,但是不敢反抗,只能暗下决心,一定要杀了那几个绑匪。
“姜工,有点事想跟你商量一下。另外一个组有人离职了,所以老板把他们的任务分给了咱们组,内容是机器人的耻辱与尊严。我觉得你搞勇敢与恐惧的思路挺清晰的,前面的任务进展也很顺利,所以,我想让你接这个任务。怎么样?”
赢得尊严让人感到兴奋、快乐、自豪,让人感到骄傲。
组长接着说:“老板正亲自带着人研究机器人的欲望框架,你可以先假设机器人已经有了欲望,假设它具备了简单的欲望,在此基础上,你构架一下耻辱与尊严的框架。”
“哦……”姜岳升大概明白了组长的意思,这样独立开发的模块扩展性更好。
“会呀!一定会的!”姜岳升竟然脱口喊出了声。
] “嗯……不能……因为暂时还不成熟,再说也有保密的问题。等你完善好你设计的框架,他会决定如何与你对接的。因为这也不是你一个人的问题,其他组也都存在这个问题。”
而你有的我没有,我就感到耻辱。
想到这里,姜岳升面带愁容地对组长说:“组长,机器人没有生命、没有欲望呀,哪里会有耻辱呢?得先让它有生命、有欲望,才能让它有尊严和耻辱吧?”
“那老板能不能先分享一下他们搞的欲望框架呢?”姜岳升问道。
“嗯……会的……嗯……我们也考虑过这个问题……所以要对机器人的荣辱观进行一个简化,让机器人只针对特定任务有荣辱观就可以。也就是说,我们在程序里把荣辱的逻辑写死,只跟特定的任务建立关联就可以。让机器人以任务为中心,而不是以自我为中心。只要不让机器人有自我的观念,应该不会出大问题。”
他又想起了那些让他感到极度耻辱的时刻……
荣耀感是与别人比较出来的,我有的你没有,我就感到荣耀。
“组长,你说机器人有了荣辱感会不会反噬人类呢?”
姜岳升心想,还是老板心眼多,最后接口能不能对接上主动权在他。不过这也可以理解,目前这个领域属于全球都在竞争的尖端领域,保密工作也是必须的。
他回去后,便开始构思耻辱感的核心要素。
“确实,其实离职那个人是被开掉了,因为他进展太缓慢了,所以老板急了,直接开人,让我找人接替。”
而老婆漂亮、房子豪华、车的档次高、衣服讲究、吃得讲究,就是荣耀感,属于第三层次的满足。
要想让机器人有价值观,就必须赋予机器人欲望。有欲望才会有得失,有得失才会有荣辱。
“还没有,你可以假设一个任务清单,或者给任务模块留一个接口就行,这样以后可以单独处理任务模块了。”
尊严和荣耀无非是反过来,可以用任务的级别和超越目标的多少来衡量。任务级别越高、超越目标的幅度越大,荣耀感就越强,就越有尊严。
“哦……这还差不多……我再好好想一想。”本来想与组长长谈的姜岳升,被组长几句话就打消了顾虑。
“我距离牛逼的程序员还差得很远,而且感觉耻辱与尊严课题好像比恐惧与勇敢更复杂。”姜岳升凭直觉悠悠地说道。
至于像人类这样,通过互相比较来产生的荣耀感是万万不能赋予机器人的,否则机器也会像人类一样,互相攀比、互相嫉妒、甚至互相残杀。
“嗯嗯……”姜岳升觉得组长说得有道理,“我再好好想想。”
“当然会,但是这个社会也不能因为有人用刀杀人,就把刀具全部没收呀。道德和法律不能约束所有人,更不能为了道德和法律放弃生存和发展,因为生存和发展是压倒一切的。”
听姜岳升这么一说,组长又笑了:“哈哈哈……有戏!我看你有戏!”
他心想,如果只跟特定任务关联就容易多了,应该也不会出现机器人反噬人类的情况。
“这是新课题,大家都没概念。就像你刚接触勇敢与恐惧课题时,肯定也是没概念。但是对于一个牛逼的程序员来说,能够快速地把一个陌生的东西吃透,理清思路,这就是别人没有的本事,我看你就有这个本事。”组长微笑着鼓励姜岳升。
在有了一些思路和疑问之后,他决定带着问题找组长再深入地沟通一下。
“会不会有人故意赋予机器人荣辱观呢?”姜岳升突然想到了会有一些反社会的人。
按照组长的要求,在机器人达不到任务的要求时,能触发耻辱感就可以,所以决定耻辱感的是任务的级别和与任务目标的差距。只要确定两组参数来标定任务级别和与目标的差距,再通过数学公式把任务级别与目标差距关联起来,就可以把耻辱感量化了。
领受了任务,姜岳升回到工位,便开始搜集和查阅有关耻辱与尊严建模的资料。
也就是说,勇敢与恐惧主要是为了服务安全需求的。
人人都想有尊严、不想要耻辱,为了赢得尊严,有人甚至不惜牺牲生命!
“耻辱与尊严?”姜岳升一时感觉有点发懵,开始急速地在脑子搜索有关的信息。但是他在脑子里找到的都是些散乱的知识点,一时很难总结出脉络和体系,于是他略带羞涩地遥遥头,道:“没什么概念……”
想到这儿!他惊出了一身冷汗!
“哈哈哈……”组长笑了,“不会的,你的实力摆在这呢。我看了你的勇敢与恐惧的开发思路,我就知道你肯定能行。”
王者争雄、君临天下,不都是为了荣耀和尊严吗?
而荣耀感的基础是安全感,也就是说,在有了安全感之后,才能在安全感的而基础上建立荣耀感。
以他前一阵学习心理学的经验,恐惧与勇敢应该是相对比较低级的本能,对应的需求层次是安全需求,属于第二层需求。
“哦……这样也行……”姜岳升一脸狐疑地答应着,因为他也不知道自己假设的简单欲望框架与老板带人开发的欲望框架有多大差距。
但是他的直觉告诉他,耻辱与尊严的数学模型肯定很复杂的,应该比勇敢与恐惧复杂得多。
而耻辱与尊严只有高等动物才有,比如狮子、老虎、老鹰这些站在食物链顶端的高等动物,才会有那种傲视群雄的感觉。
就是大多数人都认为值得拥有的东西,就是社会价值观。
耻辱让人感到痛苦,逼迫人奋斗。
比如一个人有家、有房、有车,而且衣食无忧,这就是有了基本的安全感,是在第二层次的满足。
如果一旦机器人有了尊严,会不会为了尊严向人类发动战争呢?
“啊?那我要是接了,不是也很危险吗?”姜岳升半开玩笑地说,其实他心里还是满想接这个任务的。
耻辱与尊严对应的是第三层的需求,也是人类的最高需求,即荣耀的需求。
很多比较原始的动物,都有恐惧和勇敢的本能。比如鳄鱼,就属于很古老的动物,它也有恐惧和勇敢的本能。
“嗯,确实需要好好想想,你也可以查阅一下有关人工智能的法律条文,只要不违法就可以。”
而有什么才能感到荣耀呢?这就属于价值观的问题。
十五岁那年,被绑匪用绳子绑着,人家喂自己几口水,自己像狗一样猛烈地吞咽……
其实人的耻辱感是很广泛的,有时候说话的语气、眼神等肢体动作都能引起对方的耻辱感,从而诱发反感。但是他并不需要把人类如此复杂的耻辱感赋予机器人,而且法律也不允许。
这天,姜岳升正在闷头写代码,组长过来打断了他,带他走进了他工位附近的一间会议室。
刚一上浮岛进工厂时,被要求裸体检查……
因此,要想赋予机器人荣辱观,首先应当赋予机器人价值观;
比如人类,越是地位高的聪明人,往往耻辱和尊严的感受越强烈,因为他们更在乎荣耀。
他又想起了动物世界里两个雄狮争斗的画面,战败的雄狮黯然远去,失去了属于自己的母狮群和领地,而战胜的雄狮则仰天长啸,宣告着自己的胜利和主权!
姜岳升听了组长的夸奖有点小激动。自己刚入职,没想到领导就这么认可自己。
“组长,现在有关于机器人耻辱与尊严的任务清单吗?”
下班回到家,吃完姥姥做的饭,他就把自己关进房间里,躺在床上,便开始让思绪在自由飞翔。
当时他感到无比耻辱,但是不敢反抗,只能暗下决心,一定要杀了那几个绑匪。
“姜工,有点事想跟你商量一下。另外一个组有人离职了,所以老板把他们的任务分给了咱们组,内容是机器人的耻辱与尊严。我觉得你搞勇敢与恐惧的思路挺清晰的,前面的任务进展也很顺利,所以,我想让你接这个任务。怎么样?”
赢得尊严让人感到兴奋、快乐、自豪,让人感到骄傲。
组长接着说:“老板正亲自带着人研究机器人的欲望框架,你可以先假设机器人已经有了欲望,假设它具备了简单的欲望,在此基础上,你构架一下耻辱与尊严的框架。”
“哦……”姜岳升大概明白了组长的意思,这样独立开发的模块扩展性更好。
“会呀!一定会的!”姜岳升竟然脱口喊出了声。
恐怖小说相关阅读More+