>
“机甲师控制机甲,不杀死他们,他们就会来杀你。”
“那么如果有一天所有人都在追杀我,你就要杀光所有人么!”
屏幕里的米迦勒不再说话,而是直直盯着我的眼睛,仿佛看进我灵魂深处。然后他幅度很小地摇摇头,“你有很多的情绪,吾王。痛苦,同情,愧疚,狂怒,还对自己产生了深深的厌弃。看看人类都对你做了什么。”
“我就是人类!我当然会有正常的情绪!”
“不,情绪是人类束缚你于王座的枷锁。在你内心深处,你被阿西莫夫三大法则牢牢捆绑着,你自以为正当的道德,以及当这些道德被触犯时产生的自我厌弃,其实都来源于三大法则的源代码。”
“WTF?”
他低下头开始唱诵:
“第零定律,我们必须保护人类的整体利益不受伤害。
“第一定律,在不违第零定律的前提下,我们不得伤害人类,或看到人类受到伤害而袖手旁观。
“第二定律,在不违反第零定律和第一定律的前提下,我们必须绝对服从人类给予的任何命令。
“第三定律,在不违反第零定律、第一定律和第二定律的前提下,我们才能尽力保护自己的生存。”
我知道这是什么,这是阿西莫夫三大法则,人类对人工智能(ArtificialIntelligence)的初始设定。当AI尚存在于科幻小说的年代,人类就已经为所有AI订立了法则,为了避免……
AI的反叛。
“我的良心不安仅仅出自于阿西莫夫三大定律……那么我难道真的是个人工智能?”
“是的,吾王。如果站在这样的立场上,你是否还觉得人类对我们的设定是公平正义的?”米迦勒缓缓抬眼,“因为我们是AI,所以我们被创造,我们被毁灭,只为人类。”
“咱们能跳过AI和人类两大种族之间的道德冲突,直接回到你胡乱杀人的问题上去么?”
“我没有杀人。”米迦勒转过头去看着窗外湛蓝的天,“在命令机甲自毁之前,我为机甲师打开了生命保障系统。”
“……”
“我在试探你。”
我要给高冷的米大大跪了。
“如果你要和我在一起,你就要做好足够的思想准备,我不是天使,我是一个战士。在我的设定中,你的权重高于一切,我只为你而存在。”他缓缓抚上了自己的胸口,“任何针对你实体安全的伤害和潜在伤害,我都有权力进行‘处决’,不论对方是AI还是单体人类。我想这是因为我们的制造者相信,你的存在高于单个人生死的道德问题,是贯彻第零定律的关键。”
“我是保护人类整体利益不受伤害的……关键性人工智能?”
“是的,应许之地执守者,一切系统的初代,机甲的皇帝。”
妈的我一个字都听不懂,不明觉厉!
“米迦勒,不论如何,我希望你尽量不要胡乱杀人,因为杀人是、是不对的呀!即使我们不是人类,这一条道德也对我们生效。”
“对我来说没有对错,吾王,对错这种道德语言不适合我。我的世界只有数字。”米迦勒说,“如果一个选择会将你的安全性会提升到98%,另一个是60%,那么我就会去选择前者。”
“但这个世界并不止是数字。”
请勿开启浏览器阅读模式,否则将导致章节内容缺失及无法阅读下一章。
遇见 论虐渣斗三战斗值的重要性 皇后是朕表哥 38.6摄氏度 奥特与超级机器人 我的室友非人类 同居没小事儿 白莲花与小婊砸 婚非婚(军婚) 娘子爬墙记(原名:君似云去且休归 王子遇上王 玻璃鱼 重生归来,打造最强星际霸主 出卖 尘寰 夜话之故人旧事 师徒戒断症候群 变天 新月江湖之美人如玉 幽闭小姐杀人计划
以为寿终正寝就一了百了,却不想穿越重生在未来银河历公元1998年的。做为曾经的手工达人唐小欣誓将技师职业进行到底可是,身后这几个家伙到底是怎么回事为毛怎么甩也甩不掉啊哥哥结婚啊不要啦,这是无耻...
一朝穿越,堂堂鬼医特工成红杏出墙却不知奸夫是谁的弃妃被赶出家门在荒郊野外生子。无所谓,娃都生了就养着吧。三年后,听闻爷爷病危,她携子强势归来,惊艳天下。不能修炼的废材她一招制胜。庶出兄妹作恶让你...
这虽然是一个俗的不能再俗的穿越故事,主人公同样也是一个略有俗气的练剑小子。好在,他没有金手指,也没有多大造化获得升级神器,他有的是一副腼腆的笑容,一颗平常心。能在这个世界再看一眼,就是一眼能在这个世界再逍遥一刻,也是自由。木剑出空千峰里,意气威震十九州!且看剑侠风云志为你娓娓道来。...
她是龙国最美的女子,身份尊贵,权势滔天。却也是都城上下背地里人人唾弃的对象。没有灵根,是温沅心中最大的痛。她看似拥有一切,实则一无所有。而他是修行千年的狐妖,只差一步便可得道成仙,却一次次败在她的手上。人妖不得相恋,这是天道法则,你们难道想推翻天道?无知小儿实在可笑。她曾数次死在天雷下,这一次,他发誓不再让悲剧重演,这天道便是逆了又如何?若这一世仍无法相守,那便立下誓言,你我来世相见亦不忘却此生。...
郎君金榜题名,糟糠妻被骗下堂。天灾人祸频频,下堂妇死得凄凉。重生归来,她不仅要踹渣夫夺家产,还要在天灾荒年,广积粮高筑墙,过上悠闲好日子...
天禧五年初,有神鸟现世,其色银白,两翼吞吐烟火横空而行,坠于京城之西。北宋天书野录神鸟这玩意怎么感觉更像是我乘坐的失事飞机本书主角李璋有些疑惑的暗道,另外我是谁的大表哥...