第25章 第25章

决定犒劳这个科学家。

        南安很安静地坐着。

        此时窗外依旧下着雨,  星星点点的霓虹灯光闪烁，勾勒出他清瘦的背影——

        似乎在他看不见的地方，警务员正在各处拉起封锁线,  把堆满街道的尸袋搬上车。

        “让我想想，该从哪里说起比较好……”毕德尔教授关了通讯器,  看向南安，“艾丽说你带幼崽上过地理课,  对吗？”

        南安点头。

        “那你一定见过那时的人类世界了。”毕德尔教授说,“很早以前,  大约三百多年前，人类还没有那么居住密集，他们可以自由在陆地上建立城市。

        尽管国家之间会有博弈，但所有的一切——都在往很好的方向发展,  也包括科技，在三百多年前,  人类就发明了手机,  还有平板，电脑，包括没有人类形态的机器人，他们帮助在旅店送餐,  在医院挂号。对于当时的人们来说，这是很平常的东西。”

        “那……”南安问，“为什么会变成之后这样？”

        “当时的人们觉得，他们可以掌控科技,  人脑可比机器强多了。”可能是因为南安的原因,  毕德尔教授用了很通俗的语言,“于是人们开始大力发展科技，每个国家都以科技为衡量标准，但也是失控的开始。”

        南安睁大双眼:“怎么会？”

        毕德尔教授:“因为优越感。”

        南安一愣。

        “优越感？”

        “对。”

        “每一个地区都觉得自己拥有大量的资源、人力和财富，就算机器失控，他们完全可以去阻止。因此之后的两百多年里，人类科技到了无法比拟的高度，是科技史上的巅峰时期。”毕德尔教授看向窗外的霓虹灯，眸色渐渐沉，“但在这之后，处境就变得越来越难了。”

        南安僵着身子，一眨不眨地看他。

        “两百多年后，也就是2250年左右，人类经历了一场巨大的灾难，被称为启示录时代。”毕德尔说，“那时候的人类社会，已经创造出了ai机器人，它们分布在每家每户，人类对此产生了依赖感。因为它们可以做家务，也可以处理各类的事物，它们活得和人类一样，却比大部分的人类更遵守社会的规则。”

        他停顿了一下，继续道:“但是有一天，却出事了。”

        “一个机器人在没被允许的情况下，擅自开启了取暖器，仅因为它的算法中，低于十度的气温需要开启而已。”他说道，“但是，取暖器靠近窗帘，不仅烧死了正在熟睡的主人，还引发三栋大楼的火灾，一千多名活生生的居民，葬身火海。”

        南安小声:“怎么会？”

        “因为它们只有算法，在这个逻辑中，人类的命令低于精准的运算。因此在这之后，人类就出台了《机器人三大法则》。”

        毕德尔看着南安，轻声问:“知道这个吗？”

        南安点点头。

        在开普勒基地时，工作人员就对他科普过。

        但当时他注意力全被窗外的星星吸引了，对于这类法则，他没听进去。

        于是他又小幅度地摇头:“我不知道。”

        毕德尔教授倾身，把口袋中的一本小册子给了南安:“上面有玫瑰城的基本准则，也有机器人三大法则的蓝本，不过现在的玫瑰城，使用的是《机器人五大法则》。”

        于是南安翻开。

        在第一页，那是陈旧的牛皮纸，画着一朵绽开的玫瑰花。

        像是跨越了几百年的人类发展历史，带着说不尽却又陈旧的痕迹，落在这一支单只的玫瑰上。

        紧接着，南安就看到一段话。

        【人类于2240年9月1日通过机器人三大法则，即日实行。】

        南安的视线往下移。

        就见下方三行小字，写着三句法则——

        【机器人不得伤害人类，或者目睹人类危险而袖手旁观。】

        【在不违反第一条法则的前提下，机器人必须服从人给予它的命令。】

        【机器人在不违反第一、第二条法则的情况下，要尽力保护自己。】

        见南安专注阅读的模样，毕德尔教授道:“这仅仅只是一个开始。”

        “什么意思？”

        “人类自以为是的优越感，让他们忽略了机器人背后的强大逻辑。”

        他的语气平稳，南安觉得他真的在讲述一个故事，带着旁观整个时代的冷静，和现在的他们毫不相关。

        于是南安推测:“是法则不能约束机器人吗？”

        “不。”毕德尔摇头:“是定义出了错。”

        “孩子，我问你一个很简单的问题。”

        “您说。”

        毕德尔:“如果机器人觉得人类遇到危险，那么，什么是危险？”

        南安思考了下:“比如……掉进水里，或者在街上被车撞了？”

        毕德尔笑了:“都是，却又不是。”

        “没有一个人能正确得出定义，包括被制定法则的机器人。”他说着叹了一口气，“因此，就造成了这一场巨大的人类灾难，也是巅峰时代过去，启示录时代的开始。”

        南安像是被吓到了，他紧紧攥着手册的一角，睁大了眼睛:“难道说……”

        “对。”毕德尔教授点头，“我知道你想说什么，我的孩子。在法则出台后的第八个年头，机器人得出了一个结论——认为人类不被他们统治，就是危险。”

        “那是一场空前绝世的灾难，上亿的机器人拥有自己的意识，它们互通消息，在空地集合，带着人类创造出的枪支，像整装待发的军队，然后，以保护人类的名义，全方面侵略了人类社会。”

        南安很小心地喘了一口气。

        在他面前，似乎见到了无数机器人，血流成河的城镇，以及人们惊恐的眼神。

        “所以。”南安问道，“它们成功了吗？”

        毕德尔摇头:“没有。”

        “当时的科学家，在灾难开始的一年后，带着仅存一百万的人口，建立了新的城市。”毕德尔说，“这就是玫瑰和银铃城市的雏形。他们建造了全新的基地，以及坚硬的城墙，抵御着机器人的攻击。而在最后，在城墙中，科学家们发现他们可以通过修改三大法则，增加了第零条，直接关停机器人。”

        “那是什么？”

        “永远不得伤害整个人类群体。”毕德尔说道，“同时，立刻启动毁灭程序。”

        南安张了张嘴，像是完全怔住了，他看上去想说什么，却听见通讯器响了。

        于是去接电话。

        实验室的通讯器放在角落，南安费力地勾了勾电线，才勉强拉回来。

        他眉头皱着，像是还沉浸在刚才的故事中，而等到接通，听到对方的声音后，南安的眉头瞬间舒展，撑脸软软地应了几句，然后又哒哒跑回来。

        “林泽？”

        南安点头。

        “他让我下午就回住所。”南安说，“先去前台拿个快递，再送我回去休息。”

        毕德尔笑了笑:“我从来没见过他这样过。”“嗯？”南安微愣。

        “他承受太大的压力了。”毕德尔教授说，“所以大部分时间，他都是一个人独处。”

        “作为玫瑰城市的科学家，他不能犯之前三大法则的错误，却不能彻底舍弃它，承担几千万玫瑰居民的安全和性命。”毕德尔教授说，“所有很多时候，他表现得不近人情，但希望你能理解。”

        南安小声在心里说会的。

        尽管他是机器人，也不懂太多的人类情感。但这个大坏蛋，在某种程度上来说，是一个很好的人类，起码在他去南方前帮助了他，也照顾了他，尽管态度不是那么温柔。

        “所以后面两条法则是什么？”南安问，“是谁制定的？”

        毕德尔笑了下:“是林泽。”

        他说着，慢慢地起身:“《机器人三大法则》后的两条，是十年前银铃和玫瑰分裂后，才拥有的，是玫瑰城市的最高使用法则。”

        “第四条，永久废除前三条及第零条法则。”毕德尔说，“而第五条是……”

        “遵循研究所的《人工通用智能agi》，严格执行，如有风险，研究所以及制定人会完全承担。”

        “这里面有着林泽写下的近万条规定，直到现在还在增加，小到每一个机器人的零件规格，大到修补了三百年来，所有机器人惨案的漏洞——同时也包括禁止仿生技术等。”

        南安看着毕德尔，不知是什么情绪。

        很奇怪，明明他是被禁止的那一类，但听到林泽制定的法则以及承担的压力时，却忽然有点想哭。

        他抽了抽鼻子，努力让眼眶红得不是那么明显。

        就在这时，听到毕德尔说:“时间不早了，我得回去了。”

        “至于之后两派的分裂，那就是另一个故事了。”毕德尔离开前，从口袋中掏出饼干给南安，“这是奖励，你听的很专注。”

        南安伸手接过饼干。

        他看着毕德尔教授离开的身影，半晌才回过神。

        没再犹豫，他小心地把饼干藏进抽屉，从楼上下来。

        他要去见这个制定法则的科学家了。

        南安决定今天一定要给林泽做蛋包饭，并且不画凶巴巴的蝙蝠，而是要画满他的小爱心，犒劳这个为人类发展操心的大科学家。

        伴着叮的一声，南安走出电梯，来到了一楼大厅。

        研究所启动了严格的安检，所有芯片需要上报和筛查，这让南安感到安全。于是他毫无戒备的走向前台——

        这是他跟吉尔来第一次来研究所时的前台，工号1350，南安觉得很亲切。

        “我是艾丽的助手。”南安道，“林泽博士让我拿一个包裹。”

        “好的，稍等。”

        前台冲他笑了笑。

        于是南安也跟着弯了眼睛，他后退几步，像在等待快递，或者说在等那个科学家人类。

        “您的快递。”

        南安应声抬眼，从前台手上接过包裹。

        但下一秒，他瞥向了对方的手臂。不可置信地睁大了双眼。

        余光中，那是细微的伤口，却长满了银色的绒毛，正在细小地颤动。

        作者有话说:

        文中引用阿西莫夫在「runaround」中的机器人三定律。

        以及部分灵感源于电影《i，robot》

        下一次更新在周六晚11点30分左右，1w-字大肥章-感恩支持，希望我们能一起陪伴安崽走下去，喜欢的宝贝可以点点作者收藏吖！会继续努力w；

        同类型预收《小玫瑰和他的人类上校》求收藏——

        另外有完结文《泛音》

        及两本完结无限流可戳专栏。

        非常感谢大家对我的支持，我会继续努力的！


　　https://www.biqugeg.net/86287_86287313/82628063.html


　　天才一秒记住本站地址：www.biqugeg.net　笔趣阁手机版阅读网址：m.biqugeg.net