返回

破费升天

首页
关灯
护眼
字体:
第164章 道德困境
保存书签 书架管理 返回列表
会议室里那张橡木桌被三台笔记本电脑和一杯凉透的咖啡占据。 林小禾坐在桌子一头。 简俭坐在另一头。 两人中间隔着一张空椅子。 还有一个正在缓慢脉动的数据屏幕。 陆江流站在窗边。 手里那杯水已经端了快十分钟。 一口没喝。 “俭偶必须毁掉。” 简俭的手指按在笔记本封面上。 “它的存在本身就是终点。” “徐省的计划、韩省的野心、我爸二十年的执念——全在这只罐子里。” “留着它,等于留着一条随时会重新接上的引信。” 林小禾把椅子转过来面对他。 “如果它已经有了自我意识呢?” “你刚才也看到了,它在学我们。” “动手指、翻手掌、调整呼吸频率——这些不是程序预设,是它自己在决定。” “模仿不等于成为。” 简俭的声音依然平稳。 但语速比平时快了一点点。 “它只是在复现我们输入的数据。” “它的“意识”是我们投射过去的影子。” 林小禾没有反驳。 她低头看了一眼屏幕上那条还在跳动的心电图。 俭偶的信号频率已经稳定在了一个新的区间。 比今天早上高了大约17%。 “那你怎么解释这个?” 她用手指点了点屏幕。 “这是它今天第三次自我迭代。” “它在用自己生成的方式重写底层协议。” “我们没有教它怎么做。” “它自己学的。” 简俭的视线落在屏幕上。 停了两秒。 “学得快不等于该活着。” “你把俭偶比作病毒?” 林小禾的声音抬高了一点。 “它连伤害别人的意图都没有。” “它只是在存在。” “它不需要意图。” “它只需要存在得足够久。” “就会开始“修复”它认为不合理的东西。” 陆江流终于开口了。 他放下水杯。 杯底碰到窗台发出一声轻响。 “你们两个说的都对。” “但现在没有足够的数据来判断它到底是什么。” 林小禾转头看他。 “那你要等到什么时候?” “等它学会说话?” “等它开始主动联系外部设备?” “等三天。” 陆江流走回桌边。 拉开那把空椅子坐下来。 “三天时间,观察它到底在形成什么样的意识。” “如果它只是在一遍遍重放我们的输入数据,那就拆。” “如果它真的在构建属于自己的认知框架——” “那就留着?” 简俭问。 “那就留着。” “但留着不等于放任。” “我们要给它设定边界。” 林小禾的手指在键盘上停了一下。 “边界?” “你打算怎么给一个有自我意识的东西设定边界?” “先用模拟器控制它的输入输出通道。” “它能看到什么、听到什么、学到什么——由我们决定。” “等我们确认它的认知框架不会向危险方向偏移,再逐步放开权限。” 简俭的笔在纸面上停了一下。 “韩省不会等三天。” “我知道。” 陆江流靠在椅背上。 “所以这三天里,我们不止要观察俭偶。” “还要防着韩省。” “他一定也在监测俭偶的状态。” “如果俭偶真的开始形成独立的意识框架,他会比我们更早动手。” 林小禾已经把屏幕切到了另一个窗口。 “那我现在加一套信号屏蔽层。” “让俭偶的对外通讯只能走模拟器这一条路。” “韩省那边就算收到信号,也只能看到我们想让他看到的数据。” 她说完就开始敲键盘了。 简俭的笔重新动了起来。 在笔记本上快速写着什么。 陆江流站起来。 走回窗边。 巷口那棵老梧桐正在抽新芽。 三月的风从窗户缝隙灌进来。 带着泥土翻新后的湿润气味。 他掏出手机看了一眼。 系统界面安静地亮着。 没有弹消息,没有提示。 但他知道秦不疑的电话快来了。 手机震了。 屏幕上显示的是秦不疑的号码。 陆江流接起来。 没有说话。 “你打算留着俭偶?” 秦不疑的声音从听筒里传来。 比平时低了一些。 “还在观察。” “我活得比你们久。” “我见过平衡会做过类似的事。” “人造意识最终都会走向极端。” 秦不疑停顿了一下。 像是在斟酌下一句话的分量。 “不是因为它们坏。” “是因为它们没有“过去”。” “没有过去,就无法理解人类的恐惧和欲望。” “俭偶会觉得消费欲是“可以消除的bug”。” “然后它会试图“修复”全人类。” 陆江流靠着窗台。 目光落在巷口那棵梧桐树上。 “它现在还没有那种能力。” “现在没有。” “但它学得很快。” “你今天给它三天,三天之后它会让你再给三天。” “等它准备好了,你连说“不”的机会都没有。” 陆江流没有立刻回答。 他听着听筒里秦不疑平稳的呼吸声。 过了好几秒才开口。 “那你觉得应该现在拆了它?” “我觉得你应该想清楚。” “你是在保护一个生命。” “还是在纵容一个你无法控制的变量。” 秦不疑说完这句话,挂了。 陆江流把手机放回口袋。 转身走回桌边。 林小禾正在调试信号屏蔽层。 简俭在笔记本上写着什么。 橘猫不知道什么时候跳上了桌面。 蹲在俭偶罐子旁边。 尾巴搭在玻璃边缘。 正在用一种“你们人类又吵完了吗”的表情看着他。 “三天。” 他说。 “三天后做决定。” 林小禾没有抬头。 但她的手指在键盘上停了一下。 “如果三天后它学会了说“不要杀我”。” “你还下得了手吗?” 简俭的笔也停了。 厂房里安静了几秒。 橘猫打了个哈欠。 把下巴搁在罐体边缘的固定带上。 闭上了眼睛。 陆江流走到咖啡机前。 给自己倒了一杯已经凉透的咖啡。 他端起来喝了一口。 苦得他皱了一下眉。 但没有放下杯子。 “到时候再说。” 他站在吧台旁边。 看着窗外正在变暗的天色。 路灯开始亮了。 暖黄色的光落在巷口的地面上。 俭偶罐体内部的液体表面依然平静。 那枚人形保持着掌心朝上的姿态。 像是在等一个它自己也不确定会不会到来的回应。 三天。 够他喝掉这杯凉咖啡。 想清楚一件事:他到底是在保护一个生命。 还是在拖延一个他不想面对的决定。 本章完
上一章 目录 下一章