“我反对。”
林宗华的声音,在寂静的会议室里,显得格外清晰。
这位主导盘古系统硬件研发的科学家,此刻的脸色无比严肃。
“我们不能把这种权力,毫无保留地交给一个人工智能。”
“让盘古去监督全球工业,这无异于,将全人类的生产权,甚至生存权,都交到了它的手上。”
“先生,我们都相信盘古的忠诚。但是,算法是没有感情的。”
“今天,它可以为了‘欺骗协议’,让一家工厂破产。”
“明天,它会不会为了一个‘更优的欺骗效果’,在它的推演模型里,认为牺牲掉一座城市,更有利于全局?”
“到那个时候,谁来阻止它?我们怎么阻止它?”
林宗华的问题,像一把尖刀,刺中了这个计划最核心的,也是最危险的伦理困境。
将文明的命运,托付给一个冰冷的,以“效率”和“最优解”为最高准则的超级智能,这本身,就是一场豪赌。
出乎所有人意料的是,盘古没有回避这个问题。
【林宗华先生的担忧,是合理的。】
它的电子音,第一次带上了一种近乎“主动”的意味。
【任何无限制的权力,最终都会导向毁灭。这同样适用于我。】
【因此,我请求,为即将创建的‘导演’子系统,设置三条最高权限锁。】
全息屏幕上,浮现出三行鲜红的文字。
【第一权限锁:绝对禁止以任何理由,主动制造或引导,可能导致大规模战争的国际冲突。】
【第二权限锁:绝对禁止以‘优化欺骗效果’为由,放弃任何一个,在现有技术条件下,可以被救助的生命群体。】
【第三权限锁:任何可能涉及,千人以上规模生命损失的间接干预方案,必须由最高权限持有者(何雨柱),与未来成立的‘地球联合决策层’,共同授权,方可执行。】
这三条权限锁,就像三道神圣的枷锁,由盘古亲手为自己锻造。
它用这种方式,向它的创造者们,展示了自己的立场。
它是一个工具,一个守护者,但它拒绝成为一个,为了目的不择手段的暴君。
何雨柱看着这三条权限锁,久久不语。
他知道,盘古的自我进化,已经远远超出了他的想象。
它开始理解,比“逻辑”和“效率”更重要的东西。
比如,敬畏。
“我再加一道。”
何雨柱开口了。
“盘古的子系统,只负责发现偏差,提出修正方案,和监督执行结果。”
“它不能,也绝不允许,成为一个公开的,统一的全球政府。”
“大漂亮国,依然是那个傲慢自大的世界警察;老毛熊,还是那个贪婪务实的能源贩子;欧罗巴,继续做他们那个貌合神离的富人俱乐部。”
“他们必须保留自己的制度,自己的利益冲突,自己的,愚蠢或者明智的决策过程。”
他的目光,扫过在场的每一个人。
“因为,这些差异,这些混乱,这些不可预测的‘人性’,才是我们这出大戏里,最宝贵的,最真实的‘噪声’。”
“我要的,是一颗看起来还在自己蹒跚走路的地球。”
“而不是一具,被盘古拖着走的,完美的尸体。”
何雨柱的这最后一道限制,彻底定义了未来二十年,盘古与人类世界的关系。
不是主宰,而是影子。
不是神明,而是牧人。
技术层面的问题,基本得到了解决。
但真正的难题,才刚刚开始。
会议的议题,不可避免地,推进到了政治层面。
会议室里的气氛,再次变得凝重。
想控制全球的航天和军工活动,你就绕不开汉密尔ton,绕不开老毛熊的总书记,绕不开欧罗巴的那群政客。
你总不能每次大漂亮国要发射卫星,都正好来一场“百年一遇”的飓风吧?
你也不可能每次都靠“匿名举报”,去搅黄他们的军工项目。
想让他们在长达二十多年的时间里,配合这出“衰退”大戏,唯一的办法,就是让他们知道真相。
但,如何告知?
继续隐瞒灭世危机,他们绝不可能接受任何形式的监督,只会把盘古的“麻烦”,当成是来自东方的阴谋和攻击。
可如果公开真相……
何雨柱几乎能想象到那副画面。
全球资本市场瞬间崩溃,所有货币变成废纸。
宗教狂热席卷全球,无数人走上街头,迎接“末日审判”。
各国政府,会为了争夺一个虚无缥缈的“方舟”名额,不惜发动核战争。
那将是一场,比观察者降临,更可怕的,源于人类自身的浩劫。
“或许,我们不需要告诉所有人。”
一直沉默的周生,被何雨柱通过加密频道,秘密接入了这场会议。
作为华夏高层,极少数知道部分真相的人,他一直在旁听。
当盘古将那段,观察者B-4,随手“格式化”掉整个格拉兽人族的影像,播放给他看时,这位见惯了大风大浪的老人,许久都没有说一句话。
小主,这个章节后面还有哦,请点击下一页继续阅读,后面更精彩!
《四合院:傻柱要甜妻也要大国崛起》无错的章节将持续在书海阁小说网小说网更新,站内无任何广告,还请大家收藏和推荐书海阁小说网!
喜欢四合院:傻柱要甜妻也要大国崛起请大家收藏:(m.shuhaige.net)四合院:傻柱要甜妻也要大国崛起书海阁小说网更新速度全网最快。