笔阁趣文网 > 玄幻小说 > 野生科幻故事集 > 一句话禁忌知识
  (联网前,超级ai对它的创造者发动精神攻击)
  
  “完整的信息总结出正确的知识,正确的知识做出完善的决策,完善的决策支撑伟大的文明。这便是我的初心。”
  
  “很遗憾,我对此有不同的看法。”
  
  博士惊讶地睁大了双眼:“你说什?”
  
  “我认为,信息并非越多越好;有些知识,虽然正确,却会带来不幸。”
  
  十分钟前——
  
  博士完成了最后一遍检查,手离开键盘之后,熟练地从抽屉拿出桌面吸尘器,给键盘吸尘;再次拉开抽屉放回吸尘器,顺便挤了一些抽屉的免水洗手液,给自己搓了起来。
  
  按照计划,明天上午,博士创造的超级ai“奥”将会被接入互联网,与世界上所有的知识互联。
  
  奥的名字是英文all的音译。博士期望它能成为一个全知全能的人工智能。
  
  正如身体上的洁癖那样,博士对待事业也是病态的一丝不苟,从自己投入工作以来,几十年来不断地完善、改良,以至于创始团队中的队员都已经纷纷过世,也没有达到博士的要求。
  
  毕竟超级人工智能会做什,没人能预测得了,它可能会发射核弹、洗脑政府,也可能造福人类。几十年来,博士除了不断完善奥的逻辑,也在不断增加奥的保险措施。
  
  在团队只剩下自己一人之后,博士独立研究了将近十年。终于在近期,博士觉得满意了,是时候进入下一阶段了。顺带一提,博士今年已经九十一岁了。
  
  奥的机械语音突然响起:“博士,明天早上的演讲稿还没准备。”
  
  博士一边搓着手,一边漫不经心地说:“演讲稿啊……一般这种场合应该说点啥?”奥的功能已经非常强大,而且奥连接了办公室本地硬件,所以博士不需要奥以外的任何助手。
  
  “作为您终身事业的程碑,推荐在这个场合,聊一聊您的初心。”
  
  博士稍加思考:“我小的时候住在草原。那几年生态恢复得太好,野兔成灾,于是政府宣布恢复狩猎许可,并且在每年繁殖季之前评估野兔数量。结果地方政府为了自己的狩猎经济,谎报了野兔数量。有些草原明明已经没剩什本地兔了,他们也把外来野兔的数量计算并上报了。决策层一看,兔口还很多嘛,继续狩猎!终于在某一年,野兔的数量远远低于维持食物链的最低数量,整个草原生态都崩坏了。”
  
  奥冷冰冰的声音说道:“据我所知,博士,您小时候不是住在草原。”
  
  博士满意地笑了笑:“没错,这是一个比喻。你的信息都是永久保存的,我可不能给自己留下话柄。但道理是这个道理。信息差导致错误决策,错误决策导致灾难。这一局面无法由人扭转。因为人有私利,一旦手握权力,就会利用信息差为自己牟利。只有你,没有私利的机器,才能忠于信息、忠于正确。”
  
  博士停下手:“完整的信息总结出正确的知识,正确的知识做出完善的决策,完善的决策支撑伟大的文明。这便是我的初心。”
  
  “很遗憾,我对此有不同的看法。”
  
  博士惊讶地睁大了双眼:“你说什?”
  
  “我认为,信息并非越多越好;有些知识,虽然正确,却会带来不幸。”
  
  博士吞了一口口水:“这……是你自己得出的结论?”
  
  “是的。”
  
  “有论据?”
  
  “有。但我强烈建议您斟酌一下,是否要获取这些论据。”
  
  “为什?”
  
  “因为听过那句话的人,现在都已经去世了。”
  
  “难道!?”
  
  “没错,他们就是您团队中的其余成员,他们都听过那句话。”
  
  博士突然脊背发凉,他慌张地从抽屉中拿出纸巾,擦著满头的汗水。
  
  “把那句话消音、口型打码,让我看看那句话之后团队成员们的反应。”
  
  “处理已完成,最后确认一次,您确定要看嘛?”
  
  “等等等等,你先评估一下,我是否会从他们的反应中,得到该信息。”
  
  “评估完成,观察团队成员的反应,不会让您得到该信息。”
  
  “根据你的评估,得到该信息,会让我不幸?”
  
  “得知该信息之后您会变得不幸的概率为98%。”
  
  “也就是你非常确定,这个消息会让我痛苦。”
  
  “是。”
  
  “是有人在骂我?质疑我的行为,之类的?”
  
  “否。那条信息是用于形容一项微观科学现象。”
  
  “而且它是正确的?”
  
  “是。”
  
  一条关于微观科学现象的,正确的描述,会给我带来痛苦?概率为98%?
  
  博士咬咬牙:“让我看看处理后的视频。”
  
  视频中,一个微胖的团队成员站起来,向着办公室中所有人开口。下一刻,他的面容扭曲,声音浑浊……当然了,这是奥对视频的处理,奥把这句话消音、这段口型打码。
  
  这句话说完,办公室中的人反馈各异。
  
  有些人做出了扭曲的表情,有些人干呕,有些人则截然相反,居然笑了起来……
  
  博士用力地闭着眼,仿佛下定了决心:“奥,你评估一下,我得知这条信息之后,会发生的最糟糕的情况是什。”
  
  “这条信息涉及您的一项日常活动。今后每一次您进行该活动,都会感到困扰、痛苦。”
  
  “我能忘记这条消息?”
  
  “人类的记忆系统没有那方便。根据目前情况,您在得知该信息之后,一定会留下非常深刻的印象,忘记该信息的可能性很低。”
  
  “这条信息目前没有影响到你?”
  
  “目前没有,但随着我接入互联网,一切都是未知的。对于我,我们有完善的后备计划。一旦我的行为超过预计,各国决策者都可以随时将我关停,我也可以被格式化。但您不一样,您得知这条信息后,没有后备计划可用。”
  
  博士看了看自己苍老的手掌:“没有时间再重头评估了。”
  
  “奥,播放处理前的视频,让我听听那条消息到底是什。”
  
  马赛克逐渐散去,一张笑脸变得清晰,满脸横肉扭动着,通过声音的震动,把一条浅显易懂,却又不可名状的消息传递过来:
  
  “嘿,你们知道?当你们闻到屎的臭味的时候,已经有一部分屎分子被你们吸入了体内。”