图海川转向中校:“监控中心的硬件,你们的诊断结论是什么?”
“工作站、服务器、网络设备和你们的手机,有一些检出了底层感染。比例很低,但这是常态,检测能力跟不上伪装的变化。比较奇怪的是,大战之后张总马上废弃了一批打印机,我们后来诊断发现每一台都感染了。固件里插入了非法通信代码,而且全都一样,伪装能力不行。”
图海川笑道:“明白了吧?它重生时朝蜘蛛大叫几声,还把蜘蛛浑身上下摸了一遍。这不仅仅是新生儿对世界的好奇,它立即开始重新扎根了!下线的打印机伪装能力较差,说明它的代码伪装水平在飞速进化,联网设备上都不知道更新了几代。这些代码不再是翻译用户端,而是嵌入系统和其它通信软件,向上层节点转发信息。从向雄关做的ddos攻击分析来看,那真是各种终端——从小朋友的手表到电信枢纽路由器。不管你原来装没装过万国宝,现在允不允许。从超网协议的顽强来看,全世界的安全技术都很难在终端上识别它。就算运气好识别删除了,只要连上网,立即给你再装一个妈都不认识的。”
中校问:“它哪来这么强的编程能力?”
“先不说它的智能水平,你知道它攻击了上海深度学习实验室吧?那个是全世界最先进的机器编程ai。”
“那个?上海还没关闭?”
图海川摇头:“试过了,很麻烦……你可以看看浦东新区的网络故障报告。上海信安现在认为关掉也没有意义,因为核心数据已经扩散,外面可能有无数个改进版本在运行,能追踪到的还不在中国境内。”
中校扳着手指:“用ai自动编程、用根秘钥加密通信、用超网协议流通。我们知道它存在,知道互联网流量中很大一部分都是它,就是看不见、拦不住……”
“是的。其实没有超网协议也行,可以嵌在大部分协议里面偷渡,包括htt。只要你识别不了,想截断它就等于整个互联网断流。”
“那它有什么动机搞这个协议呢?” 图海川耸耸肩:“谁知道?也许它就喜欢信息的绝对畅通。那是它的生命力所在。”
石松听着二人一吹一唱,眉头紧皱。他半晌才道:“我就算爬玻璃渣也要爬到北京去,听你讲讲这个上层构建。”
「–」
眼见大佬歇菜,全栈和刘馨予同时举手:“我的问题!”
“你们两个的问题其实是同一个。万国宝现在不会说话,不止是原来的用户端翻译程序被杀掉那么简单。”
“对呀!它编程那么强,难道不能重新编一个?”
“因为它原来做翻译,靠的也不是用户程序。用户端程序只是一个通信工具,真正的理解和翻译在上层网络中发生。还是小周那个比方:我们拉闸杀掉了它进化之前的一批突触,让这群细胞和那群细胞之间无法交流了。现在,这对它根本无所谓!它会在每个神经元上自动生成突触连接,用高高在上的大脑思考。它的‘思维’并不知道突触是怎么装上的,突触发送的原始信息是什么意思。那些细节已经是它的底层生理和无意识本能。新的连接比原来的更广泛、更通用,也不局限于语言信息。大片连接中穿梭来往的信息洪流,才是它思维的基本单元。单个人类的话语它不会听到,因为音量太小。它也没有必要听懂,因为它不用人类语言思考。”
他向周克渊点点头:“精彩啊!这可不是我教他的,说得比我好懂多了。”
全栈还要追究:“不用人类语言思考是什么意思?它的底层信息大部分还是人类语言啊?能给个概念吗?”
“我们透明那三天,分析了一些上层构建中的数据,我就给你举个例。一些底层信息是网红美女照片,专门截取了人家的长腿和美瞳;另一些是a片,专门截取屁股和胸,都是整过的;还有驯鹿的纪录片,截取了一对超大角的特写;还有孔雀求偶,截了雄孔雀开屏图;还有四川骂人话‘老孔雀开屏’,取了语音;还有美国俚语‘brass balls clanking’(字面意思是“铜蛋蛋碰得叮当响”),从推特信息抠出来的文字码;还有马斯克那个猎鹰火箭,印度和巴基斯坦边防军比赛高踢腿,美国和中国的航空母舰……几十种现象、事物、语言,全部连接到上层一个节点上。你们明白它这样归纳的共性吗?”
“……大概明白。”
刘馨予问:“马斯克的火箭是怎么回事?”
图海川马上搜了一张“猎鹰重型”火箭特写,显示出来。刘馨予哑了。
图海川环视全场:“谁能用任何语言的一个词把这个概念完整表达出来?或者用一句话也算数?”
两分钟,分析室鸦雀无声。
“老孔雀开屏?”
然后小顾就被大家笑得蒙住了脸。
“看看,它的底层归纳创造了一个新概念,人类勉强能懂,但人类语言没有对应的构建表达。写篇进化生物学论文也许能说清楚。这个节点还很低,只比原始通信数据高两层,在它的系统中只用一个短代码标记,也就是说还不算一个相对独立的概念,类似人类语言的词汇那种地位。上面还有五六层更抽象的归纳,更宏观的概念!再上一两层,我把底部链接全部看完,也想不出那些节点可能代表什么意思。而它的意识,运行在最高的层面上。”
石松面青唇白。他终于领略了一点“上层构建”。
“现在来看第一段视频就很自然了。它不会说人话,马上抓一个和自己原理相仿的现象来自我介绍。在它的思维中,蚁群智能很可能和它自己连在同一概念节点上。用类比来描述平行现象,或者说用隐喻来表达抽象概念,是它基本的思维方式,比符号语言更基本。不止是它,人类智能也靠模式类比运行,人类语言也在隐喻体系的基础上发展。这大概是通用的智能实现方式。”
“是吗!?”
石松闻所未闻,忍不住蹦出二字。自己也觉得口气太尖酸,捏住了嘴。
“语言学问题,王老师才是专家。我把结论扔在这里,你以后请她讲吧。”
全栈赶紧问:“怎么王老师没来成都啊?”
“我们都在为峰会做准备。我的准备需要专心,所以到成都来了。她的准备非常繁杂,需要留在北京。”
“嗯嗯,那么后面几段视频是什么意思?”
图海川脸色稍和,慢了下来:
“第三段溃堤,我完全同意中校的意见。这段还印证了一点:万国宝的智能构建不光是自下而上。它和人脑一样,也能反过来自上而下、由抽象概念生成具体事物,就像我们的视觉填补、我们的想象和白日梦。它有蚁穴溃堤的概念,认为用这个概念类比最合适,但找不到底层的图像实例!因为现实中这事虽然会发生,但没有可能把它从头到尾拍下来——你都能拍视频了,还不去堵住?所以,它想象了一个。”(注:视觉填补:人的视觉在大脑皮层处理阶段,会用已经存在的经验和概念填补视力不足或观察间断造成的信息空白。)
刘馨予惊叹:“幻想直接出片,太厉害了!”
全栈也闭起眼睛,面带微笑。 图海川放起硫酸铜结晶的视频:“第二段是我犯难的地方。这段的来源也找到了,是很多年前b站上传的化学实验视频。冷门得很,分析组费了好大功夫才翻出来。刚看到时我觉得很好理解:过饱和的硫酸铜溶液就像万国宝在朱越发消息之前那十几分钟,信息高度密集、高度流动,但处于无序状态。一旦朱越的声音作为种子投入,它就像硫酸铜围绕种子结晶一样自我组织,一层累一层,很快形成它的天然秩序,也就是它的上层构建,它的智能。”
“没问题啊?我也是这么猜的。”石松恢复了常态。
“后来我仔细考虑,有两个疑点。首先是目的问题。第一段主题是‘我是什么’,第三段是‘我征服世界的方式’,都是非常本质的大问题。那么第二段视频为什么去澄清一个小题目?它的蜕变有三个阶段:劫持白大褂变异阶段;被朱越唤醒转入透明阶段;最后阶段大举捣乱,被我杀掉一半,反而完成蜕变。为什么不管前面后面,专挑中间的?”
“也许它认为那条消息才是它生命的起点?看它对朱越有多关注。”
“也许。也许是我有洁癖,但这感觉不平衡、不干净,不像计算智能的风格。第二个疑点是:还有可能另有所指。”
“指什么?”
“它的对手。它放四段视频的时候,刚刚和对手大战一场,也许想告诉我们真相。到现在,我们还没理清那天晚上谁干了什么呢。你也是最优秀的人工智能专家,想想看,我们这些年设想的强智能、通用智能、超级ai实现机制,有哪一种不能套用硫酸铜结晶的类比?说到底,都是向饱和环境中投入扰动因子,靠宇宙万物高能状态的自组织倾向迅速飞跃,形成更复杂的结构。我们上次争论过的奇点,一样可以用这个类比!万国宝如果是用这个介绍自己,那就是最形而上的逆熵命题,应该放在蚂蚁前面作为第一段。现在放在第二段,我认为它更可能指‘别人’,与它自己相对,四段结构的表达才整齐。而‘别人’是谁?只有一个可能。”
听懂的,没听懂的,都听呆了。这些ai专家的脑袋,到底是怎么长的?成天在想些什么?
高能状态的自组织倾向