天行分队中的九个人,在不同的领域中,努力前行,要实现“领先二十年”的目标。万方心里很清楚,为了完成使命,九个人是远远不够的。同时,他又有些担心,人多了,难以管理。
天行分队有一个致命问题,就是他们不能为外界所知,一切的麻烦都源于《天目心经》。现在还多了一项,基地中的科技既可以用于和平目的,也可以用于破坏。一旦传播出去,他们都绝对不相信,人类只把它用于建设,而不会用于互相毁灭。
既要立于世,又要隐于市,人多了,肯定做不到。
万方找到赵佑凡,希望他能够在人工智能方面有所突破,同时,他又不希望造出来的是一个冷冰冰的机器,而是希望造出一个有“人味”的助手。
赵佑凡对万方的这个要求感到很困惑,机器为什么要有“人味”,人味又怎样定义,万方只给了一个简单的说法。
“容许犯错,知错能改。冷冰冰的机器,可以快速的解决已知的问题。但是,即便它有了学习能力,碰到问题时,也只会寻找当下最好的解决办法,放弃其他方向的尝试,这样也就错过了更多的可能性。”
见赵佑凡还是不大明白,万方又举了一个例子,“就像人在旅游时,进入景区的游客,都往人最多的景点挤,因为这样,最有可能看到景区中最知名的景点。然而,在一个景区中,还有很多小景点,同样值得欣赏。与主景点相比,小景点人少,还别具特色。正是因为我们习惯了按最优思路求解,让我们错过了很多不一样的风景。现实中,小景点还是有极少数人会去,因为这一部分人放弃了最优解,他们才看到了不一样的风景。”
赵佑凡听到这个例子,对万方说的“人味”有了一些理解。在人工智能中,要做到“有人味”,就必须容许有时候要放弃最优解,甚至犯一点错。
“如果每个机器都选择当前的最优解,那我们的世界将会变得异常单调乏味,缺乏多样性。在面对纷繁复杂的环境时,不同的机器,又极可能走到相互冲突的境地。有人味的机器,就必须包容多样性,还要学会妥协。”
万方特别强调“妥协”,因为,在不能用数学公式精确描述出来的世界里,只有“妥协”才能让事情在磕磕碰碰中往前发展。
跟以前的技术突破不一样,它不是“算力”跟“算法”的简单结合,它需要各方的智慧,所以,秦山跟赵佑凡带头,其他人随时参与进来,包括张振飞跟费远。万方特别叮嘱秦山,一定要给它取一个好名字。搞研究,秦山很在行,取名字,真是难为他了,玄武、玄心,这些名字都是万方取的,他都照单全收。所以这个计划在启动时,就是无名氏。
讨论了一年多,秦山跟赵佑凡都没有动手。这段时间里,两人每天除了修炼,全部精力都投入到计划中。
一天清晨,迷迷糊糊中,秦山看见一个黑黑的小球向他漂过来,看着像一只小刺猬。在离秦山一米多远时,它的周围突然闪出一道光晕,然后,它睁开小眼睛,张开小嘴巴,像一只大猩猩的模样,但是只有拳头大小。秦山看着它,它也看着秦山,露出笑容,像电影中的金刚。这时,不知道从哪里传来了音乐声。随着欢快的节奏,它开始舞动,扭动着黑黑的小身体跳起舞来。跳着跳着,小金刚越变越多,整齐划一。最后,它们突然聚拢,变成一只大金刚,在山林中狂野地奔跑。秦山就坐在它的头顶,往上一直飞,一直飞……秦山醒来,闹钟已经过了一分多钟。
醒来后,秦山有点意犹未尽,他关掉闹钟,闭上眼睛,还想把梦继续下去。等到太阳露出了脸,秦山也没能再次回到梦境中,所以不得不起床,放弃做白日梦的打算。
在走向办公区的路上,秦山低着头,边走边想,一碰到万方,他就高兴地说,“队长,我想出了一个名字,晶刚,怎么样?”
还没等万方搭话,秦山就把自己的梦说了一遍,“本来想用精灵这个词,感觉太普通,用金刚,又感觉是盗版的,所以改了个字,叫‘晶刚’。队长,您觉得怎么样?”
“不错。通俗易懂,还不俗气,有灵性,就用这个名字吧!”万方本来希望从古代传说中寻找名字,听到“晶刚”这个名字,他放弃了这个想法。
队长夸他取的名字好,秦山更加高兴了,他赶紧跟大伙宣布了人工智能芯片计划的名字。其他几人都装作一本正经的样子,一个个走上前,拥抱一下他,然后跟他握手,恭喜他终于想出了好名字,完成了一个重要的里程碑。秦山也装作很庄重的样子,站在那里,接受大家的恭贺。
基地中难得有这样嘻哈场面,逗得大伙都哈哈大笑。几个中年大叔,过着出家人的生活,干着研究院的工作,任他风起云涌,早已波澜不惊。这样一个小插曲,给他们看似枯槽乏味的生活增添了一些佐料,他们都乐在其中。
按秦山与赵佑凡的设计,每颗晶刚分成左、右、后三颗碳核。三颗碳核的结构跟“玄武二代”一样,只是增强了“玄心”,三颗碳核的玄心训练完成后,在工作中还可以继续成长。而玄武二代的玄心训练完成后,就固定了,所以只能解决特定的问题。
碳纳米管在玄心的模拟神经元中纵横交错,在赵佑凡编制的强化训练系统约束下,碳纳米管受控生长,把不计其数的神经元连接起来。就像人类一样,它还会在工作学习中不断积累经验,完善自己的知识体系。
当然,秦山没有忘记,在每颗碳核的玄武一代中植入了“机器人三定律”。为了保险,他又另外植入一个隐藏单元,碳核中的任何部分,都看不到这个隐藏单元,它具有最高权限,负责每毫秒检查一次三定律是否遭到破坏,如果被破坏,就会执行自毁。如果隐藏单元停止工作,晶刚会停止工作,就像人停止了心跳一样。
晶刚就构建这种碳核之上,左、右、后三个碳核之间,通过密密匝匝的碳纳米管连接,其中,后部碳核能力最弱。对于有标准答案的封闭问题,任何一个碳核都可以直接决策。没标准答案的开放问题,左右两个碳核分别独立寻找解决方案。如果两方结果一致,就直接决策。如果没达成一致,左、右两个碳核就会发起选举,这时,后部碳核才会随机决定支持哪一方。秦山打了个比方,方便大家理解它。
“就像人一样,正在想问题,左也可以,右也可以,一时定不下来。但是,这时肚子饿得咕咕叫,有了这个条件,选择就不容易摇摆难定了。”
“万一决策还是出错了,怎样查?”
“所有决策都会写入隐藏单元的‘暗影日志’区,只有隐藏单元有线路连接到这片区域,可以读写这块区域。这块区域空间非常大,足够用上20年,20年后,我们可以把日志取出,新的日志会滚动覆盖掉以前的空间。”
听完秦山的讲解,万方还是有些不放心,“没看到数学证明,还无法判断这种架构是否可靠。”秦山很无奈,他没想过,估计也想不出办法。见秦山很为难的样子,万方就接着说,“可以动手搞了,不然总停在纸面上,难以前进。我只有一个要求,将晶刚的实验环境限定在一个‘孤岛’中,与玄武一代、二代完全隔离开来。”
“肯定不敢贸然将它对接到工作平台上的。正像您说的那样,无法通过数学证明它是不是会‘作乱’,万一它不听指挥,胡作非为,损失将无法估量。”
“对的。”万方犹豫了一下,然后问李世平,“你能用数学的方式证明这种架构可靠吗?”
李世平想了一下,才回答,“老实说,我曾经想过这个问题,但是想不出怎样证明。就像一个小孩刚刚出世,这时,就用数学来证明他以后会不会成为罪犯一样,这无异于‘算命’。”
“嗯,这样,只能依赖隐藏单元绝对可靠了。最坏的情况,要保证我们能够毁灭它。”
第一次因为技术进步,万方心中有了隐隐的担忧。但是,即使有风险,也必须要走下去。这条路,天行分队不走,其他人也终究还是要走的。万方觉得,天行分队走过的路,他才更放心。
不过,有一点是让万方高兴的,他预感到,有了晶刚,墨子基地会走上了快车道。今后,天行分队的计划,也许用几个月就能完成,甚至是几天,而不是以前的几年,甚至几十年。