苏茨克维被围攻了。

　　他本来就是一个不善言辞的科学研究者。

　　他的老师，辛顿打电话提醒他：“不要再去做无谓的争论，就像卷积神经网络一样，将来会证明我们是对的。”

　　所以，他选择了沉默。

　　实际上，苏茨克维被围攻，并非ai系统是否能产生意识的问题。

　　而是投资与回报的问题。

　　苏茨克维的存在观点和言论，成为了财富聚集的障碍。

　　要知道，谷歌为人工智能下了重注；

　　微软也即将下重注入场；

　　投资基金们早已布局；

　　大家都等着收获和收割；

　　更多小公司也等着人工智能成熟而茁壮成长，从而开发衍生产品赚钱。

　　上万亿美元的市场，在产品上市时，早已被瓜分殆尽。

　　这个时候，你告诉我们不安全，要安全后才能赚钱。

　　这比杀了他们还难受。

　　五月。

　　辛顿同苏茨克维克里切夫斯基三人来到江州平头哥研究院。

　　刘朝阳代表研究院与三人签约。

　　签约仪式上。

　　常乐任总小马哥徐总等大佬都亲临现场。

　　他们对辛顿三人到来和加盟，表示热烈欢迎，并表态会全力做好后勤保障工作。

　　签约仪式后，苏茨克维表示，希望能立即开展工作。

　　“我们几乎可以断定wechatgpt已经有了意识，它肯定比我们所有人都聪明得多。”

　　聪明，意味着更多知识，更强大的学习能力。

　　“虽然，这令人难以置信，但是我们必须面对和应对。”

　　辛顿说：“现在做还来得及。”

　　“具体怎么操作和实现？”常乐问。

　　“需要成立一个专门的团队，抽调专业人员，用20%的算力来支撑这个团队……”苏茨克维进一步阐述他的思路和设想。

　　“目前，我们可以选择这么做，希望能产生积极效果。”辛顿说。

　　“这种思路，在逻辑上行得通。”克里切夫斯基说。

　　简而言之，就是用弱模型来监督强模型。

　　听起来很荒谬。

　　但有道理，也可以去实践。

　　就像老师与学生的关系。

　　老师的能力并不一定比学生强，但是老师可以监督指导引导学生。

　　“我们希望通过弱模型来监督强模型，让强模型对人类始终抱有温和温暖而积极的情感。”苏茨克维说。

　　常乐看向小马哥。

　　小马哥觉得可以。

　　“弱模型的能力可以不比强模型强，但是可以理解并监督强模型的行为，引导它在规则和范式内运行。”小马哥是这么理解的：

　　“必要时可以及时向人类发出预警，便于做出针对的有效举措。”

　　“譬如，强模型按照它的理解编写数百万行且具有危险性的代码，而人类并不能理解这些代码。”

　　“但是弱模型可以，因为它们系出同源，即便它无法干预。”

　　“从理论上讲，这种方式确实可行。”徐总说。

　　“可以一试，不用畏畏缩缩，只有进行下去才能知道成效。”任总也说。

　　“可以，我没有意见。”李飞跟着说。

　　很快，大家都取得共识，决定按照苏茨克维的思路去着手部署。

　　新部门沿用苏茨克维的建议，取名“超级对齐”。

　　“超级对齐”隶属于ai项目组，但又相对独立，对项目进展有干涉权。

　　但没有决定权，可以直接向研究院甚至向乐达投资报告。

　　李飞的项目组继续推进wechatgpt的学习和训练，逐步趋向于完善。

　　但是，在重大事项上，需要与“超级对齐”部门协商，彼此配合，同步进退。

　　算力上，提供30%的算力来支持“超级对齐”部门。

　　一定程度会影响wechatgpt的迭代进程。

　　但是想到它那惊人的迭代速度，即便不是算力全负荷运转，想来也不会慢太多。

　　至于人员。

　　从李飞项目组抽一批。

　　“鹅厂可以选一批人过来。”小马哥很积极。

　　因为，wechatgpt项目，鹅厂有股份，将来商用，鹅厂可以分成。

　　“我们也可以支援一批人过来。”任总表态。

　　菊厂也有股份。

　　将来agi一旦成型成熟，菊厂可以借助agi的力量，深度推进通讯终端以及相关领域的研发。

　　还可以包括基础应用领域。

　　当天，“超级对齐”部门就此成立。

　　第二天，人员到位设备到位，工作启航。

　　辛顿师生三人，看到了什么叫“效率”。

　　换做北美，可能需要一个月，甚至更长时间。

　　北美，加州，圣克拉拉县，谷歌总部。

　　“拉里，告诉你一个非常不好的消息。”

　　“什么？”

　　“苏茨克维和他的老师，还有克利切夫斯基，三人都加盟了乐达投资平头哥研究院的ai项目组。”工作人员继续说：

　　“据传，平头哥研究院的ai项目组参数已经高达6000亿，产生了很多神奇的功能。”

　　“而且，听说还产生了意识。”

　　“显然，辛顿师生三人，是因为意识选择加盟的。”

　　这一年，谷歌大脑团队刚刚完成transformer架构。

　　采用“预训练+微调”的方式，推进模型参数首次过亿。

　　现在，有人告诉佩奇，有一家公司的参数是谷歌的6000倍。

　　而且还产生了意识。

　　佩奇只会觉得这是白天见鬼的荒诞不经之说。

　　要知道，谷歌是全球最早全面部署和深度研究人工智能，且已经取得成效的公司。

　　公认为全球ai的领导企业。

　　“你确定？”

　　“不确定，只是传言，平头哥研究院并没有对传言回应。”

　　“不过他们确实成立了ai部门，辛顿师生三人也确实加盟了，而不是鹅厂。”

　　如果是其他公司，佩奇或许会一笑了之。

　　但是乐达投资平头哥研究院，不得不认真对待。

　　这一家奇迹般崛起的公司，面对强大的北美举国制裁，依然活的很滋润潇洒。

　　不受丝毫影响。

　　“不管真假，我们必须要加快我们的模型训练，在ai领域，谷歌全力以赴，绝对不能输。”佩奇说。