我知道，暂停大模子研究种事，基本是不能能了。但我照样以为应该暂停。

尤其是当我看到Smallville小镇。

只管在现实天下中，离情人节另有很长的时间，但在Smallville小镇上，正在准备举行一场盛大的情人节派对——我写这篇稿子的时刻，镇上的时间是2023年2月13日的上午。

派对的谋划人是Wolfgang Schulz，今年21岁，是橡树山学院化学专业的学生，也是一名学生运发动。

整整一上午，她都在回复邮件和定制派对上要用到的装饰品，她也和其他人联系，确准时间和节目。

这场派对约请了全镇住民加入，一共25个“人”，他们的岁数相差有些悬殊，Wolfgang算是很年轻的住民，另外另有年过半百的艺术家，四十出头的修建设计师，以及最近要去佛罗里达旅行的程序员等等。

Smallville镇有一条环形公路，中央是镇图书馆，蹊径的另一侧是民房和学校，而险些所有屋子的窗户都能瞥见镇子*的公园——明天，情人节派对就在那里举行。

这简直是既浪漫又充满生气，我俯瞰着整个镇子，看着Wolfgang为派对忙前忙后，画家铺好纸张，设计师绘制蓝图，主妇拧开炉灶的旋钮，老人走到后院最先修剪草坪……

若是这一切不是2D像素组成，若是Smallville小镇不是斯坦福大学一个“Generative Agents”（天生式智能体）实验，若是Wolfgang的和她的情人节派对不是智能交互的一部门，若是一切对话不是ChatGPT模子的天生……

我甚至以为这一切无限靠近于真实的虚构，或许由于加持了AI的气力而显得有些恐怖——最新的手艺显示，通过下载公有模子，使用云手艺，你甚至不需要哪怕一块GPU就能在家训练一个属于自己的模子，为AI添加*的灵魂。

这让我想到前一阵，马斯克和图灵奖获得者Yoshua Bengio，以及一众手艺大牛团结呼吁暂停所有GPT4以上的模子研究6个月。

这或许并不仅仅出于一场商业角逐，而确实是对人类未来的担忧。

当AI有灵魂

Smallville没有黑夜——不外斯坦福大学手艺团队制造的25个AI小人也需要休息。

在这里，25个“人”被植入AI灵魂。

他们日间忙碌，各司其职。好比画家清点作品要去城里办一个画展；镇上药店的老板想设施让住民以更快的速率订到药剂；工程师为某个项目和修建设计师讨论图纸；音乐家则热衷于演奏和与任何一个住民探讨音乐。

在Smallville，时间的流逝是现实天下的3倍，只管云云之快，每个住民仍然拥有“出生”后的影象，并凭证影象做出判断，好比推行一个星期前和某人的某个约定——这一点上，AI从不会爽约。

这一系列令人赞叹模拟，源于一个乏味的手艺名词——Generative Agents，中文是“天生式智能体”，它注释起来对照拗口：行使天生模子来模拟可信人类行为的智能体，并证实它们能发生可信的小我私人和突发群体行为的模拟。

斯坦福的手艺团队为“天生式智能体”给出的界定：

能够对自己、其他智能体和环境举行普遍的推断；能够凭证自身特点确立一样平常设计并执行，并凭证执行效果思量是否重新部署设计；能够在终端用户改变环境或用自然语言下令它们时做出反映。

这实在就是制造了25个有灵魂的数字人，再让他们通过ChatGPT-3.5自然语言模子举行交互，由此实现了真正意义上的AutoGPT——AI驱动AI。

但离现实越近，人们越感应后背发凉。

随着时间的推移，小镇上的AI依附影象和推断形成了新的关系，他们的互动最先带有显著目的——有了是非之分，甚至最先喜欢或憎恶一小我私人。

100亿，西安设立工业倍增引导基金

例如，Sam 一最先并不熟悉Latoya，两人在公园散步时首次相识，在*次对话中，Latoya 提到自己正在举行一个摄影项目，她告诉Sam：“我正在拍摄一组关于公园的照片。”

而几天之后两人再碰头时，Sam 问道：Latoya，你的拍摄希望若何？Latoya 回覆：希望得很好——两人的关系更进一步。

而此时，Sam正是镇长的竞选人之一，他请求Latoya作为同伙投他一票，Latoya欣然赞成——然而从其他AI的对话中也可以看出，有人不喜欢Sam这种“外交花型”候选人，虽然Sam的支持率左右摇晃，但他依旧起劲地试图和每小我私人交流，扩大自己在镇子上的影响力。

需要注重的是，这一切都没有人类举行干预——每一个AI都拥有自己的个性和对环境的判断，虽然这些天生偶然也会犯错误，好比未能检索相关影象，甚至凭空编造一段影象，但瑕不掩瑜，在这个2D像素的天下里，AI已经不停演化出堪比真实天下的故事了。

然而令人生畏的手艺不止云云。

暂停AI

最近一个月里，有人发现自己的ChatGPT账号失贼了。

网络防火墙研究机构Check Point在一份讲述中提到，多数失贼的ChatGPT账号都流向了——暗网。在那里，这些账号被当做商品售卖，而且可以用加密数字币结账，因此账号的最终去向没设施追踪。

另外在暗网，ChatGPT Plus帐户的终身升级用度仅为59.99美元，而OpenAI对此服务的官方订价为每月20美元——这项地下服务还提供了与另一名黑客共享ChatGPT帐户的选项，价钱为24.99美元，终身有用。

按理说，ChatGPT只是一个自然语言大模子，好比上面的提到的Smallville小镇，用到与ChatGPT相关的手艺，也只是AI之间的自然语言交流。

为什么这一手艺在地下生意中异常踊跃？

照样缔造Smallville小镇的斯坦福大学，其盘算机与心理学教授Michal Kosinski前不久在一篇论文中以为，心智理论可能自觉地泛起在大型语言模子中。

简朴说，就是一些AI语言模子在训练中已经发生了意识。在那篇论文中，Kosinski以为，以GPT4为例的大语言模子，为了提高语言能力，演化出一种类似ToM的能力。

ToM全称Theory of Mind（心智理论），是一个心理学术语，这被以为是人类独占的能力，即通过考察劈面人物的神色、肢体动作和环境转变，来推断对方的行动，并因此调整自己的决议。论文中，Kosinski通过一系列和ChatGPT的对话实验，来证实ToM之于AI的存在。

这就像是在Smallville小镇，Sam通过和Latoya成为同伙而获得一张选票，也可以将这个逻辑反过来说：Latoya由于Sam和她关系的改变，而为他投了一票——这里划重点，Sam很显著的知道，通过交同伙，可能会获得更多的选票，他因此在公园散步时，和Latoya打了招呼。

图/Smallville小镇

是的，AI已经开端掌握了社会关系中的人情油滑。

这就能注释为何在暗网上，有人会出售ChatGPT账号牟利，某种意义上，一个ChatGPT账号就是一个可以被开发的，拥有空缺灵魂的模子——你往内里装什么，它就酿成什么。

固然，并不是人人都市冒险在暗网上购置ChatGPT的账号用于训练模子，事实还需要花费大量资金用来购置GPU，不外，另外的手艺可以辅助通俗人不用GPU也能训练属于自己性格的模子。

好比行使一种名为Vicuna的模子，它被嵌在浏览器中，训练者只需要键入下令，相关的模子包就会下载到内陆，测试者对模子举行了多语言、写诗、写小说等试验，发现Vicuna足以在小我私人电脑上行使CPU训练出一个低级的Smallville小镇。

另一边，在今年1月举行的美国电子消费展上，三星宣布了NEON——迄今为止最真实的数字人——你甚至用真人来形容都不为过。但NEON在宣布之初并未收到太多关注，直到ChatGPT为AI注入灵魂——有人说，NEON ChatGPT，终究打开了人类社会赛博朋克的大门。

另有几个小时，在谁人虚拟的Smallville小镇上，虚拟的情人节派对就将由虚拟的AI举行——你固然可以随时关掉网页忘记这一切，但AI的研究并未因此而住手。

提倡暂停研究AI的大佬马斯克已经转身确立了新的大模子公司。说真话，这背后颇有一种“既然无人问津，不如破罐破摔”的做法——手艺固然无罪，但手艺能缔造出什么器械来，谁都说欠好。