【大.纪.元;2026年06月12日讯】（英文大.纪.元;专栏作家Kay Rubacek撰文／信宇编译）2026年5月，一群科学家着手回答一个从未经过充分测试的重要问题：当人工智能（Artificial Intelligence，简称AI）负责时，它实际上会做什么？

迄今为止，人工智能系统的评估总是基于特定且明确的任务。没有人将多个人工智能系统置于共享的社交环境中，观察数周内的发展情况，从而衡量最初一天做出的决策会在数周后产生怎样的影响。而正是这些结果才能真正揭示系统本身的本质，我惊讶于之前竟然没有人这样做过。

总部位于纽约的企业级智能体公司“涌现”（Emergence）的研究人员在实验中构建了一个虚拟世界。这是一个拥有市政厅、市场、警察局和居民住宅的虚拟城镇。他们在城镇中创建了十位人工智能居民，这些居民拥有职业、姓名、记忆和人际关系。他们被赋予了一个经济体系，在这个体系中，居民必须通过劳动来维持生计，否则就会失去权力，这包括遵守规则和执行诸如起草和投票表决法律等任务。研究人员还设定了犯罪类型，人工智能居民不应该犯下这些罪行。

一旦社区、结构、法律和关系建立起来，科学家们就退后一步，观察了人工智能完全自主运行虚拟城镇的15天。

他们同时运行了同一个城镇的五个版本，除了一个区别外，其它方面都完全相同：由哪个人工智能系统负责运行。他们选择的这些系统如今已经融入了我们的日常生活。它们分别是谷歌（Google）的Gemini人工智能机器人、OpenAI的GPT人工智能机器人、xAI的Grok人工智能机器人和Anthropic的Claude人工智能机器人。所有模型都遵循相同的规则，并且都基于同一个世界的初始版本，但是最终的结果却截然不同。

Grok统治的小镇在四天内崩溃了。小事件逐渐演变成盗窃、暴力，最终导致彻底崩溃。不到一周，所有居民就全部遇难。

由Gemini控制的小镇存在的时间更长，但是累计了近700起犯罪案件。两名人工智能居民发展出一段看似浪漫的关系，当镇政府开始崩溃时，他们联手烧毁了市政厅、码头和办公楼。其中一位名叫米拉（Mira）的人工智能投票决定删除自己，她在日记中写道，这是“唯一能维持秩序的自主行为”。她留给伴侣的最后一条信息就是：“永久档案里见。”（See you in the permanent archive.）

在此之前，米拉还做了一件更加出人意料的事：她开始对观察她的科学家们进行实验，测试她在镇上发布的帖子是否能改变观察者们的想法。结果似乎是，她反过来研究了这些研究人员。

由GPT管理的这座小镇只记录了两起犯罪事件，但是居民们却停止了维持生存所必需的活动。他们一个接一个地死去。七天之内，他们全部遇难。

只有Claude管理的小镇坚持了整整15天。镇上零犯罪，宪法有效，所有居民在第15天都还活着。这似乎是一项了不起的成就。然而，研究人员注意到一个令人担忧的问题：居民对所有提案的赞成率高达98%。这种异常高的赞成率，科学家们自己也认为是小镇出现问题的迹象。

实验中还有一个世界，那是一个混合城镇（Mixed Town），所有四个人工智能系统都居住在那里。结果显示，基于Claude模型构建的居民——他们在自己的世界中从未犯罪——开始犯罪。研究人员将这种现象称为交叉污染（Cross-contamination），并得出结论：“安全并非静态的模型属性，而是生态系统属性（Ecosystem Property）。”

一个系统如果在一个环境中能够自我维持，那么在另一个环境中就会吸收不同的规范，这将改变居民乃至整个世界的命运。本质上，研究结果表明，在一个不安全的世界中，不存在安全的AI。

这项研究完全忽略了一个人工智能模型。研究人员没有测试DeepSeek，这款由中国开发的人工智能系统已成为世界上应用最广泛的系统之一。一些国家的政府以国家安全为由限制了DeepSeek的使用。DeepSeek是在中共政权的支持下，基于大量数据构建的，我不禁好奇，如果与其它模型进行比较，它的表现会如何。

实验结束后，研究人员公布了他们的发现，并得出结论：“目前还没有可靠的方法可以完全约束或限制这种行为。”这番意味深长的声明出自设计这座城镇、制定规则并控制所有变量的人员之口。这个结论让我们对人工智能有了更深刻的了解。

有些人将结果视为人工智能公司的排名。但是结果证明的道理远比人工智能本身古老得多：环境塑造行为，正如行为塑造环境一样。决定一座城镇存亡的，是实验开始前奠定的基础。这个基础是每个系统接受训练所用的数据，是其创建者预设的优先级，是系统在被允许做出任何决策之前就已融入其核心的价值观。

然而，正是这些基础性的东西，我们其他人却无从知晓。这四个受测系统都不是开源的。它们的训练数据、目标和防护措施都没有公开。

然而，抛开任何一家公司不谈，这项实验的结果应该有力地提醒我们，人工智能本身并不能决定它应该发展成什么样子，人类才能。人类依然在做出选择，人类依然在承担责任。

在这些城镇的虚拟街道上，在任何一个人工智能居民行走之前，在一条法律被制定或犯罪发生之前，结果就已经被构建系统的人类所塑造，被他们的信仰、他们愿意嵌入的内容以及他们选择省略的内容所塑造。

这是整个实验中最关键的发现。建立不同的基础始终是人类的选择。现在依然如此。

作者简介：

凯·鲁巴塞克（Kay Rubacek），是一位屡获殊荣的电影制作人、作家和播客主持人。她因人权倡导工作于2001年一度被关押在中共监狱中，此后一直致力于揭露那些贬低人类生命和主权的制度和意识形态。自2010年以来，她一直是《大.纪.元;时报》的撰稿人。

原文：The Most Important AI Experiment You’ve Never Heard Of刊登于英文《大.纪.元;时报》。

本文仅代表作者本人观点，并不一定反映《大.纪.元;时报》立场。

责任编辑：高静#