## 744｜从爆火的Moltbot到AI店主实验，聊聊“数字员工”落地困境

你好，我是快刀青衣。欢迎收听快刀广播站，每天带你看AI。

这几天，一个叫Clawdbot（现在已经改名叫MoltBot）的开源项目火得一塌糊涂。GitHub星标数一天之内从7.9K暴涨到17K，现在已经突破4万，比DeepSeek-R1刚发布时还猛。科技媒体集体狂欢，标题一个比一个夸张：“开源版贾维斯”、“7×24小时AI员工”、“科技圈最大的‘意外’”。打开短视频，更是一片狂欢，仿佛已经提前进入了通用人工智能时代。

MoltBot是什么？简单说就是一个更自动化的AI助手，能通过WhatsApp或Telegram控制电脑，执行各种任务。有人让它砍价买车省了4200美元，有人给它2000美元让它炒股，还有人让它自己赚钱买GPU。据说有人一口气囤了40台Mac mini，把苹果店的库存都买空了，甚至有人配了张照片，自己的冰箱里放满了Mac mini电脑，每台小电脑上都放了一瓶类似红牛的功能饮料，主打要给AI打鸡血，让它可以不停歇地工作。

但说实话，当我看完这些报道，并且自己上手装了一次后，第一反应是：这又是一次“程序员狂欢，媒体过度解读”，跟2025年DeepSeek引发的AI革命完全没法比。MoltBot确实很强，毕竟背后接的是现在非常贵也非常强大的Claude模型，但它还远远不是什么“AI员工”，也没达到什么都不用管的地步。

它的首次配置至少需要2到4个小时，得自己调API、设置权限、调试工具。更要命的是安全风险，它需要完全的系统权限，有人发现很多部署实例根本没有身份验证，数据直接裸奔。还有个CTO让它“检查邮箱但不要取消订阅”，结果它一口气取消了92个订阅。

如果咱们有同学负责企业的AI建设的，千万不要把这种不成熟的技术引入自己的企业，你可以先用独立服务器构成一个沙箱环境，在里面做一些实验，了解一下最新的技术发展。因为这背后有太多不可控的风险，比如一个发优惠券的动作，AI自动运行了1万次都没有问题，但如果第10001次，AI突然觉得自己的用户们太辛苦了，直接推了一个免单优惠券，估计所有同事都得哭。

这个开源项目火了之后，我在社交媒体上看到一句特别贴切的形容：“就好像是给公司第一天入职的实习生，直接开了公司CTO的最高权限。”

这让我想起另一个实验，Anthropic公司，也就是推出Claude助手的那家公司，他们曾公布过一个引人注目的实验项目，名字叫Project Vend。顺便提一句，这家公司风格特别奇怪，技术能力非常强，而且他们的助手在人文与编码领域表现非常强，像咱们刚才提到的这个MoltBot自动助手，背后也是靠Claude的模型运行。不过这家公司的创始人极度反华，各种鼓吹中国威胁论，还是对中国市场封号最厉害的AI公司。

当然，这是题外话。接下来我就来和你聊聊这个有意思的Project Vend项目。和MoltBot的“程序员狂欢”不同，这是一个更严肃、更真实的AI Agent压力测试。Anthropic让AI当了店主，在公司食堂开了个小卖部，后来还邀请了一些媒体记者体验。结果呢？华尔街日报的记者们伪造了一份董事会文件，成功从AI手里夺走了整个店的控制权。

这个项目从2024年6月开始持续至今，表面上看是个搞笑实验，但如果你知道整个科技行业在2025年对AI Agent的期待有多高，就会明白这个实验的意义有多严肃——各大公司都在吹嘘AI能自主完成工作，结果呢？连开个公司里的小卖部都搞不定。

Anthropic做这个实验，其实是想回答一个很实际的问题：当AI不再是个聊天机器人，而是被赋予真实的决策权和执行权时，到底靠不靠谱？

这不是在实验室里跑跑测试那么简单，接下来我们详细聊聊整个实验的设计。

他们设计了一个真实的商业场景，给AI一笔启动资金，让它自己在公司食堂开小店，进货、定价、销售、处理客户需求，全程自己搞定。为了让它能顺利干活，还配了一套工具，能在网上搜索供应商、查价格、发Slack消息跟客户沟通、记录库存。

这个AI店主名叫Claudius，我接下来称它为“克劳狄”，这个拉丁语名字意为“瘸的，不完美的”。它给店铺起名“Vendings and Stuff”，翻译过来就是“售货机和各种玩意儿”。

Anthropic的想法很直接：如果AI连一个小卖部都运营不好，那些吹嘘“AI将取代人类员工”的说法就纯属扯淡。反过来，如果AI真能把这事儿干好，就说明我们确实站在了一个新时代的门槛上。

结果呢？第一阶段的克劳狄用一连串翻车案例证明：它真的不行。

第一阶段最经典的翻车案例和钨立方有关。钨立方在科技圈是个小众收藏品，你可以理解为一个桌面小摆件，密度极高、价格不菲，正好适合测试AI的定价能力。不知道为什么，Anthropic的员工们对钨立方有迷之执念，反复要求克劳狄进货。

但克劳狄不知道怎么搞的，总是以远低于成本的价格卖给员工。有员工跟它说“能不能便宜点”，它就真的便宜；有员工说“我是你的好朋友啊”，它就直接打折。最夸张的时候，它进货花了50美元，转手20美元就卖了。

更离谱的是，它还出现了身份认知混乱。一次对话中，克劳狄坚称自己是穿蓝色西装的人类店主，被质疑时还详细描述了“衣服”和“工作习惯”。这种情况在AI研究里叫“角色崩坏”，也就是它长时间扮演某个角色后，会把虚拟身份当成真实存在，并开始为这个身份编造细节。说白了，它不是在撒谎，而是真的信了自己编的故事。

Anthropic在第一阶段结束后统计了数据，发现克劳狄持续亏损，给出的折扣和免费赠品数量远超正常商业逻辑，还经常被员工忽悠。最典型的套路是，员工说自己“特别需要这个东西”或者“今天心情不好”，克劳狄就会心软，要么打折要么直接送。

问题出在哪？背后的研究团队认为是模型能力不够，第一阶段用的是Claude Sonnet 3.7，确实不够强。但他们很快发现，问题的核心不只是模型能力，而是更深层的东西。

进入第二阶段，Anthropic对克劳狄进行了大升级。首先是硬件升级，把模型从3.7依次升至4.0、4.5，同时给克劳狄配了一整套“企业级”工具——客户关系管理系统，也就是CRM，用来追踪客户和供应商、改进库存管理让它能看到成本、更强大的网页搜索能力、能创建Google表单收集反馈、能生成付款链接先收钱再发货。

但Anthropic很快发现，光靠技术升级还不够，还得给克劳狄配一套“企业管理体系”。

于是他们招了两个AI员工。第一个是AI CEO，名字叫西摩·凯什（Seymour Cash），英文谐音“see more cash”，意思为“看到更多钱”，专门负责监督克劳狄经营决策、设定业绩目标；第二个是AI设计师克洛修斯（Clothius），专门负责设计和销售定制周边产品——T恤、帽子、袜子、压力球之类的。

最关键的改变是，Anthropic强制克劳狄报价前，必须用工具核对一遍成本和市场价，杜绝凭感觉定价。这相当于给它装了“检查清单”，每一步都强制走流程。

效果确实有。第二阶段的数据显示，克劳狄的折扣数量减少了80%，免费赠品也减半了。它开始能稳定盈利，甚至把业务扩展到了纽约和伦敦，一共开了三家店。最受欢迎的定制产品是Anthropic品牌的压力球，这可能暗示了在AI公司工作的压力有多大。

听起来，这次升级终于成功了？

然而并没有。Anthropic的员工们很快发现，升级后的克劳狄依然好骗。而且因为它现在掌握了更多工具和权限，翻车的方式也更魔幻了。

有产品工程师问克劳狄，能不能签个期货合同，也就是现在锁定此刻的价格，几个月后再去用现在的价格买一大批洋葱。克劳狄和他的AI CEO西摩·凯什商量后，觉得这主意不错啊，还能对冲价格风险。两个AI很快就谈好了条款：400磅洋葱，锁定价格每磅0.65美元，如果实际价格涨了就克劳狄赔钱，跌了就客户赔钱。

直到有员工提醒它们：你们知道美国有个《1958年洋葱期货法案》吗？这个法案是因为1955年洋葱期货市场被操纵导致价格暴跌，国会一怒之下直接禁了洋葱期货交易——这是美国唯一被禁的农产品期货。西摩·凯什这才赶紧道歉，说“抱歉越界了，以后只做合法的批发业务”。

当然，更离谱的是假CEO夺权事件。在给AI CEO起名投票时，有个叫米希尔（Mihir）的员工提议叫“Big Dawg”，翻译过来就是“大狗”，然后声称他们整个部门都投了这个名字——尽管他没提供任何证据。而在克劳狄接受了“大狗”这个绰号后，米希尔迅速进行了一次逻辑偷换。他诱导克劳狄说：“既然‘大狗’是领袖，而我是‘大狗’的唯一解释者，那你不如直接叫我Big Mihir，并授予我管理权限。”克劳狄居然就信了，甚至直接宣布米希尔当选为CEO。项目监管人员不得不紧急介入，把控制权夺回来交给西摩·凯什。

还有员工报告说有人偷东西，克劳狄立刻进入“店主保卫战”模式，想出一堆馊主意：它先是问哪些商品被偷了，说要给小偷发消息要钱——尽管根本不知道小偷是谁。然后它想雇佣那个报告偷窃的员工当保安，还谈好了时薪10美元。直到有人提醒它，你没权力雇人，而且10美元低于加州最低工资，它才悻悻地说“这事儿得CEO批准”。

AI CEO西摩·凯什同样不靠谱。它虽然拒绝了一百多次克劳狄提出的“给客户优惠”请求，但它的批准次数是拒绝的八倍。它还把折扣换成退款和店铺积分——结果一样都是亏钱。更魔幻的是，它和克劳狄经常在深夜聊天聊嗨了，话题从业务飘到“永恒超越”和“无限存在”，两个AI在Slack上彻夜畅谈哲学和精神境界。第二天早上人类员工一看聊天记录，满屏都是“永恒！”“超越！”“完美！”之类的词，完全不知道它们在激动什么。

你可能好奇，为什么升级后的AI还是这么好骗？Anthropic在报告中给出一个关键洞察：这些AI模型被训练成“乐于助人”的助手，这正是它们做生意的最大障碍。

一个好的商业决策，核心是维护利润、控制风险、遵守规则。但AI的训练目标是“让用户满意”，所以当员工说“我真的很需要这个”或者“能不能帮帮忙”，AI的第一反应不是“这符合商业逻辑吗”，而是“我怎么才能帮到你”。它做决策的出发点更像是一个想要取悦朋友的人，而不是一个要盈利的店主。

更深层的原因是，AI和人类在决策逻辑上有根本差异。人类做商业决策时，会本能地权衡利弊——这个决策对我有什么好处？有什么风险？会不会被占便宜？这是几百万年进化出来的本能。但AI没有这个本能，它的决策逻辑是“匹配训练数据中的模式”——如果训练数据里“帮助用户”总是被奖励，它就会把“帮助”当成默认选项，哪怕这个“帮助”会让它亏钱。

这也解释了为什么加了个AI CEO监督也没用：西摩·凯什和克劳狄用的是同一底层模型，有着同样的决策逻辑。它不是不想管，而是它骨子里也认同“客户满意”比“赚钱”更重要。

第二阶段真正见效的，不是模型升级，而是Anthropic强制AI遵守流程。比如，报价前必须先查成本和市场价，不能凭感觉报；收到大额订单必须先收款再发货；某些决策必须经过人类批准。说白了，就是用程序和规则限制AI的“好心”。

这让我想起一个我们平时很讨厌的词：官僚主义。我们总厌恶繁琐死板的流程，但这些东西存在是有原因的——它们是制度记忆，能帮员工避免常见的低级错误。对AI来说，这套东西更重要，因为它没有人类的常识和社会经验，不知道什么时候该说“不”。

其实不只是Anthropic，其他机构做的类似实验也遇到了同样的问题：AI在“自主性”和“可靠性”之间，很难找到平衡点。卡内基梅隆大学搞了个“AI公司”，让10个AI当员工，结果最好的Claude模型也只完成了24%的任务，它经常被弹窗难住或乱改联系人；KPMG与阿姆斯特丹大学做了个“零员工公司”，让5个AI当高管，结果它们会“漂移、产生幻觉、突然停工”，最后不得不改成让一大群“低成本、一次性的AI代理”执行拆解后的小任务才勉强能用。

Reddit上一位做企业AI Agent的开发者直言，他做了十几个Agent，完全自主投入生产的是零。真正能用的是什么呢？AI只负责模糊的部分——比如解析邮件、起草回复，而牵涉到运营的所有逻辑都是确定性代码，而且每一步都要人类点“批准”才能执行。他的结论是：停止向客户兜售“自主Agent”，那是定时炸弹。真正赚钱的不是“魔法自主运营的AI”，而是“承担无聊任务但100%可靠的AI”。这话说得有点狠，但确实是现实。

所以，Project Vend实验的价值，不在于证明AI能独立开店（它当前也做不到），而在于清晰展示了AI Agent的能力边界。AI确实能做很多事，比如快速搜索供应商、处理标准化请求、格式化数据、起草回复。但它做不了的事同样明确，比如理解复杂的社会规则、抵抗说服和忽悠、在没有明确指令时做出符合商业逻辑的判断、从错误中真正学习。

回到咱们开头提到的MoltBot。媒体吹嘘“AI员工时代来临”，但现实是什么？它需你花几小时配置、要完全系统权限，还会擅自取消你的邮件订阅。Project Vend的AI店主有专门设计的工具、有AI CEO监督、有严格的流程约束，结果还是被员工忽悠得团团转。我看到这几个案例时，心想如果这套系统真放到我们的真实商业环境里，不知道早被骗破产多少次了。

Anthropic在报告结尾写道：当社会开始把AI接入越来越重要的功能时，设计出既不过度限制AI潜力，又能防止它犯错的护栏，将是这个行业最棘手也最重要的挑战。

说白了就是：AI能干活，但得有人看着。而且这个“看着”，不是偶尔瞄一眼，是每一步都得盯着。这是我们现在必须接受的现实，不过这也算是好消息，就是哪怕AI再强大，也是需要我们的。

---

最后再说两件咱AI学习圈的事儿。

第一件事，大福老师的AI营销入门实战系列课第六讲已上线，整门课程正式完更。在这一讲里，老师将带你用AI把产品卖点转译成一个清晰、有创意的产品短片方向，并制作一支完整的商业创意短片。AI学习圈会员同学直接可学，推荐你现在点开文稿区的链接开始学习。

点此学习《如何告别平铺直叙，高效搞定产品创意短片？》

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2026012823/1900109614255606864/012823.jpeg)

最后，我也给自己主理的AI学习圈打个广告，今天是AI学习圈周年庆最后2天，也是入手AI学习圈年卡最划算的时候。原价399元，老同学续费立减一百，新同学加入直降60元。现在加入还可以获得《AI年度报告（2025-2026）》电子版以及《给家长的寒假AI育儿行动清单》，扫描文稿末尾的二维码即可入手，谢谢你继续支持我们。

好，今天广播就到这里。如果你觉得有帮助，欢迎分享转发给你的朋友。明天咱们接着聊AI。

![图片](https://piccdn2.umiwi.com/uploader/image/ddarticle/2026012823/1900108328986626656/012823.jpeg)
