傲慢与偏见大厂龙虾，卷到头了！大虾吃小虾开始~_我的网站
A | 该图片使用了AI生成技术 本文来自微信公众号： HavenlonLabs ，作者：Havenlon Labs 现在谈AI安全，很多人的第一反应都是：怎样让模型少犯错？ 减少幻觉、优化提示词、防止提示词注入、增加上下文、接入更强的模型，再用另一个Agent检查前一个Agent。
B | 这些工作当然有价值。 刚刚，阿里和腾讯几乎同时干了一件类似的事：合并自家龙虾团队。 但它们容易让人产生一种错觉：只要模型足够聪明、提示词足够完善、检测系统足够复杂，AI就可以安全地完成一切。 阿里整合QoderWork、悟空、MuleRun三款智能体产品，将推出千问办公。 腾讯则将QClaw产品中心相关业务和部分团队调整到云产品六部，也就是WorkBuddy所在部门，换言之，鹅厂手里两只“龙虾”也要整合了。 问题是，AI真的可能永远正确吗？ 答案恐怕是否定的。 我们无法消灭所有错误 AI Agent面对的不是一道标准答案明确的考试题，而是不断变化的现实环境。 它读取的邮件可能是伪造的，访问的网页可能包含恶意指令，接收到的数据可能已经被污染，用户给出的任务也可能存在歧义。 即使模型本身没有受到攻击，它也可能误解目标、遗漏条件，或者基于不完整的信息作出一个看起来合理的决定。 两家巨头，同样的动作，巧合吗？当然不是。
C | 今天是7月21号，短短半年，大厂龙虾已经跑完了一个小周期↓ 2025年底，OpenClaw横空出世，点燃了整个行业的热情。 我们可以持续提高模型的准确率，却很难证明它在下一次任务中一定不会犯错。 2026年Q1，大厂纷纷入局，产品井喷，百龙虾大战开打。 2026年Q2，头部产品跑出数据，腰部、尾部产品开始掉队。 试图让AI永远正确，是在追求一个无法验证的目标；阻止危险结果发生，才是一条可以真正落地的边界。 真正的问题不是AI会不会犯错。 它一定会。 2026年Q3，整合开启：阿里三合一，腾讯二合一，大厂内部洗牌结束，行业进入淘汰赛。 真正的问题是：当它犯错以后，系统是否会毫无阻碍地把这个错误执行出去。 阿里：三只龙虾合成一只 阿里的龙虾布局，一度是“三头并进”的局面。 模型错误不一定等于现实损失 一个AI在聊天窗口里回答错误，造成的可能只是一次糟糕的体验。（其实阿里系还有第四只虾：无影旗下的JVS）。 QoderWork，2026年1月上线，主打桌面AI智能体工具，用户通过自然语言指令即可让AI操作本地应用和文件，完成文档生成、数据分析、文件整理等任务。
D | 在三款产品中，QoderWork的用户规模和口碑最优。 但当同一个AI拿到支付接口、管理员权限、数据库写入权限和服务器控制权以后，错误的性质就完全不同了。
E | 它可能把钱转给错误的地址，删除重要数据，修改生产环境，扩大成员权限，或者关闭本应保留的审计记录。 悟空，2026年3月17日由ATH事业群发布，依托钉钉生态，强调企业协同办公，深度集成企业权限与安全沙箱。 MuleRun，早在2025年8月就悄悄上线，是阿里云内部孵化的Agent执行引擎，主攻海外市场，已覆盖43个国家，支持多Agent协同。 当时拿到第一批骡子测试码的我，还搞不懂这到底是个啥，现在回头看，当时那个所谓的“封装经验、知识即资产”，不就是后来大火的Skill吗。 阿里三款产品分属不同团队，场景侧重各不相同，但在企业生产力这个大赛道上，功能重叠越来越严重。 模型只是产生了一个错误判断。 资源分散、各自为战，难以形成合力。 转折发生在今年6月。 真正把错误变成事故的，是后面的执行能力。 钉钉创始人陈航卸任，陈宇森接棒，成为阿里最年轻的事业部CEO。 新官上任第一把火，就是推动三款产品的整合。 7月初启动，现在三合一的千问办公就要出炉了。 模型犯错只是答案错了，执行失控才是真的出事。 这也是为什么，AI安全不能只盯着模型内部。 以QoderWork为基座，融合悟空的企业协同能力和MuleRun的全球化执行引擎，打造一款面向企业生产力场景的拳头产品。 我们当然要防提示词注入，要提高推理能力，也要检测恶意输入。但即使前面的所有防线都失效了，系统仍然应该保留一道最后的底线。 讲真，这个整合的思路听着还蛮有道理，把各自优势都结合了 然而，产品整合易，团队整合难。 跨团队协同、资源重配、与钉钉既有企业客户生态的深度耦合，每一道都是硬骨头。 这道底线不负责判断AI为什么犯错。 钉钉2025年营收超过40亿元，在制造、政务、教育和传统行业中小企业市场拥有庞大客户群。 千问办公的商业化还在起步阶段，如何与这棵大树协同生长，是陈宇森必须回答的问题。 腾讯：两只龙虾的终局 腾讯这边的故事更有戏剧性。 QClaw是腾讯基于OpenClaw开发的本地AI助手，由一位1999年出生的产品经理张舒昱主导。 它只负责确认：这件事到底能不能发生。
F | 这个妹子2025年9月加入腾讯电脑管家，带领5人小团队、零营销预算，在2026年3月内测后一周用户量突破数百万，迅速爆火，引起腾讯高层关注，项目随即升格为公司核心战略。 但故事的后半段急转直下。 守住钱袋子，比猜出所有骗子更现实 假设一个AI Agent正在替企业处理付款。 QClaw出海版在4月用户访问量环比暴跌99.19%。 我们可以训练它识别诈骗邮件，可以要求它核对合同，可以增加一个模型复核收款信息。 但我们无法保证它永远认得骗子。
G | 6月29日，张舒昱正式离职，在腾讯仅待了10个月。 骗子会改变话术，邮件账号可能被入侵，真实员工也可能被冒充。即使多个模型同时参与判断，它们仍可能基于同一份错误信息得出相同结论。 更现实的做法，是直接守住付款的底线： 单笔金额不能超过限制；新收款地址不能立即付款；审批后收款目标不能被替换；超出风险阈值必须经过独立确认；任何远程管理员都不能临时关闭这些规则。
H | 另一边，WorkBuddy的表现堪称炸裂。 这样，即使AI被欺骗，损失仍然会被限制。 这款由腾讯云CodeBuddy团队开发的桌面Agent工具，2026年1月在腾讯内部开放体验，2月公测，6月正式发布企业版。 到7月，官方宣布PC端AI办公智能体DAU第一，全平台MAU 2000万，DAU1300万以上。
I | 你不需要保证AI永远认得骗子，只需要保证骗子无法轻易带走你的钱。 这就是大道至简。 据说，腾讯内部已经将WorkBuddy定位为“QQ、微信之后的第三个现象级产品”。 前面可以有复杂的模型、提示词、工作流和检测系统。 最后只需要一条明确的边界： 不符合条件，就不执行。
J | 当一只龙虾已经跑出了现象级数据，另一只龙虾的命运其实早已注定。 QClaw并入WorkBuddy，是资源向胜者集中的必然选择。 最后的系统不必比AI更聪明 很多人认为，保护AI的安全系统也应该是一套更强大的AI。（其实鹅厂也还有一只虾：Marvis） 为什么大厂不赛虾了 阿里和腾讯几乎同时做出类似动作，我觉得背后原因大概有这么几点↓ ①功能趋同，差异化空间收窄，自家龙虾互掐。 无论是QoderWork、悟空还是QClaw，核心能力都指向同一个方向：自然语言驱动、本地任务执行、跨应用操作、文件处理、数据分析。
K | 当底层大模型能力趋同、开源框架（如OpenClaw/Hermes/OpenCode）将基础能力拉平之后，产品之间的差异越来越小。 但位于最后一道边界的系统，未必需要理解自然语言，也不需要参与复杂推理。 它只需要知道几个确定事实： 这次操作要转多少钱，目标是谁，权限是否发生变化，数据是否可以恢复，风险条件有没有超限。
L | 继续维持多条产品线并行，意味着资源分散、品牌模糊，最终可能一条线都跑不出来 与其让多只虾在同一片池塘里互相抢食，不如拢成一只大虾，集中火力对外。 这些事实不满足，就拒绝。 安全不一定要比风险更聪明，它只需要守住风险最终必须经过的那道门。 越靠近最终执行，系统反而越应该简单、独立和保守。 因为复杂意味着更多配置、更多依赖、更多攻击面，也意味着系统可能被前面的同一套错误逻辑同时影响。
M | ②技术收敛，端云协同、Harness架构成为行业共识。 龙虾类产品的技术栈正在快速趋同。 真正的最后防线，不应该和Agent使用同一个提示词、同一个上下文、同一套权限，也不应该因为SaaS中有人点击了“强制执行”就自动失效。 它存在的意义，就是在所有人都认为可以继续时，依然保留拒绝的能力。
N | 底线应该由人提前决定 当然，底线并不是系统自己创造的。 企业需要提前决定，什么事情绝对不能由AI单独完成。 早期各家还在本地部署和云端部署上做不同选择，到2026年中，端云协同架构几乎成了行业共识。
o | 可能是一笔超过限额的付款，可能是删除核心数据库，可能是修改管理员权限，也可能是让现实设备进入不可逆状态。 这些边界一旦确定，就不应该交给Agent在执行过程中临时解释。 当技术底座趋于统一，分散的产品团队就失去了独立存在的理由。
p | 整合的核心价值并不只是减少产品数量，更是建设统一的智能体Runtime，也就是更稳定更智能更安全的Harness层。 ③算力成本高，商业化压力倒逼组织提效。 AI智能体的烧钱速度远超预期，尤其是对tokens的小号远超对话式AI。 算力成本、模型调用、用户补贴，每一项都是真金白银。 大厂必须证明这些产品能赚钱，合并团队、砍掉冗余、共享推理基础试试，集中资源做商业化，是最直接的路径，对烧钱速度的改善也是立竿见影。 ④从养虾到用虾，行业进入深水区。 这届WAIC，大家的共识是：OpenClaw龙虾的热度高峰已过，但智能体作为一条产业主线依然生机勃勃。 这个阶段，需要的是深度整合的行业解决方案，而非浅尝辄止的多点试探。 真正的安全，不是让AI在最后一秒重新思考，而是让人类在风险发生之前提前划清边界。 AI可以负责分析、规划、推荐，甚至完成绝大部分自动化工作。 还有一点，龙虾产品的竞争已经从单点工具升级为平台入口之争，分散的产品线无法形成统一的入口体验，合并是为了在生态卡位战中集中兵力。 从3月全民养虾到7月大厂合虾，短短四个月，龙虾赛道已经走完了从野蛮生长到理性整合的第一程。
q | 但越是不可逆、越是高价值、越可能造成现实损失的操作，越需要一道独立于AI判断的最终约束。 对大厂来说，龙虾确实卷到头了：从拼数量转向拼质量，从抢首发转向拼留存，从做工具转向做平台。 AI安全的终点，不是把模型训练成永不犯错的圣人，而是让系统在模型犯错时依然守得住自己的底线。 未来的AI一定会越来越聪明，也会获得越来越多的工具和权限。 而对广大用户来说，虾少了，但每只虾可能都更肥了。 我们没有必要因为它可能犯错，就拒绝所有自动化。 但我们也不能因为它越来越强，就默认把最后的决定权一起交出去。 因为，我们原本就不需要那么多虾。 最后想和大家讨论一个问题： 对你来说，AI最不能越过的底线是什么——钱、管理员权限、核心数据，还是现实设备的控制权？ 本内容由作者授权发布，观点仅代表作者本人，不代表虎嗅立场。如对本稿件有异议或投诉，请联系 [email protected]。 Current article:http://x4v.bomanglangsugangunxileba.cyou/list_thufl/bosz2.html Published on:05:16:22 |
