已开源Agnes Harness
过去做一套企业软件,开发可能要花90块,给每家客户适配只要10块。软件做一次、卖给很多家,前面那90块就能被一点点摊薄。这是传统软件公司的生意逻辑。 AI把这个公式改了。现在开发只要1块,适配还是10块。
谁懂,独立FDE (前沿部署工程师) 、斯坦福在读博士Zaniel此前跟量子位交流时算的这笔账,几乎把今天Agent落地最扎心的现实说透了。
开发成本从90块跳水到1块,最难啃的那10块,却还杵在原地纹丝不动。
为啥?
因为企业适配这事儿,归根结底就是让AI把每个客户的业务流程、工具系统和现场设备重新认一遍。
偏偏现在不少Agent,本质上还是被关在浏览器和终端里的「赛博临时工」。
写代码时天花乱坠,Benchmark分数一个赛一个漂亮。
可真让它走出屏幕,去指挥车间里的传送带、读取工业称重台的读数,或者操作机械臂完成一次精密装配,画风立马就变了。
抱意思,这个我之前没见过,你得重新教我。
经典老番之「上岗了才有工作经验」,我懂,那就仔细教呗。
结果好不容易教会了,转头它又给你来一出「鱼的记忆」——
在同一个客户场景里,第100次执行任务犯的蠢,跟第1次几乎一模一样。
Token一轮没少烧,经验是一点没记住。
气笑了。。。
所以,怎么让Agent快速适应新任务,同时把执行经验沉淀下来?
Agnes Harness。
一个采用Apache 2.0许可证、允许商用,并已在GitHub收获2.1k Star的开源系统,就这样进入了我的视线。
给Agent配上快慢双脑,先把干活成本打下来
先给大家划个重点,Agnes Harness身上最值得看的有两点:
一个是Sys1双系统决策,另一个是TTT×RSI双层自进化。
顺着了解这两个创新设计,你就会明白如今Agent落地的卡点究竟在哪了。
为了让整个过程更好理解,咱们直接原地来一局「重生」 (doge) 。
△图片由AI生成
一觉醒来,假设你现在成了一家工厂的老板,为了降本增效,你就想着一件事——
我要把AI引进自家工厂。
往市面上一看,模型倒是一个比一个强,但真准备掏钱部署时,第一关就来了:
到底怎么才能把每次任务的执行成本降下来?
AI这个概念再性感,不能最后让我倒贴钱吧,ROI不得先仔细算算。
聪明的你决定先查查账,以前大家都把钱花哪儿了?
一番盘下来,好家伙,最大的开销居然是 大模型调用。
现在不少Agent之所以又慢又贵,倒不是大模型不够强,恰恰相反,是因为它太能干了,结果什么活都往它身上塞。
很多根本不需要复杂推理的操作,也要完整调用一次大模型,这不纯纯大材小用浪费吗??
Agnes Harness就想了,不行,咱得分工,于是干脆搞出了一套 「Sys1双系统决策」 机制。
需要复杂推理的部分,那就还是交给大语言模型System 2。
而那些高频且明确的操作,则交给专门训练的9B决策模型System 1,也就是 Agnes Sys1.0 。
它可以通过插件接入Agnes Harness,专门判断下一步该怎么走:
调用哪个工具?继续等待还是立即执行?拿不准时,要不要请大模型出场?
可别小看了这个9B模型,它的「单兵作战能力」相当能打。
Agnes Harness报告显示,在一项模拟家庭漏水的任务中,同样是判断下一步该干啥,大模型平均要想7.6秒,Agnes Sys1.0只需要0.53秒。
速度直接是原来的14.3倍。
至于成本,在另一组行李房 (完成物品称重、竖直摆放和暂存) 测试中,双方分别完成100次判断,在线大语言模型的单次调用成本约为0.00247美元,Agnes Sys1.0则约为0.000091美元。
算下来,单次决策成本只有前者的约1/27。
有了这一「最强辅助」,两个系统一配合,那不得起飞??
Agnes Harness还真拉来一只机器狗,在仿真环境中测试了一把。
机器狗的任务是,在室内找到门,然后穿过去。
比起每一步都调用大模型的方式,「大模型+Agnes Sys1.0」这对搭档直接将 整体任务耗时缩短了32.9%。
光看数字可能还没啥感觉,但点开视频一对比,好家伙,这速度差距还真是肉眼可见呐。
速度上来了,成本也降下去了。
但新问题很快又来了:
今天换台设备,明天接个新任务,Agnes Sys1.0没见过怎么办?
总不能每来一个新活,就把模型拖回去重新训练一次吧。
好在Agnes Sys1.0还留了一手——TTT,也就是测试时训练。
别再每天失忆,让任务经验真正留下来
怎么让Agent快速适应新任务,一个很自然的想法是:
培训呗 。
可问题来了,传统模型微调,得先收集新任务的数据,再训练、部署。
一套流程下来,时间和成本可都不低。
TTT就有意思了, 直接让Agent在上岗前突击补课。
Agnes Sys1.0先看看新任务要干啥,再自己出几道有标准答案的练习题,做完后根据结果调整一下自己的判断方式。
整个过程不动9B模型的主体参数,只微调最末端一小组负责校准判断的参数即可。
不过,这场「突击培训」还有个挺有意思的设定:
学完就清空。
啊?好不容易学会了,怎么还给忘了??
其实是怕它学串了。
毕竟今天操作的是A设备,明天可能就换成B设备,要是每次学到的东西都往模型里塞,时间一长,谁知道会不会互相打架。
所以Agnes Sys1.0干脆每次只针对眼前的任务临时调整一小部分参数,干完就恢复原样。
听着挺有道理,但身为老板,我还是忍不住担心:
模型参数可以恢复,辛辛苦苦摸索出来的经验,总不能也跟着打水漂吧?
这就轮到「双层自进化」的另一半—— RSI 出场了。
RSI,递归自我改进,这大家都不陌生了。
每次干完活,先给Agent开一场复盘会。
Agnes Harness会把整个执行过程重新过一遍,看看哪里反复报错、哪一步最耽误时间,再调整Prompt、Memory、Skills和Subagent的配合方式。
如果发现了更好的方法,就先在当前任务中验证效果。
确认确实有效后,再整理成版本化Playbook (操作手册) ,留给后续任务直接复用。
Agnes Harness还真拿一个 复杂设备入库验收 任务试了一把。
简单来说,设备进了仓库,Agent得按流程操作称重台、读取重量,再完成验收。
第一次,Agent不出意外地翻车了。。。
称重台还没稳定就急着读数,操作顺序也没安排明白,折腾了整整 30分钟,最后还是超时了。
但这次的坑,RSI给记下来了。
结果第二次再来,直接按照验证过的流程走。
不到8分钟,搞定。
注意, AI总结出来的新方法,得先经过仿真测试,确认靠谱了,才能写进Playbook。
就,允许你自己进步,但别拿我的设备试错啊。 (doge)
到这儿,Agent总算不再是个每天从零开始的「赛博临时工」了。
但等等……
在屏幕里练得再熟,到了工厂现场,总不能靠鼠标去拧螺丝吧?
让Agent走出屏幕,就是现在。
走出屏幕,给Agent补上连接现实世界的身体
不过,给Agent补身体,可不是上来就装机械臂。
← 返回最新