AI论道|为“龙虾”等新型智能体定规矩:驯化是底 进化看权限

长期以来,大家对AI的认识始终停留在这样的层面:用户向AI输入指令,AI执行任务、反馈结果。而OpenClaw(俗称“龙虾”)的横空出世,打破了这种传统认知。它能够独立执行多项复杂的任务,越来越接近于拥有独立行为逻辑的“智能个体”。人工智能不断朝着更高智能、更高效率的方向前进,面对以OpenClaw为代表的新型智能体,我们该如何与之共处?是该牢牢掌握以实现人工“驯化”,还是放任其自主进化?

 

广西云-广西日报记者 古秀芳 制图

明辨边界:驯化与进化不是二选一

“龙虾”快速走红全网,驯化与进化如何取舍、如何平衡,是一个值得深思的课题。

针对OpenClaw爆火,国家级人才、广西人工智能教育学会会长、桂林电子科技大学教授蒋明打了个比喻:“这就好比一个小孩子养了一只老虎当宠物,老虎温顺听话的时候其乐融融,但孩子很难保证老虎始终安全可控,所以必须找到科学的圈养方法。”

蒋明所言的“圈养”,本质就是对AI智能体的驯化。所谓驯化,是以人类为主导,对OpenClaw实行最小权限配置、全流程人工审核,从严约束其行为边界,让智能体保持被动执行属性,沦为安全可控、完全服从指令的工具。驯化的核心是人握缰绳,通过权限收紧、操作留痕等机制划定行为红线,所有高风险操作均需人工复核,从源头规避安全隐患。

与驯化相对的,则是AI智能体的进化路径。进化是适度赋予OpenClaw更高权限与自主能力,允许其自主修改配置、优化业务流程、自主生成全新技能,使智能体从单纯被动执行的工具,升级为具备自我迭代的能力。

现实中,放任智能体盲目进化、缺失权限管控的风险已充分暴露。有程序员因未做任何权限约束,安装OpenClaw仅三天便遭遇API密钥被盗,产生1.2万元Token费用损失。“作为本地运行的AI代理,‘龙虾’仍存在诸多的风险隐患。”中国信息通信研究院副院长魏亮表示,目前OpenClaw还不是很完善,先做驯化是用户的普遍务实选择。

清华大学沈阳教授团队发布的《openclaw:驯化还是进化?》研究报告认为:应遵循“先驯化、后进化、渐进放权”的核心原则。AI智能体的驯化与进化并非对立,而是连续过渡、渐进放权的有机整体,二者统一于“权限决定边界”的核心逻辑之中。

报告称,OpenClaw是热门开源AI智能体项目,拥有32.8万星标、6.4万分支、1270名贡献者与3.2万余项技能,已形成完整技术生态,当前行业实践中70%处于驯化阶段、20%为自适应、10%进入自优化,整体处于权限管控向自主演进的过渡时期。

报告核心提出了三层权限光谱理论:最小权限对应驯化层,AI被动执行、人工全审核,人完全掌控系统,用自然语言经营AI,核心是“人握缰绳”;中等权限为自适应层,AI可自主修改配置与行为,无需全程人工审核,实现自我改进;高权限搭配MetaClaw则进入策略自优化层,AI能更新模型权重、自主生成策略,达成真正意义上的进化。权限高低直接决定AI是被驯化还是自主进化,同一系统因权限不同呈现完全不同的状态。

 

 

 

 

图片来源:清新研究团队

守牢底线:驯化优先进化有度

推动OpenClaw规范健康发展,必须确立以驯化为安全底线、以进化为创新动能的总体思路,在可控前提下最大化释放智能体的技术价值与应用潜力。

据沈阳教授团队的测试数据,经过规范进化的OpenClaw,任务执行精度从21.4%提升到了40.6%,执行速度快了8.25倍。“高水平安全是高质量发展的前提和保障。”中国信息通信研究院院长余晓晖指出,只有筑牢安全底线,才能在稳妥有序运行中持续释放智能体的创新活力。

深圳市人工智能与机器人研究院产业研究中心主任李立指出,企业应先梳理业务标准工作流,在非核心环节对智能体进行高强度的逻辑调教,待其在低权限环境下展示出稳定的执行逻辑后,再逐步开放权限。

首先,个人用户应保持“权限意识”,关闭高危权限,定期审计操作记录,防范隐私泄露与财产损失。其次,企业应该建立完善的分级管控体系,结合业务场景定制驯化与进化方案。最后,监管部门要加快完善行业标准规范,明确权限分级、安全防控等要求,让行业更好、更规范地发展。

“应遵循最小必要授权原则,尽量不使用智能体处理私密信息与商业秘密。”奇安信集团行业安全研究中心主任裴智勇建议,在权限管控层面,默认配置最低权限,根据场景需求精准授权,杜绝超级管理员权限,同时采用技能级授权、动态令牌、临时权限等机制,操作完成后立即回收权限。此外,在高敏感场景,必须坚守全人工审核模式,所有操作留痕可溯,满足合规监管要求。

“自进化是真正能创造新事物的方向。”小米MiMo大模型负责人罗福莉透露,目前顶尖模型已能在特定任务上自主优化并持续稳定运行两三天。她团队的研究人员借助有关顶级模型,研究效率直接提升近10倍。

 

图片来源:OpenClaw官网截图

精准施策:按主体适配权限

强化技术与制度协同,为智能体进化提供坚实保障。

在技术层面上,不断升级安全防护架构,提升智能体自身安全韧性,为渐进放权提供技术支撑。例如,NVIDIA推出的OpenShell架构、腾讯云ClawPro企业版等,通过多租户隔离、网络加固、权限管控等,实现了安全与效率的平衡。中国工程院院士、中关村实验室主任、清华大学讲席教授吴建平坦言,要筑牢技术根基、汇聚创新资源,让AI决策可知、可感、可解释。

在制度层面上,健全智能体研发、部署、应用、监管全流程规则,完善数据安全、隐私保护、伦理审查相关规则,形成技术护航、制度约束、伦理引领的综合治理格局。面对智能体风险溯源难、责任界定模糊等问题,赛尔网络有限公司总经理王岩提出建议,“可借鉴互联网治理机制,为智能体分配唯一网络标识,实现可识别、可追责、可管理,构建安全可信协同的新型基础设施。”

今年3月,桂林市正式发布的升级版政务智能系统,为广西首例政务专属“国产龙虾”智能体。该智能体成功破解“漓政通”与区直、国垂业务系统数据不通的难题。同时严格实行最小权限、人工审核、全程留痕,在交通运输资格证审批等场景实现自动化办理,既提升服务效率,又守住数据安全与政务合规底线,成为地方智能体安全可控的典型示范。

广西立足本地实际,积极推动OpenClaw智能体深度融入数字政务、民生服务等领域。南宁市人社部门面向市民和小微企业开展公益培训,普及智能体安全使用与权限管理知识。广西社科联编制的《圈养“小龙虾”宝典:从失控到驯服OpenClaw的50堂实践课》,为社会各界规范使用OpenClaw提供实用指引,助力营造安全有序的智能应用生态。 

相关产品

评论