上交大团队发布可信版OpenClaw 企业安心使用【两砚网】

上交大团队发布可信版OpenClaw 企业安心使用

   2026-03-26 10:42:55 澎湃新闻两砚网11
核心提示:上海交通大学计算机学院(网络空间安全学院)副教授王烁带领的LoCCS实验室团队推出了一套面向企业场景的OpenClaw可信化改造方案

上海交通大学计算机学院(网络空间安全学院)副教授王烁带领的LoCCS实验室团队推出了一套面向企业场景的OpenClaw可信化改造方案。该方案通过能力按需激活、权限前置治理、风险分级执行、结构化记忆和证据链审计等机制,将安全与可信从模型层的软约束升级为系统层的硬能力。

王烁认为,过去几年,大模型驱动的内容智能已经深刻改变了内容创作、搜索推荐、文档分析等工作方式,但整体上仍停留在“反应式AI”阶段。现在,AI代理正在向“主动式AI”演进,能够接管绝大多数数字化操作。然而,OpenClaw目前还被不少企业视为“高能力与高风险并存”的工具。王烁表示,当前企业使用OpenClaw的最大顾虑就是安全问题,因为它开放了较多接口和调用通道,具备较高权限,能够删除、转发文件,甚至触达更敏感的数字资产。

在王烁看来,OpenClaw面临的核心风险主要包括间接提示词注入、模型幻觉以及默认端口暴露与安全配置缺失。针对这些风险,王烁团队提出了多层加固方案。首先,建立更清晰的“自我认知”机制,使系统能够区分用户真实指令与外部环境中的潜在恶意指令;其次,对可调用的API与功能模块进行认证和分级,明确哪些指令属于可信调用,哪些操作属于高风险范围;最后,引入全流程复盘与审计机制,安排“审计员”持续跟踪每一个敏感操作。

这套方案的核心是把复杂度留在系统内部,把最小必要信息留给模型,在提升安全覆盖面的同时提高执行确定性和结果可信度。除了安全加固,团队还推进“大小模型协同”的调度机制,根据任务复杂度动态分配模型资源。王烁表示,希望通过按需调用、模型裁剪和任务定制,将其做成一个更适合落地的“省油版OpenClaw”。

 
免责声明:以上所展示的信息由网友自行发布,内容的真实性、准确性和合法性由发布者负责。 两砚网对此不承担任何保证责任, 两砚网仅提供信息存储空间服务。任何单位或个人如对以上内容有权利主张(包括但不限于侵犯著作权、商业信誉等),请与我们联系并出示相关证据,我们将按国家相关法规即时移除。

本文地址:http://news.liangyankj.com/news/264783.html

收藏 0打赏 0
 
更多>同类资讯
推荐图文
推荐资讯
点击排行

免责声明:本站所有信息均来自互联网搜集,产品相关信息的真实性准确性均由发布单位及个人负责,请大家仔细辨认!并不代表本站观点,两砚网对此不承担任何相关法律责任!如有信息侵犯了您的权益,请告知,本站将立刻删除。
友情提示:买产品需谨慎
网站处理与建议:wfmyw@qq.com