开年以来，OpenClaw开源人工智能体火爆全球，科技圈称它为“龙虾”。然而，在提供强大自动化智能体技能框架的同时，“龙虾”也暴露出严重的安全风险，可能出现权限失控、配置暴露、插件投毒、提示词注入、高危网络安全漏洞等。3月18日，北京科研团队发布智能体安全检测工具“前瞻智鉴”并免费开放，帮助用户在使用“龙虾”的同时，守住基础安全底线。
在电脑中养一只“龙虾”，就像请了一位24小时在线的数字助理，由它来接管电脑，解放双手。下达任务命令后，它能不知疲倦地在电脑里工作，整理邮件、收集资料、发布社交媒体内容……网络空间搜索引擎“钟馗之眼”统计数据显示，全球公网上能直接识别到的“龙虾”实例已经超过6.3万个。
但随着越来越多用户参与使用，“龙虾”的安全风险引起公众警觉。3月10日，国家互联网应急中心紧急发布风险提示，强调“龙虾”默认的安全配置极为脆弱，攻击者一旦发现突破口，便能轻易获取系统的完全控制权。“龙虾”已公开曝出多个高、中危漏洞，一旦漏洞被网络攻击者恶意利用，可能导致系统被控、隐私信息和敏感数据泄露的严重后果。
一堵针对“龙虾”的防火墙，在北京建起。北京前瞻人工智能安全与治理研究院、人工智能安全与超级对齐北京市重点实验室联合发布的“前瞻智鉴”工具，能够实现对8种安全类型、30余项检查点的扫描，其中内置了270余条“龙虾”安全漏洞，并仍在持续更新。一旦本地部署的“龙虾”出现网络端口暴露、危险指令注入、暴力破解等威胁，该工具就会拉响“警报”。
“目前，这套工具主要为用户提供风险检测与告知。相关风险是否要处置，和用户需求密切相关，用户需要根据自身应用需求进行自主决策。”北京前瞻人工智能安全与治理研究院曾毅表示，必要的自动化风险修复功能也即将上线，为用户提供更多选择。
为了促进类“龙虾”智能体的安全部署和使用，“前瞻智鉴”工具面向所有用户免费开放。但曾毅也提醒用户，任何安全检测工具都不可能解决所有安全隐患，只能尽可能降低风险。“前瞻智鉴”将不断推出并逐步完善智能体框架安全检测的类型与覆盖度，但智能体框架在运行时，乃至它自身的基础模型层都存在动态不确定性。在使用类“龙虾”智能体提供的定制化服务时，企业和个人用户务必应采取更主动的风险防范措施。
“除了采取必要措施检测和及时修复漏洞、开启防火墙和杀毒软件、及时更新软件版本，用户还应做到不随意开放权限、不提供敏感信息、不随意将决策权交给智能体，并对智能体行为保持必要的监测。”曾毅表示。
来源：北京日报
北京市人民政府台湾事务办公室
华夏经纬网版权所有
