
3月18日,針對近期OpenClaw(“龍蝦”)引發(fā)的本地開源智能體部署熱潮,珠海市委網(wǎng)信辦、粵港澳大灣區(qū)生成式人工智能安全發(fā)展聯(lián)合實(shí)驗(yàn)室珠西中心、廣東省網(wǎng)絡(luò)數(shù)據(jù)安全與個(gè)人信息保護(hù)協(xié)會灣區(qū)辦公室等單位聯(lián)合發(fā)布《珠海市“養(yǎng)蝦安全十條”——“龍蝦安全”使用指引》(下稱“指引”)。
指引根據(jù)國家有關(guān)規(guī)定,結(jié)合珠海實(shí)際,從安全風(fēng)險(xiǎn)認(rèn)知、源頭管理、權(quán)限控制、網(wǎng)絡(luò)防護(hù)、插件管理、數(shù)據(jù)保護(hù)、日志留存、風(fēng)險(xiǎn)防范、協(xié)同共治、有序發(fā)展十個(gè)維度,構(gòu)建起全流程、全鏈條的AI安全使用規(guī)范體系。
在技術(shù)層面,指引明確要求堅(jiān)持最小權(quán)限原則,提倡采取隔離運(yùn)行環(huán)境、使用專有賬戶、重要操作二次確認(rèn)等措施,避免因權(quán)限過高引發(fā)安全風(fēng)險(xiǎn);加強(qiáng)網(wǎng)絡(luò)暴露管控,避免管理端口直連互聯(lián)網(wǎng),強(qiáng)制推廣加密通道與多因素認(rèn)證;規(guī)范第三方插件管理,警惕供應(yīng)鏈投毒風(fēng)險(xiǎn),要求從可信渠道獲取“技能包”并進(jìn)行代碼審查。
在數(shù)據(jù)安全方面,指引建議避免明文存儲API密鑰、賬戶密碼等敏感信息,并強(qiáng)調(diào)涉及個(gè)人信息的處理活動,應(yīng)當(dāng)嚴(yán)格遵守《個(gè)人信息保護(hù)法》等法規(guī),落實(shí)數(shù)據(jù)最小收集、目的限制、知情同意等要求。同時(shí),指引支持漏洞研究者依法依規(guī)報(bào)送安全漏洞。