央廣網(wǎng)昆明9月16日消息（記者 魏文青） 9月16日，第22屆中國網(wǎng)絡(luò )安全年會(huì )（暨國家網(wǎng)絡(luò )安全宣傳周網(wǎng)絡(luò )安全協(xié)同防御分論壇）上，國內首次針對人工智能大模型的實(shí)網(wǎng)眾測檢驗結果正式發(fā)布。大模型特有漏洞177個(gè)，占比超過(guò)60%。

眾測結果發(fā)布現場(chǎng)（央廣網(wǎng)記者 魏文青 攝）

據介紹，本次活動(dòng)共動(dòng)員559名“白帽子”，對國內10家廠(chǎng)商的15款大模型及相關(guān)應用產(chǎn)品進(jìn)行了漏洞測試，涵蓋基礎大模型、垂域大模型、智能體及模型開(kāi)發(fā)平臺等，測試范圍具有較廣泛的代表性。

測試結果顯示，在參與測試的主流產(chǎn)品中，騰訊混元大模型、百度文心一言、阿里巴巴通義APP、智譜華章智譜清言等發(fā)現的漏洞風(fēng)險較少，安全防護水平相對較高�；顒�(dòng)中，涌現出梁宏宇、馬寶新、劉銘等一批優(yōu)秀白帽子，他們在廠(chǎng)商防護條件下仍能挖掘出高危漏洞，展現了專(zhuān)業(yè)能力。

統計數據顯示，本次眾測累計發(fā)現各類(lèi)安全漏洞281個(gè)，其中大模型特有漏洞177個(gè)，占比超過(guò)60%。典型風(fēng)險包括：不當輸出、信息泄露、提示注入、不受限消耗類(lèi)漏洞，以及傳統安全漏洞等。專(zhuān)家表示，若此類(lèi)問(wèn)題被惡意利用，將對大模型生態(tài)帶來(lái)較大影響。

此次活動(dòng)由中央網(wǎng)信辦網(wǎng)絡(luò )安全協(xié)調局指導，國家計算機網(wǎng)絡(luò )應急技術(shù)處理協(xié)調中心主辦，相關(guān)平臺和基地提供技術(shù)支持。業(yè)內人士指出，隨著(zhù)人工智能應用場(chǎng)景不斷拓展，新的風(fēng)險和攻擊方式仍將持續出現。未來(lái)需加快漏洞分級標準制定，持續完善防護措施，并通過(guò)社會(huì )眾測模式構建協(xié)同治理機制，以高水平安全護航“人工智能+”的高質(zhì)量發(fā)展。