新華三集團(tuán)高級(jí)副總裁、新華三信息安全技術(shù)有限公司總裁孫松兒發(fā)言。孫寧攝

人民網(wǎng)北京5月9日電 （記者栗翹楚）5月9日，“可信語(yǔ)料筑基，智能生態(tài)共贏——2026人民網(wǎng)數(shù)據(jù)智能伙伴大會(huì)”在人民日?qǐng)?bào)社舉行。新華三集團(tuán)高級(jí)副總裁、新華三信息安全技術(shù)有限公司總裁孫松兒在主題分享環(huán)節(jié)表示，在AI應(yīng)用加速爆發(fā)的時(shí)代，要以AI全面賦能安全能力提升，以安全守護(hù)AI健康發(fā)展，高質(zhì)量安全語(yǔ)料數(shù)據(jù)集建設(shè)是關(guān)鍵基礎(chǔ)。

孫松兒表示，AI在提升生產(chǎn)效率、帶來(lái)便捷的同時(shí)，也帶來(lái)了安全挑戰(zhàn)。算力邊界安全、模型漏洞利用、數(shù)據(jù)訓(xùn)練污染等問(wèn)題日益突出。AI同樣被攻擊者利用，如開(kāi)源大模型降低了漏洞挖掘的技術(shù)門(mén)檻，AI生成的釣魚(yú)郵件、勒索軟件模仿用戶(hù)生態(tài)和儀態(tài)，上述現(xiàn)象值得關(guān)注。

傳統(tǒng)的安全防護(hù)手段，對(duì)新的安全攻擊是否仍然有效？孫松兒給出的答案是“擁抱AI”。他表示，業(yè)界安全技術(shù)發(fā)展的趨勢(shì)只有一個(gè)方向——用AI來(lái)強(qiáng)安全，用安全來(lái)保AI。圍繞算力、模型、應(yīng)用三個(gè)層面，需要構(gòu)建綜合安全治理體系，安全的底座至關(guān)重要。

孫松兒直言，打造安全的大模型，離不開(kāi)高質(zhì)量的安全語(yǔ)料數(shù)據(jù)集，從攻防對(duì)抗的實(shí)戰(zhàn)視角，將滲透、防護(hù)等專(zhuān)業(yè)領(lǐng)域知識(shí)轉(zhuǎn)化為可用于訓(xùn)練的語(yǔ)料對(duì)，是重要方向。建議由牽頭單位或聯(lián)盟推動(dòng)，形成產(chǎn)學(xué)研用協(xié)同的安全語(yǔ)料建設(shè)機(jī)制。

談到模型安全護(hù)欄，孫松兒表示，無(wú)論是涉黃、涉恐識(shí)別還是合規(guī)檢測(cè)，都需要高質(zhì)量語(yǔ)料數(shù)據(jù)集的支撐。在這方面，人民網(wǎng)具備權(quán)威性、完整性的先天優(yōu)勢(shì)。

“安全和AI，目前從發(fā)展方向來(lái)看，大家都在擁抱，它不是簡(jiǎn)單的零和博弈?！睂O松兒說(shuō)。

對(duì)于當(dāng)前AI智能體應(yīng)用，孫松兒以“龍蝦”為例提出思考：“‘龍蝦’很火，但目前都是對(duì)公域數(shù)據(jù)的調(diào)用。企業(yè)要用‘龍蝦’，必然涉及核心業(yè)務(wù)系統(tǒng)的開(kāi)放，身份管控和權(quán)限控制不解決，‘龍蝦’走不進(jìn)企業(yè)?！彼J(rèn)為，需要一套AI安全網(wǎng)關(guān)作為中間件，做好智能體的身份管理和后端業(yè)務(wù)系統(tǒng)的權(quán)限控制。