中新網(wǎng)福州4月30日電 (彭莉芳)當(dāng)算力基礎(chǔ)設(shè)施厚積成勢(shì)、大模型百模競(jìng)進(jìn)，如何讓AI風(fēng)險(xiǎn)可控、價(jià)值可信？對(duì)此，在30日于福州舉行的第九屆數(shù)字中國(guó)建設(shè)峰會(huì)“從可靠數(shù)據(jù)到可信AI”主題交流活動(dòng)上，高校學(xué)者與產(chǎn)業(yè)專家從數(shù)據(jù)基建、政務(wù)應(yīng)用、安全防護(hù)等維度，分享了自己的思考。

　　“數(shù)據(jù)智能本質(zhì)是數(shù)據(jù)驅(qū)動(dòng)的概率統(tǒng)計(jì)，不具備人類認(rèn)知與推理能力?！北本┐髮W(xué)教授梅宏指出，數(shù)據(jù)的數(shù)量與質(zhì)量決定了模型能力的上限，當(dāng)前大語(yǔ)言模型發(fā)展面臨訓(xùn)練語(yǔ)料枯竭、模型自噬紊亂等挑戰(zhàn)，構(gòu)建高質(zhì)量數(shù)據(jù)集、完善數(shù)據(jù)基礎(chǔ)設(shè)施，是實(shí)現(xiàn)可信AI的關(guān)鍵支撐。

　　北京交通大學(xué)教授張向宏表示，通過(guò)數(shù)據(jù)工廠實(shí)現(xiàn)高質(zhì)量數(shù)據(jù)集的穩(wěn)定供給，能讓大模型與智能體真正落地行業(yè)、創(chuàng)造價(jià)值，推動(dòng)數(shù)據(jù)要素與人工智能深度共振。

　　政務(wù)大模型是人工智能賦能千行百業(yè)的重要應(yīng)用領(lǐng)域，其普及應(yīng)用正成為提升政府治理能力的創(chuàng)新路徑。清華大學(xué)教授、清華大學(xué)計(jì)算社會(huì)科學(xué)與國(guó)家治理實(shí)驗(yàn)室執(zhí)行主任孟慶國(guó)指出，政務(wù)大模型的應(yīng)用仍存在諸多潛在的風(fēng)險(xiǎn)，如語(yǔ)料數(shù)據(jù)層面的偏見與污染、模型生成層面的“幻覺”問(wèn)題，及應(yīng)用層面可能引發(fā)的政務(wù)服務(wù)偏差。

　　孟慶國(guó)表示，需構(gòu)建覆蓋數(shù)據(jù)、模型、應(yīng)用全鏈路的政務(wù)大模型內(nèi)容安全治理體系，實(shí)現(xiàn)模型價(jià)值取向與政府服務(wù)價(jià)值觀的“對(duì)齊”，發(fā)揮政務(wù)大模型提升政府治理效能、優(yōu)化公共服務(wù)的作用。

　　安恒信息首席技術(shù)官劉博表示，數(shù)據(jù)合規(guī)是門檻，通過(guò)基礎(chǔ)設(shè)施讓高質(zhì)量數(shù)據(jù)“出得來(lái)”、通過(guò)動(dòng)態(tài)安全體系讓數(shù)據(jù)“流得穩(wěn)”，才能真正激活埋藏在水面之下的高質(zhì)量數(shù)據(jù)集，釋放其作為AI燃料的潛能。

　　算力安全同樣不可或缺。海光信息科技股份有限公司副總裁應(yīng)志偉指出，傳統(tǒng)安全軟件在AI大模型時(shí)代，無(wú)法抵御AI降維攻擊與底層硬件風(fēng)險(xiǎn)；底層算力安全已成行業(yè)底線，把安全能力刻進(jìn)芯片，才能筑牢AI時(shí)代的可信根基。(完)