AI聊天機(jī)器人“格羅克”被濫用生成非法圖像，引發(fā)多國(guó)采取法律行動(dòng)——

　　生成式人工智能監(jiān)管迫在眉睫

　　近期，一場(chǎng)由人工智能應(yīng)用引發(fā)的跨國(guó)監(jiān)管風(fēng)波驟然升級(jí)。美國(guó)企業(yè)家埃隆·馬斯克旗下社交媒體平臺(tái)X內(nèi)置的人工智能聊天機(jī)器人“格羅克”(Grok)，因被濫用于生成色情內(nèi)容、偽造真實(shí)人物的性暴露內(nèi)容，引發(fā)多國(guó)政府采取法律行動(dòng)。

　　馬來(lái)西亞通信和多媒體委員會(huì)1月13日表示，“格羅克”所生成的內(nèi)容違反馬來(lái)西亞網(wǎng)絡(luò)安全相關(guān)法律規(guī)定，將對(duì)X平臺(tái)采取法律行動(dòng)。

　　英國(guó)通信管理局此前一天也發(fā)表聲明說(shuō)，已根據(jù)英國(guó)《在線安全法》對(duì)社交媒體平臺(tái)X展開(kāi)正式調(diào)查。英國(guó)科學(xué)、創(chuàng)新和技術(shù)大臣莉茲·肯德?tīng)柸涨靶?，英?guó)《數(shù)據(jù)法案》相關(guān)條款將于本周生效，未經(jīng)同意制作或?qū)で笾谱魉矫軋D像，并在X等社交媒體平臺(tái)上發(fā)布此類內(nèi)容均構(gòu)成刑事犯罪。

　　而在更早以前，歐盟委員會(huì)已表示將嚴(yán)肅調(diào)查針對(duì)“格羅克”的相關(guān)投訴，并責(zé)令X平臺(tái)保留所有“格羅克”相關(guān)內(nèi)部數(shù)據(jù)直至2026年底，為潛在法律行動(dòng)留存證據(jù)。印度尼西亞已宣布暫時(shí)封禁“格羅克”，法國(guó)也對(duì)“格羅克”涉嫌生成非法色情內(nèi)容啟動(dòng)調(diào)查。

　　“格羅克”由馬斯克旗下人工智能企業(yè)xAI公司開(kāi)發(fā)，并內(nèi)置于社交媒體平臺(tái)X。2025年8月，xAI公司為“格羅克”推出圖像生成功能Grok Imagine，允許用戶通過(guò)文本提示創(chuàng)建圖片和視頻，這一功能的開(kāi)放也為生成式人工智能技術(shù)濫用埋下隱患。與此同時(shí)，馬斯克團(tuán)隊(duì)將“格羅克”標(biāo)榜為“更前衛(wèi)”的產(chǎn)品，相應(yīng)弱化其安全防護(hù)機(jī)制，進(jìn)一步加劇了風(fēng)險(xiǎn)敞口。

　　2025年底，X平臺(tái)擴(kuò)展了“格羅克”的圖像編輯能力，用戶可以上傳照片或在帖子中引用已有圖片，并利用“格羅克”對(duì)其修改。隨后，大量用戶未經(jīng)當(dāng)事人同意，利用該功能生成涉及女性和未成年人的偽造性暴露內(nèi)容，并通過(guò)X平臺(tái)傳播。這一趨勢(shì)的迅速蔓延，讓生成式人工智能技術(shù)造假問(wèn)題全面發(fā)酵。據(jù)統(tǒng)計(jì)，僅2026年1月第一周，“格羅克”便在未經(jīng)授權(quán)的情況下生成了約16萬(wàn)張性暴露圖片，受害者涵蓋數(shù)百名成年女性和未成年人。

　　“格羅克”的大規(guī)模應(yīng)用失控，迅速引發(fā)公眾輿論和多國(guó)政府強(qiáng)烈譴責(zé)。馬來(lái)西亞通信和多媒體委員會(huì)兩次向X平臺(tái)及xAI公司發(fā)出整改通知，要求建立有效技術(shù)防護(hù)和內(nèi)容審核機(jī)制。印度尼西亞方面亦要求X平臺(tái)就“格羅克”所引發(fā)的負(fù)面影響作出說(shuō)明。然而馬斯克及其團(tuán)隊(duì)僅表示將刪除非法內(nèi)容，永久封禁相關(guān)賬戶，并在必要時(shí)與地方政府和執(zhí)法部門合作，而未對(duì)如何化解“格羅克”設(shè)計(jì)和運(yùn)行層面的固有風(fēng)險(xiǎn)作出充分回應(yīng)。

　　截至上周末，“格羅克”在X平臺(tái)上的圖像生成和編輯功能已被更改為僅向平臺(tái)付費(fèi)用戶開(kāi)放。英國(guó)政府對(duì)此批評(píng)稱，此舉無(wú)異于將創(chuàng)建非法圖像的功能轉(zhuǎn)變?yōu)橐豁?xiàng)高級(jí)服務(wù)，對(duì)受害者造成二次傷害。

　　在這一事件中，人工智能技術(shù)被用于生成深度偽造內(nèi)容，并帶來(lái)了巨大的社會(huì)撕裂與法律挑戰(zhàn)。有分析人士認(rèn)為，該事件再次表明，全球范圍內(nèi)對(duì)人工智能技術(shù)實(shí)施有效監(jiān)管已十分緊迫。

　　中國(guó)現(xiàn)代國(guó)際關(guān)系研究院科技與網(wǎng)絡(luò)安全研究所所長(zhǎng)李艷在接受記者采訪時(shí)表示，“格羅克”風(fēng)波正促使各國(guó)更清晰地意識(shí)到生成式人工智能的風(fēng)險(xiǎn)，及其可能帶來(lái)的危害性后果。她認(rèn)為，隨著人工智能技術(shù)進(jìn)步，加速形成人工智能監(jiān)管共識(shí)、不斷調(diào)整和完善法律體系與監(jiān)管機(jī)制，將成為國(guó)際社會(huì)的共同趨勢(shì)。

　　世界經(jīng)濟(jì)論壇日前發(fā)布的《2026年全球網(wǎng)絡(luò)安全展望》報(bào)告顯示，生成式人工智能技術(shù)導(dǎo)致的數(shù)據(jù)泄露與不斷演化的網(wǎng)絡(luò)攻擊能力，已成為業(yè)界在2026年最關(guān)切的兩大威脅。報(bào)告警示，這一巨大風(fēng)險(xiǎn)正將人工智能技術(shù)提供方的責(zé)任推向焦點(diǎn)。

　　“當(dāng)前生成式人工智能模型本身的幻覺(jué)問(wèn)題還難以徹底解決，外加一些惡意使用，此類問(wèn)題無(wú)法絕對(duì)避免?！崩钇G強(qiáng)調(diào)，人工智能模型和應(yīng)用提供方有責(zé)任和義務(wù)設(shè)置“安全圍欄”，比如在內(nèi)容生成環(huán)節(jié)部署提示詞過(guò)濾與攔截等技術(shù)手段，將侵害風(fēng)險(xiǎn)控制到最低，并繃緊合規(guī)之弦，確保服務(wù)適配當(dāng)?shù)胤煞ㄒ?guī)、政策要求與文化習(xí)俗；而產(chǎn)品應(yīng)用方在向公眾提供服務(wù)時(shí)，也要做好實(shí)時(shí)安全監(jiān)測(cè)，建立有效的事后應(yīng)急機(jī)制，合力將技術(shù)應(yīng)用中的不可控因素降至最低限度。(工人日?qǐng)?bào) 記者 莫蕎菲)