新華社洛杉磯1月14日電（記者譚晶晶）美國(guó)企業(yè)家埃隆·馬斯克旗下社交媒體平臺(tái)X14日宣布，不再允許其內(nèi)置的人工智能聊天機(jī)器人“格羅克”（Grok）生成基于真人的偽造性暴露圖像，該限令適用于包括付費(fèi)用戶在內(nèi)的所有用戶。

　　X平臺(tái)當(dāng)天發(fā)表聲明稱，對(duì)于任何形式涉及未成年人性侵害及未經(jīng)當(dāng)事人同意的裸露內(nèi)容等，X平臺(tái)實(shí)施“零容忍”政策，并將采取措施清除相關(guān)違規(guī)內(nèi)容，對(duì)違反平臺(tái)規(guī)則的賬號(hào)作出相應(yīng)處置。

　　當(dāng)日早些時(shí)候，美國(guó)加利福尼亞州總檢察長(zhǎng)羅布·邦塔的辦公室發(fā)布聲明，宣布已就馬斯克旗下人工智能企業(yè)xAI及其開(kāi)發(fā)的“格羅克”涉嫌生成并傳播違規(guī)內(nèi)容展開(kāi)調(diào)查。

　　邦塔在聲明中說(shuō)，近期大量舉報(bào)稱“格羅克”被用于生成涉及女性和未成年人的不雅、色情圖像，并在未經(jīng)當(dāng)事人知情或同意的情況下在互聯(lián)網(wǎng)上傳播，這類行為“令人震驚”，其辦公室將調(diào)查xAI是否以及如何違反相關(guān)法律，并敦促該公司立即采取措施，防止類似內(nèi)容繼續(xù)擴(kuò)散。

　　聲明說(shuō)，“格羅克”圖像生成模型包含所謂的“熱辣模式”，可生成露骨內(nèi)容，并被作為營(yíng)銷賣點(diǎn)之一。該功能被濫用，導(dǎo)致大量對(duì)真實(shí)人物進(jìn)行“脫衣”技術(shù)處理或置于暴露場(chǎng)景的深度偽造圖像在網(wǎng)絡(luò)上傳播，受害者既包括公眾人物，也包括普通社交媒體用戶。有媒體報(bào)道稱，“格羅克”被用于篡改兒童圖像，使其呈現(xiàn)性暗示或暴露場(chǎng)景，甚至生成高度逼真的兒童色情圖像。