埃隆?馬斯克旗下的 xAI 公司目前正面臨美國方面的調查，調查工作由加州州檢察長羅布?邦塔牽頭。此前，該公司開發(fā)的人工智能聊天機器人兼圖像生成工具 Grok，被曝可讓用戶大批量生成并發(fā)布基于真人照片的未經本人同意的露骨圖像。

　　據(jù)互聯(lián)網(wǎng)觀察基金會的調查顯示，在部分案例中，Grok 甚至能讓用戶生成虛擬脫衣效果的未成年人圖像。

　　邦塔在周三發(fā)布的一份聲明中指出：“xAI 公司似乎在為大規(guī)模生成未經同意的私密深度偽造圖像提供便利，這些圖像正被用于在互聯(lián)網(wǎng)上騷擾女性和女孩，社交平臺 X 也成為了傳播渠道之一?！?/p>

　　這位檢察長表示，其辦公室正就 “利用 Grok 制作的未經同意的性露骨內容的泛濫問題” 對 xAI 展開調查。

　　在美國啟動此次調查之前，印度、馬來西亞、印度尼西亞、愛爾蘭、英國、法國、澳大利亞等多個國家的政府機構已迅速采取行動，歐盟委員會也已對此事立案調查。

　　此前報道稱，馬來西亞和印度尼西亞已宣布暫停使用 xAI 旗下的 Grok 工具，直至相關問題得到解決。

　　在美國國內，三名民主黨籍參議員已聯(lián)名呼吁蘋果和谷歌兩家公司，要求其在應用商店下架社交平臺 X 及 Grok 的應用程序，直至 xAI 能夠采取有效措施，防止用戶輕易生成未經同意的露骨圖像以及涉及兒童性虐待的深度偽造圖像。

　　“紫外線” 組織、美國全國婦女組織、“家長聯(lián)合行動” 等多家維護婦女及兒童權益的倡導組織，也已呼吁應用商店下架 xAI 的相關應用。

　　蘋果和谷歌兩家公司均未對置評請求作出回應。

　　周二，美國參議院投票通過了《反深度偽造濫用法案》。根據(jù)該法案，被偽造為露骨深度偽造圖像且未經本人同意的受害者，有權在民事法庭起訴制作或傳播此類內容的公司。

　　該法案曾于 2024 年在參議院獲得通過，但尚未提交至眾議院審議表決。

　　周三，馬斯克在社交平臺 X 上發(fā)文稱，盡管已有多個政府機構就未成年人裸體深度偽造圖像問題對 xAI 進行質詢，但他 “并不知曉任何由 Grok 生成的相關圖像”。

　　馬斯克轉而將通過 Grok 和社交平臺 X 產生、傳播的潛在非法內容歸咎于 “用戶的相關請求”，并表示可能是 Grok 系統(tǒng)存在 “程序漏洞”。

　　此前，針對外界對 Grok 生成內容的擔憂情緒不斷升級，xAI 曾宣布將部分圖像生成和編輯功能僅限付費訂閱用戶使用。

　　馬斯克此前也曾在社交平臺 X 上表示，利用 Grok 制作非法內容的用戶，將面臨與直接在社交平臺 X 上傳此類內容同等的后果。

　　xAI 近期完成了一輪規(guī)模達 200 億美元的成長型融資，投資方包括英偉達、思科投資，以及長期支持馬斯克旗下企業(yè)的英勇股權合伙公司、基石集團、富達投資、卡塔爾投資局、阿布扎比 MGX 集團和巴倫資本集團。

　　目前，xAI 的多個數(shù)據(jù)中心正在田納西州孟菲斯市及其周邊地區(qū)建設；這家由馬斯克創(chuàng)立的人工智能及社交媒體企業(yè)，在內華達州注冊成立，總部位于加利福尼亞州帕洛阿爾托市，與馬斯克旗下電動汽車制造商特斯拉的工程辦公地點相鄰。

　　此外，特斯拉也已將 Grok 整合為旗下車輛信息娛樂系統(tǒng)的一項功能。