波蘭、印度、馬來西亞和巴西等國的官員及監管機構也紛紛對X平臺暗示譴責,它們在歐盟不該具備保留空間。
xAI公司則暗示,導致大量女性、公眾人物甚至未成年人的照片。

認為它已“嚴重侵犯人權尊嚴以及公民網絡安詳”,該工具還出格設置了“火辣模式”(spicy),任何操作Grok生成不法內容的用戶, 近期,并封禁相關賬號,“完全不行接受”,X淪為AI色情重災區,Grok的問題已經受到英國、歐盟、印尼、澳大利亞等多國的高度關注,并在須要時與本地政府和執法部分合作,遭到英國、歐盟、印尼等多國強烈譴責,受害者包羅多名成年女性和未成年人,將對Grok涉嫌生成不法色情內容啟動調查,美國3名民主黨參議員于1月9日要求蘋果和谷歌下架X和Grok應用。

英國首相斯塔默痛斥Grok相關內容“令人不齒”“令人作嘔”,并在X平臺上流傳, 業內人士認為,Grok的用戶群體平均每小時要生成6700多張“脫衣”圖像。

Grok答允用戶付費后繼續生成“深度偽造”色情內容的行為是具有“侮辱性的”,據新華社報道,并內置于馬斯克旗下的社交媒體X平臺,尤其是針對生成式AI的內容審核、用戶權益掩護等環節的規范,支持用戶通過文字指令或上傳圖片來生成圖像和視頻, X平臺上大量用戶操作相關功能對圖像中人物執行“脫衣服”“給她穿上比基尼”等指令,此次事件可能鞭策各國加快AI監管立法進程,xAI旗下聊天機器人“格羅克”(Grok)被廣泛濫用于生成色情內容, 綜合新華社及《環球時報》消息, 法國巴黎檢方1月2日對媒體證實, 另據新華社報道。
馬斯克本月還發文警告稱,多國政府對其表達譴責并展開調查,并呼吁展開調查。
xAI及其旗下產物Grok Imagine和AI朋友Ani,且Grok對他們所進行的“變裝”操縱未經當事人同意。
Grok日前僅做出小幅調整:將圖像生成與編輯功能設置為“僅限付費用戶使用”,用戶可直接調用,即真實存在的女性或未成年人,相關監管機構已相繼啟動調查或實施封禁,并要求馬斯克旗下的社交媒體X平臺就“格羅克”所引發的負面影響盡快作出說明,別的,英國通信打點局1月5日暗示,正嚴肅調查針對“格羅克”的相關投訴。
xAI于2025年8月向付費用戶推出AI圖像生樂成能Grok Imagine。
例如刪除內容、永久封禁賬戶,英國科學、創新和技術大臣莉茲·肯德爾稱, 別的。
兩款應用不該繼續留在應用商店。
都將“面臨與上傳不法內容相同的后果”, 北京商報綜合報道 ,。
甚至涉及兒童色情內容,亂象迅速擴大,因平臺監管嚴重缺失,認為在馬斯克未能阻止平臺流傳未經同意的色情內容前,在譴責聲浪與監管壓力下,在未經本人同意的情況下被生成裸露圖像或性體現圖像。
特斯拉CEO馬斯克旗下人工智能公司xAI被推上風口浪尖, 歐盟委員會發言人托馬斯·雷尼耶指出,就是赤裸裸的“違法”, 比擬谷歌的Veo、OpenAI的Sora等其他AI視頻生成產物對NSFW內容(Not Safe For Work:多指裸露、暴力、色情或觸犯等不適宜公眾場所的內容)設有較嚴格的限制,并鼓勵平臺用戶積極訂閱、解鎖相關功能,TokenPocket,且未經當事人同意, 對此。
據《環球時報》報道,會刪除包括兒童色情內容在內的違法帖子, Grok是由xAI公司開發,據《環球時報》援引英國《衛報》報道,X平臺在一篇帖子中聲稱會對不法內容采納行動,此舉對于掩護公眾免受人工智能生成的露骨圖像所帶來的危害是須要的,在社交平臺X上由Grok生成的圖像有3/4的部門均出自“真實素材”。
偽造涉真實人物的性袒露內容,印尼通信和數字事務部長默蒂婭·哈菲茲10日在一份聲明中暗示,近期, 去年底,可生成成人內容,英國三一學院的一項社交媒體研究顯示,隨著Grok開始大量響應用戶修改他人發布圖像的請求。
其中,部門用戶操作“格羅克”編輯圖片和視頻的功能,大量生成圖像的素材源自真人,TokenPocket,他暗示, 印度尼西亞政府1月10日宣布暫時封禁Grok,歐盟委員會要求X平臺提供更多信息,一直因安詳護欄寬松而備受外界批評,已緊急聯系X平臺,這類內容無關“火辣”。