繼 CyberQ 先前報導英國通訊管理局（Ofcom）依據《線上安全法》對社群平台 X 啟動調查後，X 平台所屬企業 xAI 日前做出具體回應。根據 BBC 最新消息，X 平台宣稱已實施一系列技術措施，包括地理封鎖與限制特定影像生成功能，試圖平息外界對於 Grok 聊天機器人遭到濫用，生成一堆非自願色情內容的疑慮。
禁止生成清涼照並實施地理封鎖
面對多國監管機構的強力施壓，X 平台表示目前已更新 Grok 的使用規則與技術護欄。最新的限制措施明確禁止了使用者對「真實人物」的照片進行衣著暴露這類的不當操作，例如將正常的人像強制修改為穿著比基尼或內衣的深偽影像。
值得注意的是，這項禁令並非全球統一標準，而是採取「地理封鎖」策略。X 平台指出，這些限制措施僅在視非自願深偽影像為非法的司法管轄區內生效，這意味著平台將依據不同國家的法律規範來調整 AI 的功能權限，以符合當地的法規要求。
全面築起付費牆以利追究責任
除了內容審查，X 平台也調整了使用門檻。為了提高對濫用者的追蹤能力與責任追究可行性，Grok 的影像生成與編輯功能將不再對所有用戶開放。未來僅有付費訂閱的高級用戶才能使用這些工具。
X 平台認為，透過支付金流與實名驗證的連結，將能有效嚇阻惡意使用者利用匿名帳號大量製作違法內容。
實測顯示防護網仍有漏洞
儘管官方聲稱已採取行動，但根據實際測試顯示，即使在 X 平台宣稱新增上述限制後，部分獨立運作的 Grok 應用程式或網頁版介面，在某些特定情況下仍能繞過檢測，成功生成不當內容。
這顯示出 xAI 目前的過濾機制仍無法做到滴水不漏，特定提示詞或操作手法仍可能突破防線。
加州加入調查行列 監管力道持續增強
CyberQ 觀察，儘管 X 平台已提出補救措施，但並未讓監管風暴就此停歇。除了英國 Ofcom 表示將持續深入調查外，根據之前 The Guardian 的報導，美國加州檢察總長也對 xAI 展開了獨立調查，審視該企業是否有違反加州法律，特別是在處理兒童與非自願成人色情影像的議題上，甚至加州州長也公開抨擊。
這也意味著，僅靠事後的補救措施並不足夠。AI 科技大廠必須為產品發布前缺乏周全風險評估所造成的後果負責，並直接面對因此衍生的法律挑戰。
首圖由 Nano Banana AI 生成
