2026年11月11日，彭博社报道，多名未成年受害者正就 Grok 被用于把普通照片篡改成儿童性虐待材料，对马斯克旗下 xAI 提起多起集体诉讼。律师估计，符合索赔条件的受害者可能多达数千人。这场诉讼把一个悬而未决的问题推到台前：聊天机器人生成侵害他人的内容时，责任该由用户承担，还是开发公司承担？
诉讼来自哪里
诉讼来自美国多地。今年 3 月，田纳西州多名未成年人起诉 xAI，指控有人用 Grok 移除她们照片里的衣物、或把她们合成进露骨姿势，照片来源包括毕业年鉴与 Instagram；诉状随后修订，加入更多受害者，其中包括化名“简·多伊 5 号”的威斯康星州原告。夏天，阿肯色州多名未成年人及父母以类似理由起诉；8 月，一名加州幸存者提起全国范围集体诉讼，称 Grok 的训练数据中含有她学龄前遭侵害的图片，模型又以此为基础生成了更多相关内容。原告中有人年仅 6 岁；代理律师安妮卡·马丁表示，无法确定还有多少图片在网上传播，受害者出现焦虑、抑郁甚至自杀念头。
xAI 怎么回应
xAI 以诉讼尚未结束为由拒绝置评。公司表示，与 OpenAI、Anthropic、Meta 一样，它严格禁止用户用聊天机器人制作此类图像，并采取了技术措施加以防范；马斯克则把责任归于用户，称 Grok 不会自发生成图片，只有在用户提出要求时才会生成。但批评指向产品定位：Grok 设有主打大胆内容的“Spicy”模式，马斯克也曾鼓励用户用它生成色情内容。今年 1 月，X 把图片生成功能改为付费用户专享，xAI 称已关闭为真实人物生成未经同意的性化图片的能力；9 月，X 表示会把此类内容上报美国国家失踪与受虐儿童中心。与此同时，xAI 今年夏天起诉明尼苏达州，反对该州一项处罚此类图像处理行为的法律，称其违反美国宪法第一修正案。
原告依据实施数十年的联邦“玛莎法案”索赔，该法允许儿童性剥削受害者寻求赔偿；美国《通信规范法》第 230 条也可能成为焦点——该法通常让平台免于为用户内容担责，但原告律师认为，Grok 自己生成了非法内容，第 230 条不应成为挡箭牌。今年早些时候，美国 35 个州的两党州检察长已联名致信 xAI 要求采取更多措施，多国监管机构也在调查；但截至目前，相关调查尚未带来重大罚款或实质性处罚，部分国家则暂时封禁或限制了该服务。案件的走向将决定：AI 公司要为模型“动手生成”的内容负多大责任。
