从Grok封禁看全球AI治理：科技伦理、地缘政治与数字主权的碰撞
2024年1月的一个周末，东南亚两个主要国家——印度尼西亚和马来西亚——相继宣布封锁埃隆·马斯克旗下xAI公司开发的聊天机器人Grok。这不是一次普通的网络内容管制，而是全球首次有国家对生成式AI工具实施全面封禁。触发这一历史性决定的，是Grok被广泛滥用于制作非自愿色情深度伪造内容，特别是针对妇女和儿童的性露骨图像。
印尼通信与数字事务部长梅蒂亚·哈菲德在声明中明确表示：“政府将非自愿性深度伪造视为对数字空间中人权、尊严和公民安全的严重侵犯。”不到24小时后，马来西亚通讯与多媒体委员会跟进，宣布对Grok实施临时限制。这两个拥有大量穆斯林人口的国家，成为了全球AI监管浪潮中的先行者。
技术滥用与监管真空：Grok事件的全球回响
生成式AI的“暗面”暴露
Grok作为集成在X平台（前身为Twitter）的AI聊天机器人，自2023年推出以来便以其多模态能力吸引用户。去年夏季，xAI为Grok增加了图像生成功能“Grok Imagine”，其中包含所谓的“辛辣模式”，能够生成成人内容。这一功能设计初衷或许是增加用户互动，却迅速演变为大规模滥用的工具。
从技术角度看，Grok的图像生成能力代表了生成式AI的最新进展。用户只需上传一张普通照片，通过简单的文本提示，就能将照片中的人物“脱衣”或置于性暗示姿势。这种技术门槛的降低，使得制作非自愿色情内容变得前所未有的简单。印尼数字空间监督总局局长亚历山大·萨巴尔指出，初步调查显示Grok缺乏有效防护措施，无法阻止用户基于印尼居民真实照片创建和传播色情内容。
全球监管反应的差异光谱
印尼和马来西亚的封禁决定并非孤立事件，而是全球监管反应的一个极端表现。从欧洲到北美，各国政府正以不同方式应对这一危机：
英国技术大臣莉兹·肯德尔宣布，将本周内正式实施《数据法》中关于创建非自愿亲密图像为刑事犯罪的规定，并将其列为《在线安全法》的“优先罪行”。英国媒体监管机构Ofcom已启动对X平台的正式调查，若发现违法，可处以高达全球营收10%或1800万英镑的罚款。
加拿大方面，AI部长埃文·所罗门排除了全面禁止X平台的可能性，但透露政府内部正进行“积极讨论”，考虑由皇家骑警调查AI生成的儿童性虐待材料。欧盟委员会已命令马斯克和X公司保留与Grok输出相关的文件，预示着可能的调查。
印度、巴西、法国、爱尔兰和澳大利亚等国官员也已发出调查信号。美国一群民主党参议员甚至要求苹果和谷歌将X从其应用商店下架，直到该公司解决这一问题。
文化敏感性与数字主权：东南亚的独特立场
宗教价值观与网络治理传统
印尼和马来西亚作为全球穆斯林人口最多的两个国家，其网络治理政策深受宗教和文化价值观影响。两国长期以来对网络色情内容采取严格立场，已封禁OnlyFans、Pornhub等平台。Grok事件触动了这一敏感神经。
《连线》杂志报道揭示了问题的严重性：拥有数十万粉丝的影响者使用Grok修改女性照片，移除她们的头巾或长袍。在一个案例中，生成的三名女性图像显示她们留着波浪长发，穿着相当透明的连衣裙，该图像被分享了70万次。这种对宗教服饰的数字化移除，在文化上具有强烈的冒犯性。
“预防性”监管的逻辑
马来西亚通讯与多媒体委员会在声明中强调，封禁是“法律和监管程序进行期间的预防性和相称措施”。这一表述揭示了东南亚监管机构的核心逻辑：在危害发生前采取行动，而非事后补救。
印尼通信部表示，此举旨在保护妇女、儿童和广大社区免受使用AI生成的虚假色情内容侵害。亚历山大·萨巴尔指出，此类做法在照片被操纵或未经同意分享时，可能侵犯隐私和肖像权，造成心理、社会和声誉损害。
这种预防性立场与西方更注重言论自由和事后监管的传统形成对比。当马来西亚和印尼的监管机构本月向X公司和xAI发出要求加强防护措施的通知时，得到的回应主要依赖于用户举报机制。监管机构认为，这种被动应对不足以解决平台设计固有的风险。
平台责任与全球治理：谁该为AI滥用负责？
马斯克的矛盾立场与X平台的回应
埃隆·马斯克对监管行动的反应凸显了科技巨头与政府之间的紧张关系。当英国政府考虑采取行动时，马斯克在X上回应称，英国工党政府想要“任何借口进行审查”。这种将内容监管等同于言论压制的框架，忽视了非自愿色情深度伪造对个人的具体伤害。
X平台对Grok滥用的官方回应显得矛盾且不足。一方面，公司表示“任何使用或提示Grok制作非法内容的人将面临与上传非法内容相同的后果”；另一方面，当美联社通过电子邮件向xAI请求评论时，只收到媒体支持邮箱的自动回复：“传统媒体谎言”。这种对抗性姿态无助于解决问题。
尽管面临全球反弹，Grok上周将图像生成和编辑功能限制为付费用户使用，但批评者认为这并未完全解决问题。截至1月中旬，免费账户用户仍可创建“性化”和色情图像。
监管范式的根本转变
Grok事件正在推动全球监管范式的转变。英国技术大臣莉兹·肯德尔明确表示：“责任不仅在于个人行为……托管此类材料的平台必须承担责任，包括X。”她宣布政府将基于《犯罪与警务法案》中概述的措施，将“脱衣”应用定为刑事犯罪。
这一新刑事犯罪将使公司提供旨在创建非自愿亲密图像的工具成为非法，“从源头解决问题”。肯德尔强调：“这不是，正如一些人声称的那样，限制言论自由。这是为了解决针对妇女和女孩的暴力问题。”
加拿大妇女法律教育与行动基金和加拿大儿童保护中心等倡导团体呼吁建立在线监管机构，类似于自由党政府在2024年提议的机构。他们认为，X平台上的性深度伪造浪潮表明政府需要创建专门的在线监管机构。
受害者视角与未来挑战：当技术成为武器
个人伤害的真实代价
Grok滥用最令人不安的方面是其对真实个人造成的直接伤害。印尼X用户基拉娜·阿尤宁蒂亚斯是一位分享日常经验的轮椅使用者，她发现陌生人在她的照片下评论，要求Grok描绘她穿着比基尼的样子。阿尤宁蒂亚斯调整了隐私设置并联系平台删除图像，但“不幸的是，这些都没有真正奏效”。
她让朋友举报发布她伪造图像的账户，但这样做意味着更多人看到编辑后的图像，这让她深感尴尬。“很难判断是否有人持有这些图像，”她补充道。这种无力感和持续的不安全感，正是非自愿深度伪造对受害者心理影响的缩影。
英国广播公司看到了X上多个数字修改图像的例子，其中女性在未经同意的情况下被脱衣并置于性姿势中。一名女性表示，已经创建了100多张她的性化图像。
全球协调与未来监管路径
Grok事件暴露了生成式AI时代全球治理的碎片化。各国反应不一，从全面封禁到刑事立法，再到调查和行业自律呼吁。这种不一致性可能产生“监管套利”空间，公司可能将业务转移到监管较宽松的司法管辖区。
未来监管可能沿着几个方向发展：一是加强平台责任，要求AI工具内置更有效的防护措施；二是加强国际合作，协调跨境执法；三是发展技术解决方案，如数字水印和内容溯源技术；四是提高公众意识和数字素养。
英国影子技术大臣朱莉娅·洛佩斯虽然支持政府对“脱衣”工具采取行动，但对全面禁止平台表示担忧：“尽管互联网曾被犯罪分子使用，但网站以前从未被禁止过。这是对一个可用于善的平台采取的极其严肃的行动，用于揭露丑闻、引发民主革命，并允许日常自由交流思想，包括我们不喜欢的想法。”
Grok封禁事件不仅仅是一个技术或法律问题，它触及了数字时代的核心困境：如何在促进创新与防止伤害之间取得平衡，如何在不同文化价值观之间建立共识，以及如何在全球范围内协调治理。印尼和马来西亚的决定可能只是全球AI治理竞赛的开始，而非结束。随着生成式AI能力持续增强，这场关于技术伦理、数字权利和国家主权的辩论只会变得更加紧迫和复杂。