Grok AI深伪涉黄 欧盟对马斯克旗下的X立案调查

欧盟委员会已就伊隆·马斯克（Elon Musk）旗下的X（前称Twitter，推特）展开调查，原因是外界忧虑其人工智能（AI）工具Grok被用来制作真实人物的性化影像。

在此之前，英国监管机构通讯管理局（Ofcom）于今年1月亦作出过类似宣布。

若该平台被裁定违反欧盟《数位服务法》（Digital Services Act）相关规定，欧盟委员会可对该公司处以最高相当于其全球全年营业额6%的罚款。

X的安全帐户早前曾发声明称，该社交媒体平台已在“相关内容属非法的司法管辖区”内，阻止Grok以数码方式修改人物照片以脱掉其衣物。

欧洲议会爱尔兰议员里吉娜·多赫蒂（Regina Doherty）表示，欧盟委员会将评估是否有向欧盟用户展示“经操纵的色情露骨影像”。

维权活动人士及受害者表示，该工具“根本不应该”具备生成色情图片的能力。Ofcom则称其调查将持续下去。

欧盟监管机构表示，若X拒绝作出具实质意义的调整，可能会对其“实施临时措施”。

该机构亦称，已扩大其于2023年12月启动的现有调查，该调查聚焦于X的推荐系统所带来的风险——即向用户推荐特定贴文的演算法。

在欧盟委员会宣布调查前，马斯克星期一（1月26日）在X上发布一张图片，似乎是在嘲讽围绕Grok的新限制。

这名X的东主过去曾批评审查该应用程式图像编辑功能的人士——特别是英国政府——称这是“想方设法找藉口来搞审查”。

星期日（25日），X上的Grok帐户声称，该工具在短短30天内生成了超过55亿张图片。

“不可接受的贬损形式”

针对该平台聊天机械人的其他调查亦正在澳洲、法国及德国进行中。

Grok一度在印尼及马来西亚被禁止使用，不过马来西亚现已解除禁令。

欧盟委员会技术主权、安全与民主事务执行副主席亨娜·维克库宁（Henna Virkkunen）形容这些色情深伪影像是“一种暴力、不可接受的贬损形式。”

她表示：“透过这次调查，我们将判断X是否履行了其在《数位服务法》下的法律义务，抑或是将欧洲公民的权利——包括妇女和儿童——视为其服务的附带损害。”

多赫蒂议员在发予路透社的声明中表示，对于X等平台是否履行其“妥善评估风险，并防止非法及有害内容扩散”的法律责任，存在“严重疑问”。

她说：“欧盟有明确的规则来保护网上使用者。”

“这些规则在实际运作中必须发挥作用，特别是在强大科技被大规模部署的情况下。”

“在欧盟营运的公司，没有任何一家可以凌驾于法律之上。”

“终止对妇女暴力联盟”（End Violence Against Women Coalition）总监安德烈亚·西蒙（Andrea Simon）对BBC表示，鉴于“生成式人工智能带来伤害的不断演变”，问责“不应只停留在”让X移除内容。

她补充说：“我们期望英国政府采取更多行动，确保科技平台不能从网络虐待中获利，例如进一步完善《网络安全法》（Online Safety Act），使其切合实际需要。”

此举距离欧盟因X的蓝剔认证标志而对其罚款1.2亿欧元（1.43亿美元；9.91亿元人民币；44.84亿元新台币）仅一个月。欧盟当时表示，该标志“误导用户”，因为该公司并未“实质核实”帐户背后的身分。

作为回应，美国国务卿马可·卢比奥（Marco Rubio，鲁比奥／鲁比欧）及联邦通讯委员会（FCC）指责欧盟监管机构攻击并审查美国企业。

卢比奥称：“欧盟委员会的罚款不仅是对X的攻击，也是外国政府对所有美国科技平台及美国人民的攻击。”

马斯克转载了这番言论，并补充称：“完全正确。”

快速指南：Grok

关于马斯克为X打造的AI聊天机械人

AI聊天机械人

Grok是由伊隆·马斯克旗下公司xAI所创建的人工智能（AI）聊天机械人。

该工具于2023年首次推出，可用于生成文字、图片及影片。使用者可透过Grok的网站及应用程式存取，并已整合至同样由马斯克拥有的社交媒体平台X。

叛逆特质

根据xAI的说法，Grok被设计成“在回答问题时带点机智，并具有叛逆性格”。

其开发团队表示，该聊天机械人利用X上分享的资讯，为用户提供“即时的世界知识”。不过，人权组织如国际特赦组织曾批评X放大仇恨言论及错误资讯。

图像生成功能

Grok的图像生成功能允许用户生成全新的AI图像，或修改现有图片。

有人开始使用该工具在未经同意的情况下替女性“脱衣”，并让她们摆出性姿势。亦有报道指，该工具被用来生成性化的儿童影像。

xAI的回应

由于Grok生成的性化影像，以及这些影像在社交媒体上被公开展示的方式，引发全球强烈反弹。当用户在X上以提示标注Grok时，该机械人会直接在平台上回覆其讯息。

作为回应，Grok告诉用户，“图像生成及编辑目前仅限付费用户使用”，并称用户“可透过订阅解锁这些功能”。

其后，该公司宣布已在相关内容属于非法的司法管辖区内，封锁用户编辑“真实人物穿着暴露服装”的影像。