纽约市议会议长当场质询马斯克AI公司：Grok生成本人不当图像，AI安全问题引发争议

发贴员

纽约市议会10月16日举行人工智能安全听证会，市议会议长Julie Menin当场展示一张据称由马斯克旗下人工智能聊天机器人Grok生成的本人性化图像，质疑科技公司是否真正落实防止滥用人工智能的安全措施。

此次听证会由纽约市议会技术委员会举行，SpaceXAI公司代表出席接受质询。由于该公司此前未按要求参加听证会，纽约市议会曾发出传票，要求其正式回应有关人工智能安全、隐私保护及公众权益的问题。

一、市议会议长现场展示AI生成的不当图像

在10月16日举行的听证会上，纽约市议会议长Julie Menin向SpaceXAI公司代表提出尖锐质疑。

Menin表示，当天早上，她与工作人员使用Grok人工智能工具输入自己的姓名，短短几十秒内便获得了一张带有性化内容的本人图像。

她在现场展示手机中的图片，并质疑公司代表此前声称Grok已经设置严格安全限制的说法。

Menin指出，如果连纽约市议会议长的肖像都可能被用于生成不当内容，那么普通女性及其他公众人物同样可能面临类似风险。

她认为，人工智能企业必须说明其安全机制为何未能有效阻止此类情况。

二、SpaceXAI公司代表回应质疑

当天代表SpaceXAI出席听证会的是全球政府事务高级经理Gabriela Castillo Madrid。

面对议长质询，她表示，公司已经制定严格政策，禁止利用Grok生成涉及儿童性剥削或未经同意的真实人物性化内容。

她强调，公司设有安全措施，并会对涉嫌违法或违反政策的行为采取处理行动。

不过，对于Menin现场展示的具体图像，Castillo Madrid表示无法立即解释原因，但可以要求公司安全团队进一步调查。

这一回应未能消除议员们对平台安全机制的疑虑。

三、公司此前缺席听证会，市议会发出传票

这次听证会并非纽约市议会首次邀请大型人工智能企业讨论安全问题。

10月5日，纽约市议会曾举行持续近10小时的人工智能安全听证会。

包括OpenAI、Google、Meta及Anthropic在内的多家科技公司派出代表出席。

然而，SpaceXAI未按要求参加。

纽约市议会早在9月28日便向该公司发出传票，要求其到场作证。

在公司未出席10月5日听证会后，市议会表示准备通过纽约州最高法院寻求强制执行传票。

经过进一步沟通，SpaceXAI最终同意于10月16日派代表出席。

四、前员工指控公司AI安全人员不足

除了不当图像问题，听证会还涉及人工智能企业内部的安全管理制度。

一名曾在SpaceXAI工作的举报人Devin Kim表示，自己曾因提出Grok安全问题而遭到解雇。

Kim声称，在其任职期间，公司约200名技术员工中，只有3人从事人工智能安全训练相关工作。

这一说法属于举报人的个人指控，尚不能直接视为已经独立证实的公司现状。

面对议员询问，SpaceXAI代表表示，她此前并不了解Kim所描述的解雇情况。

纽约市议会认为，人工智能企业除了需要建立安全技术措施，也应保障员工提出风险问题的渠道。

五、纽约市考虑加强AI生成内容监管

随着人工智能生成图片、视频和声音的能力不断提高，纽约市议会正在研究新的监管措施。

其中一项名为Intro 504的提案，拟限制未经授权使用人工智能制作民选官员的图像、视频或音频内容。

支持者认为，AI生成内容可能使公众误以为某些人物说过或做过实际上并未发生的事情，从而影响公众信任。

不过，相关提案仍处于立法讨论阶段，尚未成为正式法律。

此外，市议会议长Menin还提出Intro 2605法案，希望通过经济奖励机制，鼓励知情人士举报人工智能企业涉嫌违法的行为。

根据提案，符合条件的举报人可能获得政府追回罚款或处罚金额的一部分。

六、AI换脸及虚假图像可能影响普通纽约居民

人工智能生成不当图像的问题，不仅涉及政治人物和公众人物，也可能影响普通居民。

例如，有人可能未经当事人同意，使用社交媒体公开照片制作虚假的亲密图像，再通过网络传播，造成骚扰、名誉损害或其他伤害。

对于纽约华人社区而言，随着越来越多居民使用人工智能制作短视频、商业广告、人物照片及网络宣传内容，也需要了解相关风险。

使用AI工具制作人物图像时，应尊重当事人的肖像权、隐私及个人意愿。

如果发现自己的照片被恶意修改或传播，应及时保存网页地址、截图及相关证据，并向平台举报。

涉及威胁、勒索或其他涉嫌犯罪行为时，可以向警方寻求帮助。

七、纽约市议会将继续推动AI安全规则

纽约市议会议长Menin表示，此次听证会显示，科技公司仍需要就人工智能安全问题提供更加明确的解释。

市议会技术委员会主席Carmen De La Rosa也表示，将继续关注用户隐私、网络骚扰、企业内部举报人保护及人工智能技术滥用问题。

未来，纽约市议会可能继续举行相关听证会，并推动新的人工智能安全立法。

此次事件再次反映，人工智能技术快速发展的同时，如何保护公众隐私、防止虚假图像传播，以及明确科技公司的责任，正成为纽约社会关注的重要议题。