埃隆·马斯克的Grok AI：借助惊人深度伪造技术再现特朗普与泰勒·斯威夫特，引发版权侵犯讨论及内容审核挑战

Grok AI 聊天机器人引发争议：深度伪造图像挑战道德底线

自从埃隆·马斯克旗下的 Grok AI 聊天机器人发布以来，互联网上出现了一系列令人震惊的“深度伪造”图像。这些图像不仅包括政治人物如唐纳德·特朗普参与各类虚构场景的照片，还有许多涉及名人、甚至儿童不宜的内容，引发了广泛的担忧和批评。

深度伪造图像背后的道德与法律问题

自从上周发布以来，Grok 的用户已经生成了许多虚假的特朗普图像，其中包括他在便利店抢劫的场景、驾驶飞机冲向双子塔的画面等。此外，还有其他一些令人不安的图像，比如卡玛拉·哈里斯怀孕、马斯克变成肥胖的宅男，以及前总统乔治·W·布什涉嫌吸毒等情节。这些图像不仅在道德层面上引起争议，也触及了版权侵权等问题。

批评声浪与潜在风险

批评者指出，马斯克和 X 平台允许聊天机器人在几乎无限制的情况下运行，这带来了从误导信息传播到版权侵犯、甚至是危害儿童安全的风险。哈佛大学法学院的讲师阿莱杭德拉·卡拉巴略称这款软件是“最鲁莽和不负责任的 AI 应用之一”。

马斯克的态度与回应

面对争议，马斯克似乎并不以为意，甚至在社交媒体上表达了他对这款聊天机器人的喜爱之情。他声称 Grok 是“世界上最有趣的 AI”，并认为这是让人们享受乐趣的一个好方式。尽管如此，Grok 似乎还是设置了一些基本的限制，例如拒绝生成裸体图像或某些暴力场景。

绕过限制的尝试

然而，一些用户已经找到了绕过现有限制的方法，例如生成带有纳粹标志的米奇老鼠、特朗普和马斯克的形象。这表明尽管有一些限制措施，但仍然存在很大的滥用空间。

行业内的反响与教训

Grok 的发布并非首例引发争议的人工智能案例。此前，谷歌的 Gemini 聊天机器人也曾因生成不准确的历史图像而受到批评。此外，音乐家、作家和内容创作者们正发起一系列法律诉讼，指责人工智能公司在未经授权的情况下使用受版权保护的内容来训练他们的聊天机器人。

对企业的影响与未来展望

Grok AI 图像生成器目前仅对 X 平台的付费订阅用户开放，这可能会加剧马斯克与企业广告商之间的紧张关系。自马斯克收购该公司以来，由于担忧内容审核不足，X 平台的广告收入已显著下滑。这一事件也可能导致欧洲监管机构加强对马斯克及其公司的审查力度。

本文来源： 站长之家【阅读原文】