Emma McGowan 2024年1月30日

在泰勒斯威夫特的 AI 生成色情图像在 X 上走红后，我们不禁要问：这对 AI 的未来意味著什么？

最近，一个令人不安的事件出现，AI 生成的著名歌手泰勒斯威夫特的露骨图像在 X前身为 Twitter上狂潮汹涌，揭示了 AI 能力的黑暗面。这些图像被认为是使用 Microsoft Designer 创建的，迅速引起广泛关注，突显出 AI 生成假色情内容的日益严峻挑战。

随著这些图像在平台上迅速传播，此事件不仅引发了粉丝和隐私维护者的愤慨，还提出了关于 AI 在媒体创作中的伦理使用的重要问题。

Avast 威胁情报主任米哈尔萨拉特 (Michal Salt) 在这一及时讨论中带来了丰富的知识和专业。他对技术、安全和伦理的交集有敏锐的眼光，提供了对 AI 生成内容影响的深刻见解。

在接下来的部分中，我们将探讨他的观点，从图像操控的历史平行、AI 能力带来的伦理困境，以及在我们日益 AI 驱动的世界中对数位信任和安全的更广泛影响。

假色情内容并不是一个新问题

萨拉特将目前 AI 生成逼真图像的能力与过去使用 Photoshop 的情况作了对比。就像 Photoshop 曾彻底改变了图像操控，现在 AI 也使得创建逼真图像变得更加容易。然而，操纵图像的概念并不新鲜；AI 只是这场持续故事中的最新工具。

“从某种程度上来讲，这只是一种不同的照片编辑软件，”他解释道，强调操纵图像的概念已经存在了十多年。现在的关键差异在于 AI 技术带来的便利和可及性。这一转变引发了重要问题，即社会如何适应并监管这些新工具，这些工具使得创建逼真图像比以往任何时候都更加容易。

AI 与露骨内容的伦理困境

当前最重要的担忧之一是使用 AI 创建露骨图像的伦理影响，特别是未经当事人同意生成特定个体的图像。尽管创建一般的裸体图像可能不会引发太多的伦理问题，但问题的核心在于可以相对容易地生成可识别人物的露骨图像。

“AI 生成色情内容本身或许并没有什么固有的错误或伦理问题，”萨拉特说。“但对我来说，伦理问题在于，你可以相对轻松地生成带有已知或特定面孔的图像。”

这一能力不仅限于像泰勒斯威夫特这样的名人，还可能扩展到任何人，凸显了对伦理准则和立法的需求：所谓的“报复色情”或非自愿分享裸照在48个州是非法的，而目前 AI 生成的深伪色情在只有10个州被禁止，这一明显差异凸显了立法跟不上技术的需求。

AI 公司如何防止生成深伪色情？

或许因为生成性 AI 的访问相对较新，对于创建露骨内容而未经当事人同意的情况几乎没有保护措施。然而，萨拉特表示，对于 AI 公司来说，实施这些措施并不会太困难：只需不允许生成特定人物的图像或使用客户提交的图像作为素材，就能为大多数人提供足够的屏障。

“当然，某些人可能会突破这些限制，迫使模型做它不应该做的事情，”萨拉特说。“我看待这一点的方式是，现在几乎不可能完全避免这种情况你只能使其变得更难。我想强调的是，提供这些服务的公司应该更努力地去避免这种情况。”

还有可能有人会自己创建一个不受限制的色情生成模型。然而，萨拉特指出，即使这是可能的，也需要大量的技术知识和大量的计算能力来实现。

“能够自己创建一个生成裸体的 AI 的人并不多，”萨拉特说，“因此，这更像是使用 Photoshop 需要具备一定技术水平才能做到的。”

萨拉特将当前 AI 发展的状态与安全行业的演变进行了比较。他观察到，我们正目睹安全行业“与 AI 的重新开始”。这一比较强调了将 AI 发展视为一个持续过程的重要性，在这个过程中，识别和修补漏洞是技术成熟的关键。

泰勒斯威夫特在 X 上的 AI 生成图像突显了负责任使用 AI 的重要性。随著 AI 的持续进步，平衡技术能力与伦理考量及安全措施将至关重要。通过向像米哈尔萨拉特这样的专家学习，并反思过去的挑战，我们可以以更知情和谨慎的方式导航这一复杂的环境。