泰勒斯威夫特的深度伪造色情影片并不是新鲜事但这并不意味着我们不应该对此感到担忧。

Emma McGowan 2024年1月30日

随著AI生成的泰勒斯威夫特色情图片在X平台上迅速走红，我们不禁要问：这对AI的未来意味著什么？

最近，AI生成的明确图片迅速在X前身为Twitter上掀起波澜，揭示了AI能力的阴暗面。这些图片据信是使用Microsoft Designer创建的，瞬间吸引了广泛关注，突显了AI生成假色情作品不断增长的挑战。

随著这些图片在平台上迅速传播，这一事件不仅引发了粉丝和隐私维权者的愤怒，还提出了关于AI在媒体创作中道德使用的关键问题。

Avast威胁情报总监Michal Salt带来了丰富的知识和专业，在这个重要的讨论中，他敏锐地聚焦于技术、安全和伦理的交汇点，提供了对AI生成内容影响的深刻见解。

在接下来的部分中，我们将深入探讨他的观点，探索影像操控的历史平行、AI能力提出的伦理困境，以及在这个日益受到AI驱动的世界中，数字信任与安全的更广泛影响。

假色情并不是新问题

Salt将当前AI生成栩栩如生图片的能力与过去Photoshop的使用进行了类比。正如Photoshop曾在多年以前彻底改变了影像操控，现在AI使得创建现实图片变得变得更加容易。然而，操控图片的概念并不新鲜；AI只是在这一持续故事中成为最新的工具。

“这在某种程度上只是另一种照片编辑软件，”他解释道，强调操控图片的概念在十多年来一直存在。如今的关键区别在于AI技术带来的便利性和可及性。这一变化引发了有关社会如何适应和规范这些新工具的重要问题，因为它们使得创造逼真的图片变得比以往任何时候都更容易。

AI与明确内容的伦理困境

当前最紧迫的担忧之一是使用AI生成明确图片的伦理意涵，尤其是针对特定个体且未经他们同意的情况。尽管生成一般裸体图片可能不会引发太多伦理问题，但真正的问题在于生成可识别个体的明确图片的难易程度。

“从本质上讲，AI生成色情并没有什么根本错误或伦理问题，”Salt说。“但我的伦理问题在于，你可以相对轻易地生成带有已知或特定面孔的图片。”

这种能力不仅延伸至像泰勒斯威夫特这样的名人，还可能涉及任何人，强调了对伦理指导方针和立法的需求：虽然所谓的“报复色情”或未经同意分享的裸体图片在48个州都是非法的，但AI生成的深伪色情目前仅在10个州被禁止。这一明显的差异强调了立法需要跟上技术的必要性。

AI公司如何防止深伪色情的生成？

也许由于生成性AI是相对较新的现象，围绕未经主体同意创建明确内容的防护措施相对较少。不过，Salt表示，对AI公司来说，实施这些防护措施并不会非常困难：例如，不允许生成特定人物的图片或使用用户提交的图片作为素材，便能为绝大多数人提供足够的障碍。

“当然，一些人可以突破这些限制，迫使模型做一些它不应该做的事情，”Salt说。“我看到的情况是，现在几乎不可能避免这一点你只能让它变得更难。我所要表达的观点是，提供这些服务的公司应该更加努力地避免出现这种情况。”

此外，也存在某人创建自己的无限制色情生成模型的可能性。不过，Salt指出，即使这是可能的，但需要大量的技术知识和计算能力。

“能够自己创建一个生成裸体图像的AI的人并不多，”Salt说。“因此，这更类似于使用Photoshop，你需要具备一定技能才能做到这一点。”

Salt将当前AI发展的状况与安全行业的演变进行了类比。他指出，我们见证著安全行业在AI面前“重新开始”。这一比较强调了将AI发展视为一个持续过程的重要性，在这一过程中，识别和修复漏洞是成熟技术的关键。

在X上的泰勒斯威夫特AI生成图片强调了负责任使用AI的重要性。随著AI的持续进步，平衡技术能力与伦理考量以及安全措施将变得至关重要。通过从专家如Michal Salt那里学习，并反思过去的挑战，我们可以以更具信息性和谨慎的方式导航这一复杂的领域。