.png?width=48&height=48&name=image%20(3).png)
](https://blog.avast.com/author/emma-mcgowan) 2024年1月30日
在AI生成的泰勒·斯威夫特色情图片在X平台上疯传后，我们不禁要问：这对AI的未来意味著什么？
近日，AI生成的在X（前身为Twitter）上广为流传，揭示了AI能力的阴暗面。这些图片被认为是使用微软设计工具创作的，并引起了广泛关注，突显出AI生成虚假色情作品日益增长的挑战。
随著这些图片迅速在平台上扩散，事件不仅引发了粉丝和隐私倡导者的愤怒，还提出了有关AI在媒体创作中伦理使用的关键问题。
Avast威胁情报总监米哈尔·萨拉特为这一及时的讨论带来了丰富的知识和专业观点。萨拉特专注于技术、安全和伦理的交集，为AI生成内容的影响提供了细致入微的视角。
在接下来的部分中，我们将深入探讨他的见解，研究图像操纵的历史平行、AI能力所呈现的伦理困境，以及在这个日益受AI驱动的世界中对数位信任和安全的更广泛影响。
假色情并不是新问题
萨拉特将当前AI生成逼真图片的能力，与过去使用Photoshop进行的图片编辑进行了比较。正如Photoshop曾经革新了图片操纵，AI现在使创造现实图像变得更为容易。然而，操纵图像的概念并不新鲜；AI只是这个持续故事中的最新工具。
“这在某种程度上只是一种不同的照片编辑软件，”他解释道，强调操纵图像的概念数十年来一直备受关注。现在的主要区别在于AI技术所带来的便利性和可接触性，这一变化引发了社会如何适应和规范这些新工具的重要问题，这些工具使得创造逼真图片变得前所未有的简单。
AI与明确内容的伦理困境
最紧迫的问题之一是使用AI生成特定个体明确图片的伦理含义，尤其是在未经当事人同意的情况下。尽管生成一般的裸体图片可能不会引发太多伦理问题，但当涉及到容易识别特定人物的明确图片时，真正的问题就出现了。
“AI生成的色情作品本身并没有什么内在的不当或伦理问题，”萨拉特表示。“但对我来说，伦理问题在于你可以相对轻易地生成一张带有已知或特定面孔的图片。”
这种能力不仅限于像泰勒·斯威夫特这样的名人，而是潜在地适用于任何人，突显出需要制定伦理指导方针和立法的必要性：虽然所谓的「复仇色情」（或非自愿分享裸体图片）在48个州是，AI生成的深度伪造色情作品目前
AI公司如何防止生成深度伪造色情？
也许由于生成性AI的访问还较为新颖，对于未经当事人同意的明确内容创作几乎没有防护措施。然而，萨拉特指出，实施这些措施对AI公司来说并不会特别困难：像不允许生成特定人物的图片或不使用客户提交的图片作为素材这样简单的措施，就可以为大多数人提供足够的屏障。
“当然，某些人仍能突破这些限制，迫使模型做不该做的事，”萨拉特说。“在我看来，目前几乎不可能完全避免这种情况，只能让其变得更难。我想要表达的观点是，提供这些服务的公司应该更加努力以避免这种情况发生。”
还有可能有人创建自己的无限制色情生成模型。萨拉特指出，尽管这是可能的，但需要_大量_技术知识和_相当_的计算能力来实现。
“能够自行创建生成裸体图片的AI的人并不多，”萨拉特说。“因此，这更像是使用Photoshop，你需要具备一定技巧才能做到。”
萨拉特将当前AI开发的状态与安全产业的演变进行了比较。他观察到，安全行业“正在AI的驱动下重新起步”。这一比较强调了将AI开发视为一个持续进程的重要性，识别和修复漏洞是该技术成熟的关键。
在X平台上出现的泰勒·斯威夫特的AI生成图片突显了负责任使用AI的重要性。随著AI技术的持续进步，平衡技术能力与伦理考量和安全措施将是至关重要的。透过向米哈尔·萨拉特等专家学习并反思过去的挑战，我们可以以更明智和谨慎的方法应对这一复杂的领域。
