泰勒斯威夫特的深伪色情影片并不新鲜，但这并不意味著我们不需要担心。
Emma McGowan 2024年1月30日
在泰勒斯威夫特的由AI生成的色情图片在X前身为Twitter上疯传后，我们不禁思考：这对AI未来意味著什么？
最近令人不安的事件中，AI生成的明确图片迅速在X上流传，这展示了AI能力的阴暗面。这些图片被认为是使用微软设计工具创造的，广受关注，突显了AI生成虚假色情内容日益严重的挑战。
随著图片迅速在平台上扩散，这一事件不仅引发了粉丝和隐私倡导者的愤怒，还提出了关于AI在媒体创作中的伦理使用的关键问题。
Avast的威胁情报总监Michal Salt在这场及时的讨论中带来了丰富的知识和专业见解。Salt专注于技术、安全和伦理的交集，对AI生成内容的影响提供了深刻的见解。
接下来的部分，我们将深入探讨他的见解，探讨影像操控的历史类比、AI能力所带来的伦理困境，以及在日益由AI驱动的世界中的数字信任和安全的更广泛影响。
虚假色情并不是新问题
Salt将目前AI生成逼真图片的能力与过去的Photoshop使用进行了比较。就像Photoshop革命性地改变了影像操控，AI现在也极大地简化了创造现实图片的过程。然而，操控图片的概念并不新鲜；AI只是这个持续故事中的最新工具。
“某种程度上这只是一种不同的照片编辑软件。”他解释道，强调操控图片的概念在一十多年来一直都是一个问题。现在的关键区别在于AI技术带来的便利与可及性。这种转变引发了关于社会如何适应和规范这些新工具的重要问题，这些工具使创造逼真图片变得比以往任何时候都更加容易。
AI与明确内容的伦理困境
当前最紧迫的问题之一是使用AI生成明确图片的伦理影响，尤其是针对特定个体且未经其同意时。虽然生成一般的裸露图片可能不会引发那么多伦理问题，但实际的问题在于针对可识别人物生成明确图片的便利性。
“AI生成的色情图片本身或许从根本上没有什么不对或伦理上有问题的地方。”Salt说。“但至少对我而言，伦理问题在于你可以相对容易地生成一张有已知或特定面孔的图片。”
这种能力不仅限于像泰勒斯威夫特这样的名人，还可能扩展到任何人，这突显了建立伦理准则和立法的必要性：虽然所谓的“报复色情”或未经同意分享裸体在48个州是非法的，但AI生成的深伪色情目前仅在10个州被禁止。这突显了立法跟不上技术的迫切需求。
海鸥加速器免费AI公司如何防止创造深伪色情？
由于生成性AI的使用相对较新，对于未经受害者同意创造明确内容的行为几乎没有约束。Salt表示，然而，对于AI公司来说，实施这些法规并不会太困难：像不允许针对特定人生成图片或不使用客户提交的图片作为素材这样简单的做法，就能为绝大多数人提供足够的屏障。
“当然，有些人会找到方法来打破这些限制，逼迫模型做一些它不应该做的事情。”Salt说。“我认为，目前几乎不可能完全避免这种情况你只能让它变得更难。我想表达的观点是，提供这些服务的公司应该更努力地避免这种情况。”
另外，也有可能有人自己创建不受限制的色情生成模型。Salt指出，尽管这是可能的，但实施起来需要大量的技术知识和大量的计算能力。
“没有很多人能够自己创建生成裸露图片的AI。”Salt说。“所以，这更像是使用Photoshop，你需要具备一定的技能才能做到这一点。”
Salt将当前的AI发展状态与安全行业的演变进行了比较。他指出，我们正目睹安全行业在“重启”AI的过程。这一比较强调了将AI发展视为一个持续过程的重要性，其中识别和修复漏洞是技术成熟的关键。
泰勒斯威夫特在X上生成的AI图片强调了负责任使用AI的重要性。随著AI的不断进步，平衡技术能力与伦理考量和安全措施将成为关键。通过向像Michal Salt这样的专家学习，并反思过去的挑战，我们可以更有见地和谨慎地应对这一复杂的环境。