← 为什么锡纸只有一面是亮的欧洲探测器即将前往木星卫星探寻生命迹象 →

17

用户在Reddit上销售AI裸照，而且还卖出去了

19岁的Claudia漂亮又性感。她也是100%的AI创作。

“女，19岁，今天感觉自己很美，”Claudia的帖子写道。她留着黑色直发及巨大的蓝绿色眼睛，灰色的吊带上衣露出了恰到好处的胸部。白皙的皮肤，精致的五官和明显的自由发型，她看起来正是普通Reddit用户会钦佩的样子，事实上，Claudia的 r/faces 贴的评论全是“热辣”和“你真美”的变种。除了一个。

“对那些不清楚的人，我要打破你的幻想，”评论写道。“这实际上是一个人工智能创作，如果你足够长时间地研究AI图像模型和自行创建，你可以100%确定。我实在是抱歉打破你的幻想。”

Claudia的确是一个AI生成的创作，她在其他子Reddits，包括r/normalnudes和r/amihot上发布了(AI生成的)淫秽照片。她是两位计算机科学专业的学生的杰作，他们本质上把这个帐户当作一个玩笑创造的，在Reddit上见到一个男子贴出真实女性的照片，赚了500美元的消息后。他们卖了她100美元的裸照，直到其他Reddit用户揭发了这个帐户，尽管他们继续在其他子Reddit上发布淫秽内容。

“你可以说这个整个帐户只是一个测试，看看你能不能用AI图片愚弄人，”Claudia背后的团队说，他们拒绝透露真实姓名。“你可以把它比作vtubers，他们创造自己的角色并以完全不同的身份演出。我们真的没有想到它会有这么大的反响。”

Claudia是由Stable Diffusion创建的，这是一个人工智能程序，使用机器学习从一个文本提示生成惊人真实的照片。(在这种情况下，文本提示是一个女人在家“没有化妆、黑色中长发、简单背景、直发、刘海发型”的自拍照。)她在r/faces的帖子引发了一场用户举报帖子的风暴，导致该组的一名未愿透露姓名的版主发布了一则声明，澄清AI生成的照片并不违反该子Reddit的规则。“我对这些事采取’买者自负’的态度，”版主告诉《滚石》杂志。“如果人们认为它是真实的并想在我的子Reddit之外做些事情，那是他们自己的事。”

Claudia是第一个也不是最后一个通过飞速发展的人工智能技术生成的虚构成人内容创作者，这引发了一系列伦理问题和担忧。关于人工智能和成人内容的危险性的大多数讨论都集中在深度伪装的流行上，深度伪装是一个术语，用来描述在没有人的允许下使用某人的面部。据AI公司Sensity的数据，近96%的深度伪装是色情内容，其中女性的面部在未经允许的情况下被使用。虽然许多平台，如Reddit，表面上有政策禁止深度伪装的流传，但是这样的内容在网上还是相当易于找到，有些Discord社区出售5美元一张的“私人女孩”的深度伪装。

但尽管深度伪装色情内容在伦理上是不明确的，AI色情内容的虚构人物构成的潜在威胁则不同，加州大学伯克利分校计算机科学教授Hany Farid说。“我认为深度伪装色情内容应该是非法的，确实很有问题。这在某种程度上是黑白分明的。”他说，“在这方面，情况更复杂。”

即使像Claudia这样的成人内容创作表面上是虚构的，并完全由算法生成，但事实上，用于训练AI模型的数十亿图像中大多数可能并未经人物同意便被用于这种方式。Farid表示，这本身就提出了伦理问题，因为存在(尽管非常小的)可能性，这些AI模型可以重现它们在训练中使用的图像。“我不认为这很可能，我也不认为这经常发生，但是这种情况确实可能发生，某人的Facebook图像最终被用于非自愿的图像中。”他说，“这种可能性的存在非常重要。”

实际上，就算是少数几个技术精通的Reddit用户能够识别出Claudia是一个AI创作，她也没有明确地被标记成AI创作，这可能会给消费者带来问题。Claudia背后的创作者说，判断模型是真实还是合成，责任应该在消费者身上:“我们真的不知道该如何考虑这个问题，购买图片的人对他们的购买感到满意，因为他们是在寻找色情内容，”他们说。“我们从未真正声称那些图片属于一个真实的人，买家也从未真正问过。他们只是假定。”

身份验证问题也可能潜在地给平台带来问题，这些平台依靠往往复杂的验证流程来确保加入他们平台的创作者不是未成年人或被剥削利用(这也是为什么像Claudia这样的内容创作者在未经监管的Reddit私信中销售裸照，而不是在有更严格验证政策的网站上)。虽然OnlyFans平台上已经有一些人类创作者使用AI以独特的方式改进他们的内容——例如HarperTheFox，她使用这项技术生成例如赛博朋克风格的裸照——允许非人类创作者进入平台可能会给平台带来很大问题，性工作者同行组织者Ashley说。“身份验证的理念是确保没有人遭到剥削利用。这里没有人，所以没有人可以确认同意。”她补充说，像OnlyFans这样的平台可能也不会允许AI创作者进入平台，就是因为这个原因。(OnlyFans没有立即回复置评请求。)

或许更重要的是，人工智能成人创作者有一天会取代真实人物的问题，从根本上误解了像OnlyFans这样的网站的吸引力，这些网站的理念是订阅者直接与模特互动，Ashley说。她说，短期内，AI技术背后的能力仍然被夸大其词。她没有看到任何迹象表明它可以生成看起来像真实人物性行为的视频。

长远来看，尽管Ashley可以看到AI产生的宠物人物市场，例如深受喜爱的日本动画人物，但她认为总会有对真实人物性行为内容的需求，因为真实性可以成为各种实物商品的一项强大销售亮点，不仅仅是色情内容。她设想的世界中，真实的成人内容被视为更高的溢价，就像公平贸易有机咖啡或手工针织品。

她说:“将某些东西品牌化为定制或者手工制作的不算新鲜事，这与快时尚和快餐相竞争。人们确实会为手工定制内容支付更高的价格，这可以成为人们所连接的一个营销亮点。”

然而，那些创造AI色情内容的人将像Claudia这样的模型的未来普及性定性为不可避免，而不是假设。“AI色情内容只会变得越来越流行，”创造Claudia的那些计算机科学家在最后一次与《滚石》杂志的私信中说。“会有更多这样的帐户出现。”

尽管Claudia最终被 Reddit用户识破并取消，但是她的出现引发了有关 AI技术在成人行业应用的广泛讨论。一方面，AI有可能取代真实演员并最终摧毁整个行业。另一方面，它也可能创造新的机会，让内容创作者和平台找到创新方法与消费者互动。

与此同时，监管AI系统及其产生的内容也面临巨大挑战。Farid说，尽管监管深度伪装相对简单，但是监管AI生成的虚拟角色将需要一个全新的监管框架。“这是一个全新的领域，我们甚至还没有开始解决，”他说。“我们应该如何确保内容的真实性和同意?我们应该如何确保内容的来源透明?我们应该如何确保内容的创作者是真实的人?”

这些都是AI色情内容的监管者和立法者不得不面对的棘手问题。Farid说，在解决这些问题之前，AI技术的应用可能会继续在未经监管的情况下蓬勃发展。“这项技术正在飞速发展，”他说，“监管和政策都远远落后。”

AI无疑会给成人产业带来深刻的影响，但真实的人与人之间的互动可能仍将是此产业的支柱，真实的内容创作者也会一直拥有自己的价值。就像其他许多行业一样，成人产业最终可能会在人与AI的协作中找到一种平衡。人类创作者利用AI技术来丰富内容和提高产量，与此同时保留内容的真实感和互动性。如果行业朝这个方向发展，人类创作者和AI系统之间的合作可能会给这一领域带来积极的变革。

本文译自 RollingStone，由 八里 编辑发布。

赞一个 (16)