AI换脸还不够，居然有人用真人配音生成色情内容？

在当今日益成熟的人工智能技术中，AI在生成图片和文字方面的突破已经为人们熟知。然而，与此同时，一股新的潮流也在崛起，那就是“AI声音”。近期，一则引人注目的新闻在网络上引起了广泛关注，让我们不得不思考AI声音技术的道德边界以及潜在影响。

(相关资料图)

曾几何时，B站上的“AI孙燕姿”竟成为了新的互联网红人，其生成的音色竟然与孙燕姿的真实声音如此相似，以至于很难分辨出差异。这似乎是AI声音技术令人惊叹的又一成就，然而，正如AI生成图片和文字领域所面临的问题一样，AI声音也开始走上了一条危险的歧途，缺乏监管的情况下滋生出歪门邪道。

最近，一位名为Robbie92的Twitter用户发文指责《上古卷轴5》的Mod社区在未经相关人员允许的情况下使用AI声音来创作和传播色情内容。在这个引人注目的控诉中，Mod制作者利用AI工具将真实配音演员的声音注入到色情内容中，而这些配音演员们甚至都不知情。这个事件引发了关于AI声音道德边界的广泛争论，也再次凸显了监管缺失对技术滥用可能造成的后果。

而在老滚5这款游戏中，Mod社区的地位早已不容小觑。Nexus Mods作为老滚5最大的Mod社区，拥有数以万计的Mod资源，为游戏带来了丰富的可玩性和创造力。今年4月，Nexus Mods发表了一篇声明，允许Mod制作者使用AI工具创作Mod，这似乎为AI声音技术的应用提供了某种合法性。然而，正是因为缺乏明确的规定和监管，一些制作者开始利用AI声音技术进行一些道德上令人担忧的创作，如在游戏中制造色情场景等。

AI技术的引入本应为游戏体验带来全新的可能性，例如通过为NPC赋予更智能的行为来增强玩家的沉浸感。然而，一旦这种技术被滥用，情况就会变得复杂。正如Robbie在Twitter中指出的那样，Mod制作者利用AI声音技术为游戏中的角色创造出明显的色情对话，这不仅侵犯了配音演员的权益，也引发了对AI声音道德使用的广泛担忧。

Robbie的爆料揭示了一些著名配音演员的名字，包括为多款知名游戏和动画配音的April Stewart、Jon Curry以及Susan Eisenberg。这些配音演员无意中成为了AI声音技术的受害者，他们的声音被用于不恰当的内容，这引发了社交媒体上的强烈讨论。与此同时，另一些人则在互联网上支持AI声音技术的创新应用，认为AI声音可以为创作提供更大的可能性。

然而，值得注意的是，AI声音技术滥用所带来的问题远不止于此。正如AI换脸技术引发的争议一样，当人们的声音也能被轻易仿造时，造假、诈骗、色情化等问题都可能会加剧，进而对个人和社会造成不可逆转的伤害。在法律法规尚未完善的情况下，这更成为了一个不容忽视的道德难题。

总之，在探索AI声音技术的创新应用的同时，我们必须谨慎行事。尽管AI声音技术可能为创作带来便利，但在保护知识产权和维护道德边界方面，迈出稳健的步伐至关重要。只有通过合理监管和明确法律，才能让AI技术在不伤害他人权益的前提下发挥其巨大潜力，为人类社会带来积极的变革。毕竟，今日之AI声音，明日或将触及我们每个人。

关键词：