某音整治 AI 创作，AI 虚拟人主播路在何方？

Written by: Xiao Sa Team

3 月 27 日，某音Safety中心发布了《关于不当利用 AI 生成虚拟人物的治理公告》，旨在进一步对其平台内使用 AI 技术的生成物，尤其是以 AI 生成的虚拟人物作为主播进行短视频和直播内容创作的管理。

鉴于本次发布的公告中采用了严厉程度远超以往的措辞，该公告发布后，引发了业内不少朋友对 AI 虚拟人主播在自媒体平台应用前景的担忧。那么，本次具有代表性的平台规则发布对 AIGC 的发展究竟是福是祸？新「禁区」的划定对于 AI 虚拟人主播未来应用又是好事还是坏事呢？

AI 生成虚拟人物主播，商机与风险并存

相较于早期通过实时动作捕捉，由「中之人」进行扮演的「套皮虚拟主播」，现阶段借助 AI 动画生成和语音合成技术，以 AI 虚拟人为主角的「AI 虚拟主播」似乎在扩张势头上已有了前辈难以匹敌之勇。虽然目前该类技术在长视频生成和实时交互等方面仍存在较大迭代进步的空间，但在短视频和直播带货行业，由于播出内容和需求的场景相对固定，使用 AI 制作讨好市场特定群体需求的专属形象，并根据设置的提示词自动生成一定时间的语音及视频内容，这种成本更为低廉的内容生产方案越来越受到创作者的青睐。

较劳动成本日渐高昂、直播工时相对固定且主播形象塑造困难，稍不注意就会「塌房」的传统真人直播，AI 虚拟主播已体现出了相当程度的先天优势。尤其是在疫情时代后，电商平台直播带货与自媒体引流的市场需求不断攀升，产生了巨大的商机。许多自媒体平台本身也提供，甚至可以说是鼓励更多用户使用 AIGC 的便捷方式增加内容创作量。以我们今天的主角——某音为例，其虽并不提供直接的 AI 虚拟人物生成服务，但也早已上线了具备「AI 图生图」和「AI 生成视频」综合功能的创作模块。

可见，即使是刚刚在规范问题上重踩了一脚刹车的某音，也绝不可能有将 AI 创作「一禁了之」的想法。但不可否认的是，在当前，由于 AIGC 技术极大降低了内容创作者的入门门槛，使曾经属于「艺术」领域的创作向着「技术」领域的机械操作转移，大量技术水平与合规意识良莠不齐的创作者怀着拥抱这一商机的心理参与其中，也的确造成了相当程度的法律与合规风险。

首当其冲的即是应用 AI 技术进行欺诈所引发的法律和社会问题。根据相关Safety报告，2023 年度基于 AI 的深度伪造欺诈案件增长率高达 3000%，惊人的增长趋势背后，是不当使用 AI 所带来的巨大法律风险。同时，由于 AI 生成虚拟人物以文字、图像、声音等多项 AIGC 为技术基础，其亦始终难以完全摆脱当前 AIGC 领域在角色设计、背景音乐、直播文案等方面所可能存在的侵犯他人知识产权的问题。此外，虚拟人物的形象对他人肖像权、隐私权、个人信息权益也存在潜在的侵权风险；将 AIGC 用于诱导性的产品宣传还可能引发的对消费者知情权和选择权的危害等。

可以说，AI 虚拟人主播等技术在短视频和直播带货领域中的应用，此刻处在的是庞大机遇与巨大风险相叠加的状态。

从某音说起，AI 生成虚拟主播的合规要点分析

因此，似乎也就不难理解作为行业先行者之一的某音平台，为什么在 AI 创作的合规管理上采取较为谨慎的态度了。实际上在 AI 虚拟主播这一方面，某音经不是第一次给大家「泼冷水」了。早在 2023 年 5 月 9 日，其就发布了《关于人工智能生成内容的平台规范暨行业倡议》，首次明确了人工智能生成的视频、图片，和衍生的虚拟人直播在平台内的行为规范，并根据《互联网信息服务深度合成管理规定》制定了基于其平台规则的《人工智能生成内容标识水印与元数据规范》，对包括显著标识、避免混淆等要求做了进一步的细化。

而某音平台的此次「禁令」主要针对的是在其平台上「屡禁不止」且呈扩大趋势的「使用 AI 生成虚拟人物发布违背科学常识、弄虚作假、造谣传谣的内容」的行为。具体而言提到了三种典型的情况：

其一，是生成虚假外国人形象，以境外虚假人设，消费爱国心理、博取关注的行为。

其二，是生成俊男美女虚假形象，骗取互动，或发布情感诱导等表达虚假情感的内容，将用户导流至私人交友聊天工具，甚至进行诈骗的行为。

其三，是生成精英人士虚假人设，发布心灵鸡汤、财商、伪国学、厚黑学、伪成功学等不良内容，低质吸粉，甚至引流到站外以卖课、入群等方式获利的行为。

可以看出，上述情形均以利用 AI 生成的某一类虚拟人物形象，针对具有情感需求的特定社会群体，开展低质吸粉、骗取流量，甚至引流诈骗的违规违法活动。此类活动中，AI 虚拟人物本身并非用于直接欺骗，其是作为迎合特定群体喜好的引流媒介，充当后续欺诈等违法违规行为的「预备阶段」，具有相当程度的隐蔽性。

因此，某音所禁止和限制的并非平台用户进行以 AI 虚拟主播为内容的创作，而是希望通过自身的合规构建，与其用户一道，尽可能控制相关领域存在的违法、违规风险。将这一行为单纯看作对用户使用 AI 创作的限制，多少是有点儿冤枉某音平台的意思，毕竟根本目标仍是规范可能存在风险的违规行为，用合规手段促进相关领域更好发展。

用户 or 平台，AI 虚拟主播合规是谁的责任？

某音平台之所以这样做，也是在履行其作为互联网服务平台，同时也是 AI 生成内容提供和传播者的责任。当前，我国对生成式人工智能服务的管理规范大多倾向于规定平台的责任。如在全国网络Safety标准化技术委员会发布的《生成式人工智能服务Safety基本要求》中，对生成式 AI 的检验和评估责任，都主要针对相关服务的提供者。再如《生成式人工智能服务管理暂行办法》第十四条中对服务提供者的「避风港原则」所做的限制，要求其发现违法行为后立即进行整改并向主管部门报告；第十五条中要求服务提供者建立健全投诉、举报机制，以促进其对违规内容的及时处理。

从此次某音所发布的公告中，也可看出其对相关规范的重申，在相对严厉的措辞之下，字里行间中，实际都透露出希望用户配合工作，共同监督，积极举报不当使用人工智能生成内容的情况。而在当前，平台与用户在 AI 生成内容管理上的结合点，实际主要集中于其重审规范中的第一条，即对于 AI 生成内容的「显著标识」。根据《生成式人工智能服务管理暂行办法》第十二条的规定，提供者应当按照《互联网信息服务深度合成管理规定》《网络安全标准实践指南——生成式人工智能服务内容标识方法》对图片、视频等生成内容进行标识。包括某音在内，大多数提供或接受 AI 生成物的自媒体平台，都对其人工智能生成物的标识方法和要求进行了明确的规定。

某音官方目前采取的仍是由用户配合申报 AI 创作内容，并由平台添加相关提示文字的方式，这种模式在发布较为逼真的 AI 虚拟人内容时，除非创作者自行在文案中添加「虚拟偶像 / 虚拟人」等标签，否则在Xiaobai Navigation执行度上是存在缺陷的。本次公告中虽然对违规用户的处罚措施进行了较为严厉的重申，但限于当前的处理模式，更像是希望在用户和平台间进一步达成某种先礼后兵的默契。虽然以平台规则的构建，配合检测算法等技术手段，看似已经是当前相关服务提供者能够采取合规手段的最优解，但这种措施在这个机遇与风险并存的时代，其有效性仍有待实践的检验。

需注意的是，虚拟人物形象从来不能成为其创作者责任的「挡箭牌」，AI 创作合规的构建确实也并非是平台方的一厢情愿。在本次某音的公告中，最为凸显其规范严厉程度与平台治理决心的，即在罗列了典型违规行为后，「半摊牌」似的表示其会针对违规使用 AI 生成虚拟人物的行为，进行下架视频、封禁账号等内部处罚。同时，对已掌握的部分黑产团伙不当使用 AI 生成虚拟人物用于犯罪的线索，将采取报警打击的行为。诚然，上文提到的这种「默契」或许在用户与平台间也应当是客观存在的。进行违规的创作行为的创作者所要承担的当然不仅限于平台规则的处罚，视其严重程度亦有可能承担其他的法律后果，甚至是刑事责任。

write at the end

我们总是在与大家强调，对新技术、新领域的规范并不一定会有阻碍发展的结果。「禁令」的颁布，往往也有其通过合规促进发展的一面。毕竟，只有行得正，才能走得远。

The article comes from the Internet:某音整治 AI 创作，AI 虚拟人主播路在何方？

相关推荐: 解析 Ankr：做比特币的 LIDO，被低估的流动性质押潜力

Ankr提供最可靠的 RPC，而且在该行业拥有超过 6 年的经验，在 RaaS 领域处于领先地位。 撰文：Louround 编译：小白导航coderworld 尽管市场以极快的速度发展，但一些项目多年来和市场阶段保持一致。这需要项目具有强大的业务发展能力、创新…