本文来自微信公众号：王智远，作家：王智远，原文标题：《雷军，可能有点心烦...》，题图来自：AI生成
雷军最近可能有点心烦……
烦什么？你听到了吗？最近，有不少东谈主用雷军的声息进行二次创作，作念成多样段子。我听完之后，以为既搞笑又无奈。
比如：
“老子踏*一眨眼，国庆节就夙昔了，我又得拖着一大堆破行李去上阿谁X班；假期里，躺在抖音上刷视频的废料们，人人好，我是雷军，你们千万不要用小米手机看黄片。”
还有更雷东谈主的实质，在哔哩哔哩上，他的AI语音被用来制作多样游戏讲明注解、话题封面语，比如打篮球、打麻将，主打一个“不爽”，吐槽和指摘异常狂暴。
至于让我感到无奈的部分，却不太好描摹。在写这篇著述之前，我把其中一个短视频发给了我爸，并问他：“你以为这个短视频有什么脱落之处吗？”
我爸回答说：“挺有兴味的。”但他并莫得提到语音的问题，换句话说，他根柢没坚决到这是AI生成的语音。可见，AI语音仍是粗略达到以伪乱真的地步了。
一
不外，此次假语音和之前“Are you ok？”有很大不同。
Are you ok，实质属性不彊，自己没什么坏心，也不会激发扭曲，最多让本东谈主以为有点莫名；雷军以至还幽默地回话过，还把版权买下来，从营销的角度来看，这反而成了一种正面的宣传。
但AI语音有点不一样。
刻下集结上，大部分雷军AI语音，齐是网友们用他的声息说的一些很过分的话，什么“汉典操控小米手机炸死你”或者“我开小米SU7撞死你全家”。
这些话相等顶点。不了解的东谈主，会认为果然雷军说的，仍是触及到责备的问题。
AI语音有好多种相貌，常见的包括：语音合成、语音克隆、语音识别、深度伪造和天然言语处理。前三种人人相比熟识，后两种是最近两年才缓缓流行起来的。
深度伪造（Deepfake）是由“深度学习”（deep learning）和“伪造”（fake）组合而来，兴味是用深度学习时刻来效法东谈主的声息和图像。
而天然言语处理（NLP）是让筹算机相接和处理东谈主类言语的时刻，应用异常广，比如：智能客服和语音助手。
好多创作家在给视频配音时，为了省时省力又不想出镜，往往会先写好笔墨，再用AI来诵读和合成。
拿我来说：一般会选拔港版男普通话、广西表妹或东北话，这么让文本画面和其他地域口音荟萃，刚好造成了昭着的反差感。
这些时刻的作用是停留在语音合成和搞笑方面，如实没什么脱落的影响；然而，一朝触及到名东谈主 IP 效应再加上搞笑，同期还试图进行文化层面的输出，情况就大不调换了。
因为这不再是单纯的逗趣，还可能激发多样社会反馈。
之前对于“三只羊”卢某某的灌音想必不少网友刷到过，那段语音听起来异常传神，引起了好多东谈主的商讨和担忧，我听完后齐嗅觉像真的，以至还在群里吐槽事件自己太颠覆三瞻念了。
不外，9天后（2024年9月26日），合肥市公安局很快发布了官方回话，说那是假的，并提醒人人不信谣、不传谣。
假语音威力不比短视频小，短视频有画面，更容易分辨真假，但语音却很难分辩，这就更容易误导东谈主们。
二
国际也有肖似事件。我用Perplexity查了一下对于AI作秀的新闻，发现他们以至把经营瞄准了总统，问题高潮到了政事层面。
把柄《连线》杂志的报谈，本年龄首，一些新罕布什尔州的选民接到了冒充“拜登总统”的自动语音电话，试图误导他们在初选中投票。
白宫新闻通知阐发，电话是伪造的，并非总统灌音。
好意思国联邦通讯委员会（FCC）主席杰西卡·罗森沃塞尔（Jessica Rosenworcel）示意，频年来，机器东谈主电话中使用的AI生谚语音变得越来越先进，这些语音不错效法名东谈主、政事候选东谈主，以嫡亲密家东谈主的声息，从而制造过错信息，误导公众。
她强调，要是语音克隆公司在建立应用时触及名东谈主、可能误导公众、传播风险高的实质，应该在传播中加上显然的符号，提醒公众正式。“咱们提出，将使用AI生谚语音的机器东谈主电话（robocall）视为非法。”
另外，还有着名歌手泰勒·斯威夫特的AI伪造“瞻念照”在网上疯传，这类AI作秀事件激发了东谈主们对东谈主工智能的平淡担忧。
几天后，作秀的东谈主被找到，他坦言我方用AI器具ElevenLabs，仅花了不到20分钟和1好意思元就完成了作秀，是不是很惊东谈主？
本年3月，一位记者发现，只须在上传文献滥觞加入一分钟的静音，就不错绕过章程，得胜克隆特朗普和拜登的声息，尽管时刻不错用来反抗时刻，但AI检测软件经常无法灵验识别AI生成的音频。
难谈，AI生谚语音真的能坚强到这种地步吗？
其实我也有疑虑。自从“三只羊”卢某某AI灌音事件后，我一直情绪着回话此事的品牌（某声）的阐明。
他们的网站上如实有雷军的AI合成声息，人人不错我方去试听，音色与真东谈主异常接近，而且发布的数目也不少，这给了许多蹭热度的契机，他们讹诈名东谈主的声息制造话题。
不仅是雷军，刻下好多互联网平台，比如抖音、B站，齐有无数与马保国、葛优、“麦克阿瑟（一位效法网红）”等名东谈主声息关系的视频。
这些视频讹诈的是AI配音时刻，你只须选拔相应的东谈主物声息，然后输入笔墨，就能生成该东谈主物声息的实质；天然好多要领略用代称来躲藏版权问题，但提供的声息种类多达上百种，还不错调整语速和语调。
图释：某声品牌社区广场，仍不错搜到一些名东谈主音频
甩掉写这篇著述，在（某声）社区变装商场，依然不错找到雷军、蔡徐坤、卢本伟、刘亦菲、成龙等名东谈主的仿声合成音，你很难分辨是否是真东谈主。
我并不是单单品评某一个软件，而是通盘这个词语音生态似乎齐存在一些问题，这激发了咱们的念念考：
以前互联网平台只对图文和视频进行经管，刻下进入了AI时期，AI成了一种新序言。
那么，AI手脚序言载体作念出来的平台，是不是自身也要自我经管？是不是得条目用户，非本东谈主不可用别东谈主的声息伪造？至少刻下看来，属于三无论的地带，莫得很细节的法律条规、也衰退明晰的社区章程。
三
既然提供时刻的平台监管不到位，那么，发布平台就真的无法监测吗？比如，我将AI语音发布到抖音、快手等平台，难谈它们就无法检测到问题？
问了一圈懂行的一又友，他们说，这触及到两方面问题。
从时刻角度，语音模子的自动语音识别（ASR）和文生文、文生图的旨趣相似，它们领先齐要无数的语料来进行锻真金不怕火，唯有这么才能生成更多雅致化的模子。
这些模子越细分，语音识别成果就越好。这让我嗅觉，这像是一个层层递进的套娃游戏。
另外，刻下国内主流的ASR时刻多选择端到端模子（End-to-End Models）。这种模子通过一个集结，将输入的语音径直调整为输出收尾，简化了传统ASR系统中多个复杂组件的过程。这使得识别过程愈加高效，但中间方法也减少了。
比如说：当你对入部下手机说“今天天气怎么样？”，端到端模子能径直将语音转为笔墨，查询天气信息，并告诉你收尾，这种款式异常快捷，但它不具备中间的感知才略。
天然刻下主流的AI语音模子初始选择更深度的学习框架，如轮回神经集结（RNN）、是曲时记念集结（LSTM）和Transformer来处理一些要道部分，但这些时刻仍处于早期阶段。
面对一些更复杂的情况，如方言和多音轨的杂音，模子依然存在局限性，因为锻真金不怕火数据不够全面，模子才略有限。
从审核机制来看，问题就更显然了。一位时刻一又友提到：
2018年，有一则新闻，本日头条的创举东谈看法一鸣发表了一封公开信，回话“内涵段子”被关停的事件。在信中，他提到为了弥补算法和机器审核的不及，需要加强东谈主工运营和审核，将6000东谈主的审核团队扩大到10000东谈主。
相同，快手当年也选择了肖似措施，将2000东谈主的审核团队彭胀到5000东谈主。他们齐领略到，在“算法是否具备价值瞻念”的问题上，必须加大插足。
当年视频靠近的问题，刻下AI语音也遭逢了。
平台审核机制分为两部分：机器审核和东谈主工审核。机器审核能快速识别显然违法的实质，但对于依稀、复杂的实质，机器可能判断不准确，就要东谈主工审核。
AI语音的复杂性不亚于视频，不同语种、口音、语速等齐会影响识别成果。要逐帧处理这些身分，而且轻视AI生成的以伪乱真的音频，是一项极大的挑战。
你想想看，用AI生成一个音频，再让它我方识别是AI生成的，这种轮回无疑是对时刻的极大考验。
要想竣事“魔法击败魔法”的成果，平台要插足更多资金和资源，这不仅可贵，还要时分；因此，咱们正处在一个时刻、伦理与监管并行发展的新阶段。
四
一个在大厂责任的一又友告诉我，刻下传播实质的平台针对这种“灰度空间”有三种处理主义：
第一，搜检元数据是否有隐性符号。
所谓隐性符号，即音频里用来笃定实质的起首或生成的款式，刻下，这项时刻仍是有所发展和应用。
肖似于字节特出早年自研的荫藏水印算法，刻下仍是应用到多样居品上。本年3月14—15日，中国东谈主工智能产业发展定约（AIIA）发布了“信元令”数字隐写符号平台，也在豪恣实施。
简单来说，他们齐在处置并吞个问题，即让AIGC生成的实质自带符号，这种符号东谈主看不到，时刻却看获取。
第二个主义，提醒用户自行添加讲明。
要是平台未检测到隐性符号，会提醒用户主动表明实质起首。你可能也见过在发布实质时，不错选拔标注“取自集结”“AI生成”或“原创拍摄”。
用户不想我方声明，也莫得隐性符号，那平台会进行第三种主义：抽样检测。一朝发现语音中有AI的思绪，就会径直添加提醒符号。
了解了这些，你就能判辨，为什么有些视频下方会出现“疑似使用AI生成时刻，请正式甄别”的教唆。为什么说是“疑似”呢？因为刻下AI还无法透澈准确地识别另一个AI生成的实质。
不外，有一个前提：除非某个实质真的激发了平淡情绪和强大公论，平台才会主动打扰。不然，面对海量实质，平台很难作念到逐个审核。
是以，辞让AI语音，不仅仅个东谈主和企业的背负，更要时刻提供商和社会各界一谈费力。
在深度伪造泛滥的时期，雷军成为了国内第二个因AI语音作秀而受到影响的东谈主，咱们望望段子就好，千万不要成为传播的始作俑者。
回来
AI正在效法真东谈主。
我想提醒人人，在网上浏览视频时，要多留一个心眼，最佳不要默许一切齐是信得过的。时刻无罪，生怕别有全心，但愿咱们能聪慧地使用它，激动社会向积极的处所发展。
本文来自微信公众号：王智远，作家：王智远