●AI如何生成他人聲音？

　　主要是依靠深度學(xué)習(xí)算法，即短時(shí)間內(nèi)從采集的聲音樣本中提取關(guān)鍵特征，包括頻率、音色、聲調(diào)、語(yǔ)速、情感等，將這些特征記錄為數(shù)學(xué)模型，再通過(guò)算法合成

　　●AI生成他人聲音，是否違法違規(guī)？

　　個(gè)人聲音中包含的聲紋信息具備可識(shí)別性，能以電子方式記錄，能關(guān)聯(lián)到唯一自然人，是生物識(shí)別信息，屬于個(gè)人信息保護(hù)法規(guī)定的敏感個(gè)人信息之一

　　親耳聽(tīng)到的就是真的嗎？未必。網(wǎng)絡(luò)平臺(tái)上，AI聲音隨處可見(jiàn)。

　　從“張文宏醫(yī)生”推銷蛋白棒視頻“走紅”網(wǎng)絡(luò)，后被本人“打假”，到多位配音演員稱聲音被AI“偷走”，公開(kāi)維權(quán)……“新華視點(diǎn)”記者調(diào)查發(fā)現(xiàn)，隨著人工智能技術(shù)和語(yǔ)音大模型應(yīng)用的發(fā)展，AI合成聲音App大量出現(xiàn)，最快只需十幾秒便可“克隆”出來(lái)。與此同時(shí)，AI聲音濫用現(xiàn)象愈發(fā)突出，不時(shí)引發(fā)爭(zhēng)議。

　　聲音是如何被“偷”走的？

　　記者在某短視頻平臺(tái)以“AI克隆聲音”為關(guān)鍵詞檢索發(fā)現(xiàn)，明星翻唱、新聞播報(bào)、吐槽點(diǎn)評(píng)等大量視頻涉及AI聲音，有些甚至出現(xiàn)不雅詞匯，不少視頻點(diǎn)贊和評(píng)論量過(guò)千。

　　而AI聲音濫用事件也不時(shí)發(fā)生，引發(fā)關(guān)注和討論。

　　AI如何生成以假亂真的聲音？受訪專家介紹，AI能夠“克隆”聲音，主要是依靠深度學(xué)習(xí)算法，即短時(shí)間內(nèi)從采集的聲音樣本中提取關(guān)鍵特征，包括頻率、音色、聲調(diào)、語(yǔ)速、情感等，將這些特征記錄為數(shù)學(xué)模型，再通過(guò)算法合成。

　　中國(guó)科學(xué)院自動(dòng)化研究所模式識(shí)別實(shí)驗(yàn)室工程師牛少東說(shuō)，隨著算法越來(lái)越先進(jìn)，在高性能設(shè)備和高精度模型的加持下，AI生成的語(yǔ)音內(nèi)容從兩年前的“一眼假”升級(jí)到如今的“真假難辨”。

　　AI聲音在最近一兩年時(shí)間內(nèi)變得格外“流行”。清華大學(xué)新聞與傳播學(xué)院教授沈陽(yáng)說(shuō)，人工智能技術(shù)的普及，讓AI模擬聲音的門檻大幅降低。通過(guò)一些開(kāi)源軟件和平臺(tái)，沒(méi)有專業(yè)知識(shí)的普通用戶也能操作。

　　大量App能夠進(jìn)行AI合成聲音，最快只需十幾秒。記者在應(yīng)用商店搜索發(fā)現(xiàn)，相關(guān)App有數(shù)十款，下載量最高超千萬(wàn)次。

　　記者聯(lián)系了一款A(yù)pp的客服人員，對(duì)方表示，花198元就能解鎖付費(fèi)會(huì)員，對(duì)著鏡頭說(shuō)幾遍“12345”，AI就會(huì)根據(jù)聲音生成各類內(nèi)容的出鏡口播視頻。記者操作后發(fā)現(xiàn)，通過(guò)這款軟件生成的名人聲音，基本可以以假亂真，且錄入名人聲音不需要提供任何授權(quán)證明。

　　業(yè)內(nèi)人士告訴記者，AI模擬人聲在互聯(lián)網(wǎng)“流行”，有追逐流量和變現(xiàn)的目的。通過(guò)“克隆”名人聲音制作的惡搞、獵奇類視頻，在相關(guān)平臺(tái)播放和點(diǎn)贊量均不低，有的甚至還被推上熱搜。發(fā)布者也相應(yīng)獲得流量曝光、粉絲增長(zhǎng)、廣告收入等播放收益。

　　多措并舉強(qiáng)化治理

　　用AI生成他人聲音，是否違法違規(guī)？多位受訪專家表示，個(gè)人聲音中包含的聲紋信息具備可識(shí)別性，能以電子方式記錄，能關(guān)聯(lián)到唯一自然人，是生物識(shí)別信息，屬于個(gè)人信息保護(hù)法規(guī)定的敏感個(gè)人信息之一。

　　2024年4月，北京互聯(lián)網(wǎng)法院宣判全國(guó)首例“AI聲音侵權(quán)案”，明確認(rèn)定在具備可識(shí)別性的前提下，自然人聲音權(quán)益的保護(hù)范圍可及于AI生成聲音。該法院法官認(rèn)為，未經(jīng)權(quán)利人許可，擅自使用或許可他人使用錄音制品中的聲音構(gòu)成侵權(quán)。

　　近年來(lái)，有關(guān)主管部門出臺(tái)《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法（征求意見(jiàn)稿）》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等規(guī)定，一定程度上給AI技術(shù)使用劃定了紅線。

　　2024年12月，廣電總局網(wǎng)絡(luò)視聽(tīng)司發(fā)布《管理提示（AI魔改）》，要求嚴(yán)格落實(shí)生成式人工智能內(nèi)容審核要求，對(duì)在平臺(tái)上使用、傳播的各類相關(guān)技術(shù)產(chǎn)品嚴(yán)格準(zhǔn)入和監(jiān)看，對(duì)AI生成內(nèi)容做出顯著提示。

　　多位專家表示，各類社交網(wǎng)絡(luò)、短視頻平臺(tái)要強(qiáng)化主動(dòng)監(jiān)管意識(shí)，及時(shí)發(fā)現(xiàn)、處理可能涉及侵權(quán)的AI生成作品；相關(guān)部門應(yīng)繼續(xù)加大對(duì)利用AI技術(shù)進(jìn)行詐騙等違法犯罪行為的打擊力度，形成更加完善的常態(tài)化治理機(jī)制。（據(jù)新華社）

分享讓更多人看到