近幾日，短視頻平臺出現了大量的“雷軍”配音的視頻，這些視頻內容銳評了堵車、假期、調休、游戲等一切熱門話題，不僅言辭犀利，甚至還有一些不文明用語穿插其間，引發網絡關注。

需要指出的是，這些視頻中的聲音并非出自雷軍本人，而是AI配音。

對此事件，雷軍本人在社交媒體平臺則是回復了三個憤怒表情，表達自己的態度。

有網友在小米集團公關部總經理王化的微博評論區留言稱，“把雷軍AI語音罵人的事情先解決一下吧”并@小米法務部。對此，王化回復稱，“已經轉給他們。”

AI技術的進步，讓圖像和音視頻的深度偽造技術變得越來越容易獲取和使用。與雷軍AI配音相關的事件，小米正在處理當中。對于此番雷軍AI配音引發的熱議，外界更關心的還是AI濫用可能導致的倫理和侵權問題。

▍涉事AI語音公司正處理雷軍配音

當下，隨著大模型技術的突飛猛進，AI合成內容已經變得更加容易。

西湖心辰CEO藍振忠在接受《科創板日報》記者采訪時分析表示，AI語音合成主要基于深度學習和神經網絡模型實現。通過大量的聲音樣本訓練，AI可以學習到特定人的聲音特征，并生成相似的語音。目前，這些技術的門檻確實的確變得很低了，一些開源的軟件和平臺使得即使沒有專業知識的普通用戶也能進行聲音克隆和合成。

根據《科創板日報》記者的觀察，目前網上已經有很多開箱即用的TTS聲音模型網站。

例如近期DAU飆升的AI語音平臺“Reecho睿聲”，該平臺的“聲音市場”，一些用戶上傳了多段雷軍語音的音頻示例，在此基礎上，其余用戶輸入任意語句，即可制作對應的“雷軍”AI配音。

而近期多數雷軍的惡搞音頻，是網友使用“Reecho睿聲”平臺制作生成。

前述“Reecho睿聲”平臺背后的公司主體是深圳市言域科技吉印通（言域科技），公司CEO謝偉鐸透露，目前接到了小米公司的聯系，對方了解到大部分內容是由“Reecho睿聲”生成的。言域科技正配合小米予以處理，會告知用戶進行下架或修改涉及雷軍的配音。

謝偉鐸坦言，“Reecho睿聲”平臺有些配音確實不太文明，但言域科技只是創作工具提供方，沒有足夠的力量控制事態的演變，“對此也感到比較遺憾”。

謝偉鐸解釋說，“Reecho睿聲”平臺只能遵照原樣，將用戶輸入的文本轉換為語音。雖然后臺監測系統可以識別用戶輸入的臟話，但如果直接攔截，“誤殺面太廣了”。他表示，作為AI語音克隆工具，可能不太適合在腳本內容沒有明顯違法的情況下過多干預用戶的創作。

“對于平臺的‘聲音市場’在線社區版塊，公司會參照其他UGC平臺的模式去管理，在必要時積極配合權利方訴求進行處理。”謝偉鐸說。

▍如何整治AI濫用危機？

去年也有一批AI配音爆火出圈，以“AI孫燕姿”為代表的AI合成聲音風靡一時，同時也有利用AI克隆出了“郭德綱用英語說相聲”“霉霉講中文”等的配音視頻。

但與前一輪不同，本次AI合成的雷軍聲音，迅速引發廣泛爭議。這些AI合成的配音內容與雷軍本人平日風格之間有巨大反差，部分內容已超出一般開玩笑玩梗的程度。當然，更為外界所關心的，還是AI濫用導致的倫理和侵權問題。

西湖心辰CEO藍振忠藍振忠表示，隨著AI技術的進步，AI語音克隆，圖像和視頻的深度偽造技術變得越來越容易獲取和使用，這導致了一些濫用現象，比如偽造名人語音進行詐騙等。這不僅對個人隱私構成威脅，也可能對社會秩序造成干擾。

在今年的外灘大會期間，全球Deepfake攻防挑戰賽出題人、ZOLOZ技術總監姚偉斌在接受《科創板日報》等媒體采訪時表示，AIGC的生成偽造，今年的攻擊量比去年大概增加了10倍。整個風險其實是呈指數級上升的情況，不僅僅是在中國，在韓國，在菲律賓、印尼等等國家都有類似的情況發生。

不久前，直播頭部公司三只羊的“錄音門”事件中，內容拉低下限，涉及到多位高管和主播，但最后根據警方調查，音頻內容不實，是AI偽造。

藍振忠告訴《科創板日報》記者，為了防止AI語音濫用，業界采取了一些技術和策略，例如，多重身份驗證措施，如生物識別和短信驗證，以減少語音詐騙的損失。AI技術提供商也在開發檢測工具，以識別和防止AI語音的濫用，這方面現在的準確度也比較高。研究機構如西湖大學也有相關的人員在研究類似的檢測技術。

今年2月，OpenAI團隊也推出“AI生成內容識別器”，旨在識別文本是由電腦自動生成還是人類撰寫，其本質上是一個區別真實內容和AI生成內容的分類器。不過，OpenAI在博客中指出，此識別器對AI撰寫內容的檢出成功率僅為26%。

但是藍振中也提到，實際上AI濫用產生的問題很難根除，目前只能是從宏觀法律的角度，進行管理規范。

今年9月，網信辦發布的《人工智能生成合成內容標識辦法（征求意見稿）》提出，AI生成合成內容，應當添加顯式標識和隱式標識，前者可被明顯感知，后者添加在元數據中。

2023年6月，國家網信辦等三個部門吉印通發布并實施的《互聯網信息服務深度合成管理規定》，這是我國第一部專門規范AI生成內容的部門；2023年7月，國家網信辦等七部門吉印通公布了《生成式人工智能服務管理暫行辦法》，規定了生成式AI服務提供者應當承擔網絡信息內容生產者的責任，一定程度上給AI技術提供者劃定了“紅線”。

在國際方面，歐盟最新通過的《人工智能法案》（AI Act）圍繞人工智能產品和服務的開發、市場投放及使用明確了一個統一的監管框架。

京師律師事務所律師彭英武對《科創板日報》記者表示，與發展一日千里的AI大模型技術相比，當前的法律管理規范還有進一步細化的空間。但目前通過法律法規規范、平臺內容治理、產業界提供技術和工具等多方綜合治理，AI濫用產生的風險有望會有所緩和。

來源：科創板日報