智能制造網(wǎng)APP
智能制造網(wǎng)手機(jī)站
智能制造網(wǎng)小程序
智能制造網(wǎng)官微
智能制造網(wǎng)服務(wù)號(hào)
智能控制
機(jī)器人
儀器儀表
物聯(lián)網(wǎng)
3D打印
工業(yè)軟件
回放
回放
300W開放式電源轉(zhuǎn)換器TPP300-124A-M
開放式電源,TPP300-112M,TRACO電源品牌
TRACOPOWER
常言道，眼見為實(shí)。然而，隨著人工智能的迅猛發(fā)展，一些使用Deepfake深度偽造技術(shù)制作的換臉視頻也在網(wǎng)絡(luò)上屢見不鮮。這項(xiàng)技術(shù)甚至被別有用心的人利用，成為詐騙、誣陷等罪惡勾當(dāng)?shù)墓ぞ?，給社會(huì)和個(gè)人帶來嚴(yán)重威脅。
魔高一尺，如何破解？
在2021WAIC世界人工智能大會(huì)上，依托清華大學(xué)人工智能研究院成立的產(chǎn)業(yè)化公司——北京瑞萊智慧科技有限公司(RealAI)，發(fā)布了一款能夠一秒識(shí)別真?zhèn)蔚蔫b別神器——DeepReal深度偽造內(nèi)容檢測(cè)平臺(tái)，讓“假臉”無處遁形。
一、律之以法
幾十萬年以來，人臉都是識(shí)別人類身份信息十分顯著的特征。然而，隨時(shí)AI技術(shù)的飛速發(fā)展，這一切正在被深度偽造技術(shù)所瓦解。
近幾年來，非法利用AI技術(shù)偽造他人肖像吸引流量牟利，甚至從事侮辱、誹謗、網(wǎng)絡(luò)詐騙、色情宣傳等違法犯罪活動(dòng)的案例已屢見不鮮。據(jù)一家國(guó)外機(jī)構(gòu)監(jiān)測(cè)到的結(jié)果顯示：自2019年以來，深度偽造視頻的數(shù)量呈指數(shù)級(jí)增長(zhǎng)。
深度偽造技術(shù)給國(guó)家、社會(huì)和個(gè)人帶來的風(fēng)險(xiǎn)，引起了世界各國(guó)的高度重視，我國(guó)也重拳出擊。2020年5月28日，十三屆全國(guó)人大三次會(huì)議表決通過了《中華人民共和國(guó)民法典》，其中第1,019條規(guī)定“任何組織或者個(gè)人不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。未經(jīng)肖像權(quán)人同意，不得制作、使用、公開肖像權(quán)人的肖像，但是法律另有規(guī)定的除外”，總體要求了禁止利用信息技術(shù)手段偽造的方式侵犯他人的肖像權(quán)和聲音。
在法律層面，AI作惡要有“緊箍咒”來約束；在技術(shù)層面，“魔高一尺”還要有“道高一丈”來抗衡。
二、束之有“術(shù)”
“深度偽造技術(shù)正在不斷演進(jìn)迭代，亟需采用主動(dòng)技術(shù)防范及預(yù)警檢測(cè)手段。”在2021世界人工智能大會(huì)上，清華大學(xué)人工智能研究院的核心孵化企業(yè)北京瑞萊智慧科技有限公司副總裁唐家渝向記者介紹，該司已研發(fā)出了“AI換臉術(shù)”的克星——一款破解深度偽造內(nèi)容的檢測(cè)產(chǎn)品DeepReal深度偽造內(nèi)容檢測(cè)平臺(tái)。
“門檻低、影響大、變化快”是深度偽造技術(shù)的顯著特征，且肉眼難以識(shí)別，更無法大量檢測(cè)。
針對(duì)如上痛點(diǎn)，RealAI基于第三代人工智能技術(shù)研發(fā)出的DeepReal，能夠通過研究深度偽造內(nèi)容和真實(shí)內(nèi)容的表征差異性辨識(shí)、不同生成途徑的深度偽造內(nèi)容一致性特征挖掘等問題，快速、精準(zhǔn)地對(duì)多種格式與質(zhì)量的圖像進(jìn)行真?zhèn)舞b別。
三、檢測(cè)性能工業(yè)級(jí)
檢測(cè)準(zhǔn)確率無疑是衡量該平臺(tái)價(jià)值十分重要的指標(biāo)。
據(jù)唐家渝介紹，檢測(cè)效果主要受到兩個(gè)因素的影響：數(shù)據(jù)集多元化程度和算法可靠程度。DeepReal深度偽造檢測(cè)平臺(tái)算法基于大數(shù)據(jù)量進(jìn)行訓(xùn)練和測(cè)試，截至目前，數(shù)據(jù)量已達(dá)到千萬級(jí)，數(shù)據(jù)集已覆蓋三大類，包括：學(xué)術(shù)深偽數(shù)據(jù)集、網(wǎng)絡(luò)深偽數(shù)據(jù)集和自研深偽數(shù)據(jù)集。同時(shí)，通過結(jié)合貝葉斯學(xué)習(xí)框架和深度神經(jīng)網(wǎng)絡(luò)，來估計(jì)模型在預(yù)測(cè)新樣本時(shí)的不確定性。以上，有效保障了DeepReal深偽檢測(cè)算法的泛化能力。
在測(cè)試結(jié)果方面，DeepReal在學(xué)術(shù)數(shù)據(jù)集和ZAO等主流方式生成的網(wǎng)絡(luò)數(shù)據(jù)集中，已達(dá)到99%以上的準(zhǔn)確率。而在實(shí)際應(yīng)用中，DeepReal的檢測(cè)準(zhǔn)確率也已達(dá)到業(yè)界前沿水平，遠(yuǎn)超F(xiàn)acebook此前舉辦的Deepfake檢測(cè)挑戰(zhàn)賽所公布的較好成績(jī)。
此前，RealAI團(tuán)隊(duì)在國(guó)際安全極客大賽GeekPwn 2020首屆CAAD虛假人臉AI識(shí)別大賽上，以顯著比分優(yōu)勢(shì)奪得冠軍；在網(wǎng)信辦與公安部共同指導(dǎo)的第二屆“中國(guó)人工智能·多媒體信息識(shí)別技術(shù)大賽”中，斬獲“創(chuàng)新之星”獎(jiǎng)以及深偽檢測(cè)競(jìng)賽A類獎(jiǎng)。此外，DeepReal在深偽相關(guān)領(lǐng)域也已發(fā)表頂級(jí)會(huì)議和期刊論文十余篇。
天下武功，唯快不破。超高的準(zhǔn)確度，還需要速度來支撐。
DeepReal深度偽造內(nèi)容檢測(cè)平臺(tái)，可實(shí)現(xiàn)每幀畫面的檢測(cè)時(shí)間僅用時(shí)30毫秒。同時(shí)，還支持橫向拓展與集群部署。檢測(cè)完畢，平臺(tái)還支持生成檢測(cè)報(bào)告。
四、AI界的安全之盾
深度偽造技術(shù)的濫用，給個(gè)人生活、國(guó)家安全和社會(huì)穩(wěn)定帶來諸多問題和挑戰(zhàn)，而且隨著仿真精度的提升，這種問題有愈演愈烈的趨勢(shì)。
自成立以來，RealAI就致力于提供安全可控的第三代人工智能技術(shù)，從根本上增強(qiáng)人工智能的安全性、可靠性及可信性。據(jù)唐家渝透露，針對(duì)深度偽造技術(shù)的防范，RealAI目前已與工信部、公安部、國(guó)家互聯(lián)網(wǎng)應(yīng)急中心、工信安全中心、中國(guó)信通院、公安三所等多家機(jī)構(gòu)展開深入的項(xiàng)目合作。
一流企業(yè)做標(biāo)準(zhǔn)。此前，RealAI與國(guó)家工信安全中心聯(lián)合制定了我國(guó)人臉模型算法自身安全相關(guān)的第一個(gè)標(biāo)準(zhǔn)《信息安全技術(shù)人臉比對(duì)模型安全技術(shù)規(guī)范》，作為第二編寫單位與信通院在工信部網(wǎng)安局指導(dǎo)下聯(lián)合編制了《人工智能安全框架(2020年)》藍(lán)皮書。此外，RealAI目前也參與包括機(jī)器學(xué)習(xí)算法安全相關(guān)的國(guó)家標(biāo)準(zhǔn)，以及人工智能合成音視頻、人工智能生物特征識(shí)別相關(guān)的行業(yè)標(biāo)準(zhǔn)等多項(xiàng)標(biāo)準(zhǔn)的制定工作中。
唐家渝表示，未來這款產(chǎn)品將在網(wǎng)絡(luò)虛假內(nèi)容甄別、人臉資料審核以及影像物證真實(shí)性檢驗(yàn)等實(shí)際應(yīng)用場(chǎng)景中發(fā)揮強(qiáng)大作用，RealAI也將持續(xù)迭代技術(shù)、打磨產(chǎn)品，和相關(guān)單位一起，全力以赴，確保在這場(chǎng)深度偽造的“攻防戰(zhàn)”中保持始終立于不敗之地。
補(bǔ)充資料：
關(guān)于瑞萊智慧RealAI
北京瑞萊智慧科技有限公司(簡(jiǎn)稱“RealAI”)是依托清華大學(xué)人工智能研究院設(shè)立的人工智能企業(yè)，致力于提供安全可控的第三代人工智能技術(shù)，加速安全、可靠、可信的產(chǎn)業(yè)智能化升級(jí)。
公司由清華大學(xué)人工智能研究院院長(zhǎng)張鈸院士、清華大學(xué)人工智能研究院基礎(chǔ)理論研究中心主任朱軍教授共同擔(dān)任首席科學(xué)家。團(tuán)隊(duì)堅(jiān)持底層創(chuàng)新，敢為人先，基于第三代人工智能技術(shù)，從根本上增強(qiáng)人工智能的安全性、可靠性、及可信性?；谧灾骺煽氐讓涌蚣?，提供一系列AI基礎(chǔ)設(shè)施平臺(tái)，為高價(jià)值場(chǎng)景智能化升級(jí)提供可靠的一站式基礎(chǔ)保障。
RealAI致力于建設(shè)安全可控人工智能應(yīng)用生態(tài)，推動(dòng)人工智能落地全新的關(guān)鍵應(yīng)用場(chǎng)景。目前RealAI已經(jīng)落地于金融、能源、制造、互聯(lián)網(wǎng)等領(lǐng)域，提供金融智慧風(fēng)控、智慧理財(cái)、工業(yè)設(shè)備預(yù)測(cè)性維護(hù)、人臉識(shí)別系統(tǒng)安全檢測(cè)與增強(qiáng)等產(chǎn)品和解決方案。
關(guān)于深度偽造
“深度偽造”，也被譯作“深度造假”，譯自英語(yǔ)中新出現(xiàn)的一個(gè)組合詞Deepfake，是計(jì)算機(jī)的“深度學(xué)習(xí)”(Deeplearning)和“偽造”(fake)的組合，出現(xiàn)于人工智能和機(jī)器學(xué)習(xí)技術(shù)時(shí)代。它被稱作一種合成媒體(synthetic media)，是通過自動(dòng)化的手段、特別是使用人工智能的算法技術(shù)，進(jìn)行智能生產(chǎn)，操縱、修改數(shù)據(jù)，最終實(shí)現(xiàn)媒體傳播行為的一種結(jié)果。
通俗理解，“深度偽造”指的是把圖片和聲音輸入機(jī)器學(xué)習(xí)的算法，從而可以輕易地進(jìn)行“面部操作”(face manipulation)——把一個(gè)人的臉部輪廓和表情放置在其他任何一個(gè)人的臉上，同時(shí)利用對(duì)聲音的逼真處理，制造出實(shí)為合成卻看似極真的視頻——用以躲避識(shí)別、混淆視聽、娛樂用戶，以及實(shí)現(xiàn)其他虛假宣傳的目的。
(原標(biāo)題：一秒識(shí)破“AI換臉術(shù)”，RealAI煉就“火眼金睛”)
浙公網(wǎng)安備 33010602000006號(hào)
智能制造網(wǎng)APP
智能制造網(wǎng)小程序
微信公眾號(hào)
