國家市場監(jiān)督管理總局主管

中國消費者協(xié)會主辦

維護消費者合法權(quán)益,引導(dǎo)消費者合理消費

當(dāng)前位置:首頁 > 科技
防范“AI換臉”風(fēng)險 ZOLOZ Deeper問世
2024-04-16 17:18 本文來源:中國消費者報•中國消費網(wǎng) 作者:聶國春

中國消費者報北京訊(記者聶國春)4月16日,深度偽造(Deepfake)綜合防控產(chǎn)品ZOLOZ Deeper在北京正式發(fā)布,該產(chǎn)品以攔截用戶刷臉過程中的“AI換臉”風(fēng)險,目前已率先應(yīng)用在身份安全領(lǐng)域。

ZOLOZ DEEPER產(chǎn)品介紹。資料圖片

1月,一跨國公司香港分部職員收到該公司英國總部首席財務(wù)官的信息,聲稱要進行機密交易,分別邀請該公司數(shù)名財務(wù)職員進行多人的視頻會議。由于視頻會議中各人均顯示了與現(xiàn)實相同的容貌,職員不疑有詐,前后轉(zhuǎn)賬15次,共計2億港元。根據(jù)香港警方掌握的消息,詐騙者通過該公司的YouTube視頻和從其他公開渠道獲取的媒體資料,成功仿造了英國公司高層管理人員的形象和聲音,再利用深度偽造技術(shù)制作偽冒視頻,造成多人參與視頻會議的效果,然而會議內(nèi)只有參加的職員一人為“真人”。

ZOLOZ產(chǎn)品總監(jiān)陶冶介紹說,ZOLOZ Deeper搭建了端云一體的全鏈路技術(shù)體系,以應(yīng)對系統(tǒng)、服務(wù)器、應(yīng)用等多環(huán)節(jié)的深度偽造安全威脅。其前端通過精密的傳感器校驗與多維特征動態(tài)風(fēng)控,對攝像頭狀態(tài)、設(shè)備及網(wǎng)絡(luò)環(huán)境、輸入圖像等進行嚴格審查,確保軟硬件環(huán)境安全無風(fēng)險,采集到的生物特征數(shù)據(jù)真實無篡改;在用戶操作過程中,運用深度學(xué)習(xí)模型對用戶面部動態(tài)進行細致入微的分析,捕捉微表情、肌肉紋理、眼神流轉(zhuǎn)等細微特征,精準判斷其是否為真人實時互動。

作為螞蟻數(shù)科的科技品牌,ZOLOZ以生物識別技術(shù)見長,歷經(jīng)支付寶APP等大規(guī)模場景驗證。據(jù)悉,螞蟻數(shù)科每個月會進行超過2萬次的攻防測評,模擬上百種偽造攻擊情況,力爭跑在深度偽造技術(shù)的前面。

為持續(xù)提升ZOLOZ的安全水位,守護用戶的安全感,陶冶在現(xiàn)場宣布,ZOLOZ聯(lián)合螞蟻安全響應(yīng)中心設(shè)立了超百萬的獎金池,支持安全極客來挖掘ZOLOZ Deeper的漏洞,并通過“螞蟻集團安全響應(yīng)中心”官網(wǎng)提交漏洞情報。

據(jù)了解,目前ZOLOZ Deeper主要用于基于圖像識別的身份安全認證領(lǐng)域,基于視頻和實時通訊識別用于金融防詐和社交防騙的深度防偽產(chǎn)品還在開發(fā)中。


責(zé)任編輯:溫馨寧