最新>正文

實時熱點

換一換

網友還在搜

私人訂制熱點資訊
關注國搜官方微信

4天,ZAO從刷屏到被約談 人工智慧之路該咋走?

2019-09-04 18:19 | 中國搜索

只需在App上傳一張照片,就能將自己的臉替換成明星的臉,並成為影視作品裏的主角。近幾天,一款名為“ZAO”的AI換臉App在朋友圈刷屏。ZAO走紅的同時,也因隱私安全問題引發了網友的集體焦慮。

9月3日,工信部網站發佈公告説,針對最近引發熱議的ZAO App網路數據安全問題,對相關負責人開展問詢約談,並要求其組織開展自查整改。

“ZAO”狂歡背後的擔憂

8月30日晚,一款名為ZAO的AI換臉App忽然被瘋狂傳播。用戶只需通過手機號註冊,提交清晰的面部照片,即可將你想要的明星的臉“一鍵無縫”置換到自己身上,幾乎可以以假亂真。

ZAO因零門檻、操作簡單、代入感強,很快在朋友圈引起一輪狂歡。短短一天,已位居App Store榜單第2名。有評論稱其和抖音一樣會上癮,“刷了一夜”。

然而狂歡之後,很快就因隱私安全問題引發了網友們集體焦慮。畢竟臉部資訊是一種“生物資訊”,一旦洩露帶來的影響遠比上網時産生的數據資訊洩露風險更大。而且,網友們發現,“ZAO”的用戶隱私協議簡直就是個霸王條款。雖然之後“ZAO”修改了用戶協議,但卻未消除網友們對於AI換臉的擔憂。

9月3日,ZAO用戶隱私協議不規範、存在數據洩露風險等安全問題,引起了監管部門的關注,目前工信部已對相關負責人展開談約並要求其自查整改。

然而,一份“整改之後,你還願意在“ZAO”上面玩換臉嗎?”的網路調查顯示,大多數網友選擇了“算了吧,還是不太放心”。

刷臉支付還安全嗎?

對於用戶來説,ZAO換臉服務最大的風險在於對用戶人臉數據的收集。除了隱私,換臉應用還被質疑存在支付風險,必竟人臉與指紋、虹膜等都是可以用作身份鑒定的資訊。

對此,上海交通大學人工智慧研究院教授倪冰冰認為,目前人臉識別的演算法或防攻擊的演算法,不管有多先進,還是存在被人工製造出來的假臉所攻破的風險,現在有一種對抗樣本技術,在某些假的人臉識別圖像或視頻上,做很小的發動,比如局部換一下顏色、紋理,就可以欺騙過人臉識別的演算法,使得這張假臉可以通過刷臉認證,所以風險是始終存在的。

ZAO的安全風險被質疑後,支付寶針對刷臉支付安全性問題進行回應,表示對於網上各種換臉的軟體,目前尚不能逃過支付寶人臉識別技術的辨別。

不過此前央視3.15晚會就曾報道過,一張照片可騙過人臉識別,這次何況是動態的“臉”,警惕心不容放鬆。另外,還有網友擔心如何保證我們的“臉”不被賣掉或流入色情産業鏈,畢竟大家都是要“臉”的。

人工智慧該如何發展?

其實,AI換臉並不是新鮮事,ZAO也不是首個發明。在蘋果和安卓應用市場搜索“AI換臉”主題,還有“AI換臉”“顏技”“糰子相機”等産品。

早在2017年底,國外一位ID為“deepfakes”的網友,創造了AI換臉演算法deepfakes。這個AI換臉程式曾在國外風靡過,後來因為有人將該技術應用於色情視頻,諸多公眾人物成為受害者,隨後被封殺。

但AI換臉技術,卻一直進化至今。比如今年初,B站UP主“換臉哥”,使用這個技術將94版《射雕》裏朱茵扮演的黃蓉,換成楊冪的臉。

未來已來,人工智慧該如何在保障安全的基礎上發展?倪冰冰建議,從法律監管層面應該儘快制定相關的法律法規,規範目前的人工智慧應用,可以在哪些領域應用,不能在哪些領域應用,如果在某些領域應用,應該遵守哪些法律底線。另一方面,從人工智慧的研究者和應用的提供商來説,應該形成自我約束的道德準則,什麼能研究什麼不能研究,這些約束應該以行業準則的形式固定下來,並且對公眾開放,接受監督,讓普通百姓在使用人工智慧技術帶來的便捷的同時,不用擔心它所引發的風險。(完)

中國搜索擁有中央網信辦批准的新聞資訊採集、發佈資質,轉載本網稿件請註明來源為中國搜索!

文章關鍵詞:
責任編輯:康寧