近日，一款主打“僅需一張照片,，出演天下好戲”的換臉App——“ZAO”大火,。該App使用AI技術(shù)，用戶只需要一張正臉照,，就可以替換為影視作品或者小視頻中的人物,，生成以自己為主角的視頻片段,。這讓“戲精”上身的網(wǎng)友一夜之間刷屏朋友圈。
天眼查信息顯示,，ZAO所屬公司為長沙深度融合網(wǎng)絡(luò)科技有限公司，法定代表人為陌陌聯(lián)合創(chuàng)始人兼游戲業(yè)務(wù)部總裁雷小亮,，由海南貓咖網(wǎng)絡(luò)科技有限公司100%控股,。而后者由雷小亮和陌陌董事、總裁及COO王力各持股50%,。
爭議：
1.“換臉視頻”收集的面部信息,，是用戶最核心的個人信息
由于換臉后需要進行眨眼、抬頭等各種驗證,，與刷臉支付采集的臉部信息類似,，同時注冊平臺需要手機號碼，不少用戶擔(dān)心臉部數(shù)據(jù)被泄露會引發(fā)一系列問題,。專家指出,，此類軟件的確存在隱私泄露風(fēng)險。
中國政法大學(xué)傳播法研究中心副主任朱巍分析,，在這個過程中,，可能存在核心個人信息泄露的風(fēng)險，“首先,，換臉技術(shù),，包括在搜集信息過程中轉(zhuǎn)動臉部、眨眼,，本質(zhì)是搜集了你面部的識別信息,，這個是用戶最核心的個人信息。個人信息一旦被比對之后,，如果落到壞人的手里,，有可能涉及財產(chǎn)安全和人身安全的問題。”
2.“換臉視頻”中,，涉及影視劇著作權(quán),、知識產(chǎn)權(quán)
在軟件內(nèi)置可供選擇的影視劇片段中，有包括《延禧攻略》《長安十二時辰》《還珠格格》在內(nèi)的多部熱門國內(nèi)電視劇,，也有石原里美,、萊昂納多·迪卡普里奧等國外明星的影視劇片段，還有大量熱門的綜藝片段,。
對此,，朱巍指出：“換臉技術(shù)要把人臉放到影視劇里面去，影視劇本身涉及著作權(quán),、知識產(chǎn)權(quán),。突然間把臉換了,，是不是構(gòu)成合理使用？這個可能跟知識產(chǎn)權(quán)法有密切關(guān)系,。”
3.App的用戶協(xié)議太霸道
這款軟件的用戶協(xié)議寫道,，使用這款軟件的換臉功能，需要同意授予這款軟件及其關(guān)聯(lián)公司全球范圍內(nèi)完全免費,、不可撤銷,、永久、可轉(zhuǎn)授權(quán)和可再許可的權(quán)利,，包括但不限于：人臉照片,、圖片、視頻資料等肖像資料中所含的肖像權(quán)利人的肖像權(quán),，以及利用技術(shù)對肖像權(quán)利人的肖像進行形式改動,。
北京岳成律師事務(wù)所律師岳?山指出：“我授權(quán)給你以后，你不能把我的照片用于其他的非法用途,，或者把我的照片進行修改,、丑化、惡搞,，這對我授權(quán)給你使用肖像權(quán)的目的存在一定偏差,。這個時候其實對于上傳照片的App用戶來講，可能構(gòu)成的是名譽上的侵權(quán),，或者導(dǎo)致他的社會評價降低等,，這也有可能構(gòu)成侵權(quán)。”
8月31日晚,，該款軟件“用戶協(xié)議”中,，“您的必要授權(quán)”這一項內(nèi)容與此前相比進行了較大幅度的修改，去掉了關(guān)聯(lián)公司相關(guān)表述等內(nèi)容,。
回應(yīng)：“不管換得多逼真,，都無法突破刷臉支付”
“目前，網(wǎng)上各類換臉軟件有很多,，但不管換得有多逼真,，都是無法突破刷臉支付的。”8月31日中午,，螞蟻金服官方回復(fù)21世紀經(jīng)濟報道記者時說,。此外，在進行人臉識別后,，部分用戶還需要輸入與賬號綁定的手機號進行校驗,，進一步提高了安全性。同時,，支付寶還會通過各種安全風(fēng)控策略確保賬戶安全,。
一位國有大行網(wǎng)絡(luò)金融部負責(zé)人表示,，其團隊今年年初找權(quán)威機構(gòu)做過人臉識別相關(guān)的檢測，“在活體檢測,、視頻攻擊等方面存在一定風(fēng)險,；后臺算法升級會使防控效果有一定提升，但是類似換臉的攻擊威脅會一直存在,。”
觀點：“科技向善”應(yīng)該成為我們的底線
在2019世界人工智能大會上,，在以“科技有道，擇善而行”為主題的分論壇上,，該App引起了嘉賓們的討論。
英特爾副總裁陳偉提到,，如果一些技術(shù)用得不當,，可能會造成不良后果，“技術(shù)能決定你走多高,，向善能決定你走多遠”,。
騰訊董事會主席兼首席執(zhí)行官馬化騰在2019世界人工智能大會開幕式演講時說，這也再次提醒人們思考如何探索人與AI的正確相處之道,。“在AI的治理方面,，以科技向善引領(lǐng)全方位治理，確保AI可知,、可控,、可用、可靠,。這個‘四可’的原則,，是我在去年大會上提出的。觀察這一年來的情況,，我們發(fā)現(xiàn)AI治理的緊迫性越來越高,。”
騰訊優(yōu)圖實驗室總經(jīng)理吳運聲說，這個技術(shù)不僅僅涉及視頻,，還有聲音,。“科技向善確實應(yīng)該成為我們的一種底線。我們要不斷地去思考：我們技術(shù)的底線在什么地方,？”
思考：人工智能進行“換臉”門檻逐漸降低,，安全隱患增加
其實，人工智能進行“換臉”的技術(shù)數(shù)年前已經(jīng)出現(xiàn),。2017年,，國外一個論壇用戶首先將自己制作的“換臉”視頻發(fā)布在網(wǎng)絡(luò)上，利用這一技術(shù),，他將國外女明星的照片與色情影片合成,，幾乎以假亂真,，一度引發(fā)巨大爭議。今年年初,，有國內(nèi)用戶在網(wǎng)絡(luò)上發(fā)布一段合成的“換臉”視頻,，將一段電影片段中朱茵的臉換成了楊冪，也曾引起爭議,。隨著如今這款軟件的爆紅,，視頻“換臉”門檻進一步降低。
AI換臉軟件所引發(fā)的爭議表面上是圍繞隱私保護,，但在本質(zhì)上卻反映了一個全社會甚至全人類必須面對的新課題：人類技術(shù)在飛速進步,，在不斷進入新的領(lǐng)域，它不僅給人類帶來更高品質(zhì)的生活,，同時也會引發(fā)大量創(chuàng)造性破壞,。這對人類現(xiàn)有制度體系、運行機制,、法律規(guī)則和社會秩序等都將造成前所未有的挑戰(zhàn),。
作者：吳海舒
編輯：吉倩倩 實習(xí)編輯 王紅春
來源：據(jù)央廣網(wǎng)、上游新聞,、新京報,、澎湃新聞、第一財經(jīng),、21世紀經(jīng)濟報道