換臉App亟須依法嚴格監管防控風險

新興技術給人們的生活帶來便利的同時，也帶來了隱患。有犯罪團伙利用AI技術制作虛假視頻騙取錢財，不法分子將女明星的臉換到色情視頻上出售，經典影視劇片段被隨意換臉篡改……利用AI技術“惡搞”甚至違法實例屢見報端，讓不少人蒙受錢財、名譽損失。

針對可能出現的風險，國家有關部門及時作出部署。2019年11月，國家互聯網信息辦公室、文化和旅游部、國家廣播電視總局聯合印發了《網絡音視頻信息服務管理規定》，要求利用新技術新應用制作、發布、傳播非真實音視頻信息的，應當以顯著方式予以標識﹔網絡音視頻信息服務提供者發現使用者利用基於深度學習、虛擬現實等的虛假圖像、音視頻生成技術制作、發布、傳播謠言的，應當及時採取相應的辟謠措施。該規定已於今年1月1日正式實施。

2019年12月，國家互聯網信息辦公室印發《網絡信息內容生態治理規定》，明確網絡信息內容服務使用者和網絡信息內容生產者、網絡信息內容服務平台不得利用深度學習、虛擬現實等新技術新應用從事法律、行政法規禁止的活動。此新規將於今年3月1日正式實施。

那麼，如今AI換臉技術是否還在被濫用呢？《法制日報》記者對此進行了採訪。

換臉軟件備受歡迎

法律風險不容忽視

據了解，自從去年換臉軟件“火”了之后，如今的常用換臉App已經有10多種。

《法制日報》記者發現，在安卓商店中最受歡迎的某款換臉App，其下載量已過億。多數用戶表示很好用很有意思，不過一些照片和視頻不能去除水印，而去除水印或者開通更多功能則需要收費。同時，也有用戶指出廣告太多，甚至會出現白屏、閃退、卡頓等問題。還有用戶稱，一些換臉軟件拍出來的照片不真實，或者很模糊。

為了更深入地了解換臉App，《法制日報》記者嘗試下載了兩款App。在使用XX變臉秀時，《法制日報》記者發現，該款軟件操作簡單，隻需簡單注冊就可以開始在圖片或視頻中輕易換臉，不過無法去除水印。

而另一款曾經名聲大噪的App，在注冊成功后，系統會要求上傳一張本人正臉清晰的照片，然后再進行肖像驗証。一旦系統確認，就可以在模版中找一個自己喜歡的明星進行換臉。操作時，可以選擇用手機拍照或者從相冊選擇照片，然后點擊替換，隻需要幾秒鐘便可制作完成。

據上海恆衍達律師事務所律師王艷輝介紹，現階段AI技術日趨成熟，開始運用於方方面面，AI技術娛樂化也是必然趨勢。在此情形下催生了換臉App，伴隨著智能手機的普及，這些App快速走紅。

“我們歡迎新事物，但是也要注意新事物伴隨而來的新問題，換臉App非法濫用和隱私泄露情況頻繁被報道，對於軟件的經營者，要注意民事的索賠、刑事控告、行政處罰的風險，軟件的使用者可能面臨隱私泄露、財產受損的風險。”王艷輝說。

“換臉App是數字時代數字技術運用的具體方式，但在激發大眾創造力和滿足自我娛樂的同時，其負面作用更應當引起重視。”中央財經大學法學院副教授朱曉峰認為，換臉軟件存在著過度收集個人信息以及侵犯肖像權、名譽權和著作權的風險，利用換臉軟件可以輕易綁架或盜用他人的身份，讓人“言”所未言、“行”所未行，以假亂真。

朱曉峰說，該軟件還可能成為實施色情報復、商業詆毀、敲詐勒索、網絡攻擊和犯罪等非法行為的新工具。例如，利用AI換臉技術制作虛假的色情視頻，以達到污蔑或報復他人的目的﹔制作、散播關於商業競爭對手的深度偽造信息，損害其商譽等﹔借用合成的虛假內容對他人實施敲詐勒索或施加精神壓力﹔借助該軟件破解人臉識別等驗証系統，非法盜刷他人支付賬戶、獲取他人個人信息或從事其他冒名的違法活動﹔同時也給法院鑒別聲音、視頻等証據材料的真偽帶來挑戰，甚至危害國家安全等。“應當通過法律手段嚴格監管換臉App的運營，對相應的違法犯罪行為依法予以嚴懲。”

切實保護用戶權益

避免淪為犯罪工具

《法制日報》記者發現，如今換臉技術已經被許多主播廣泛應用於短視頻制作以及直播中。比如，某位知名主播曾在直播時換不同明星的臉，天天不重樣。而在短視頻制作上，換臉的應用更為普遍，大多是惡搞經典影視劇片段或者演唱會，把本來的演員換成一些喜劇演員甚至非同一風格的演員，以達到吸引眼球的目的。

朱曉峰認為，這種換臉技術應用的行為，主要涉及電影作品的著作權保護問題。軟件方在其首頁推薦經典電影作品的片段，屬於使用他人享有著作權的作品的行為，如果該營利性使用行為未經電影作品著作權人許可或者授權，則侵犯了電影作品著作權人的相關權利。

從軟件的用戶角度看，用戶制作並上傳換臉后的視頻，使用了他人電影作品的片段，軟件作為內容或服務提供商傳播了用戶上傳的換臉視頻，則可能與制作並上傳換臉視頻的用戶一起構成共同侵權。不但侵犯了電影作品著作權人的財產權，而且侵犯了著作權人的著作權。

“用戶將他人的肖像通過換臉軟件更換惡搞視頻中的有關人物，如果達到侮辱他人的程度從而貶損他人的名譽，就會構成對他人名譽權的侵犯。”朱曉峰說。

在王艷輝看來，如果使用明星的照片未獲得授權，涉嫌侵犯肖像權、隱私權等合法權益﹔如果使用的影視作品、音樂作品未獲得授權，則涉嫌侵犯著作權、版權。

對於規范換臉App，王艷輝建議，換臉App應配合相關部門管理，遵守法律法規，加強風險防控﹔對於App使用的音樂、影視劇等，要有版權意識﹔對於用戶的數據加強保密，切實保護用戶合法權益，特別是數據安全，避免換臉軟件成為侵權乃至犯罪的工具。

據了解，換臉App在用戶注冊時都會有一些需要用戶同意的協議和隱私條款，而在這些條款裡，通常會規定“完全免費、不可撤銷、永久可轉授權和再許可”等“霸王條款”。

“換臉軟件方不能通過用戶協議把可能發生的責任全部轉嫁給用戶，而應當加強自己的監管。其中許多條款規定並不符合網絡安全法中關於信息收集正當性原則的要求，存在過度收集用戶個人信息的問題。”朱曉峰說，這種情況並不是個例，用戶往往不會逐條閱讀軟件提供的用戶協議，在勾選了“同意”的情況下，會造成軟件對於個人信息的過度和不當收集。

用戶在使用AI換臉技術制作發布視頻、圖片時，需要注意哪些問題？

朱曉峰認為，首先應避免侵犯肖像權和名譽權，相關平台對此也有審查的義務﹔其次，避免侵犯著作權。在對一些影視劇經典鏡頭進行換臉操作時，要注意自己行為是否侵犯了知識產權。除此之外，相關平台也要進行審查，甚至可以要求用戶在上傳視頻的同時提供相應的授權証明文件，或者在接到權利人告知的侵權通知后，及時進行核查並按照法律的規定採取相應措施。