北美首頁 | 新聞 | 時尚 | 大陸 | 臺灣 | 美國 | 娛樂 | 體育 | 財經 | 圖片 | 移民 | 微博 | 健康

新京報:“看”臉時代 人臉識別應用引來爭議

http://dailynews.sina.com   2019年11月18日 15:30   新京報

  原標題:“看”臉時代,人臉識別應用引來爭議

  人臉識別廣泛應用到支付、娛樂、教育等領域,有人感嘆科技的進步,也有人質疑“我的臉到底屬於誰”。

  人臉,承載了重要的身份信息,而在技術面前,人臉正成爲辨認個體身份的“重要數據”。從上班打卡到消費支付,從安保檢查到酒店入住,從應用軟件到視頻娛樂,人臉識別的技術正應用到工作、生活的各個領域。

  人臉識別廣泛應用,有人感嘆科技的進步,也有人質疑“我的臉到底屬於誰”?近期,中國人臉識別第一案備受關注。因杭州野生動物世界啓用人臉識別入園,該園年卡用戶認爲其強制收集個人面部特徵,違反《消費者權益保護法》而將杭州野生動物世界訴至法院。

  事實上,人臉識別帶來的爭議遠不止此,從AI換臉淫穢視頻到ZAO App的用戶協議爭議,再到人們對人臉識別進校園、惡搞視頻氾濫的迷惑,這些都從不同維度反映着民衆對人臉識別技術的擔憂。

記者體驗某公司智慧課堂人臉識別技術相關係統。  新京報記者 程平 攝記者體驗某公司智慧課堂人臉識別技術相關係統。  新京報記者 程平 攝

  風波:“換臉”淫穢視頻網上依然有售

  今年8月,新興的娛樂換臉軟件“ZAO”(陌陌公司的一款產品)一夜之間衝上了微博熱搜,ZAO在蘋果應用商店的標語是“僅需一張照片,出演天下好戲”,ZAO使用AI技術,將用戶上傳的照片置入影視片段之中,實現用戶與“明星”的換臉。

  隨着該軟件被用戶熟知,ZAO的用戶協議也受到了爭議。新京報記者調查發現,ZAO在用戶協議中寫到,“保護您的用戶信息與個人信息是ZAO及其關聯公司的一項基本原則,您同意,ZAO及其關聯公司將按照本協議及《隱私政策》的規定收集、使用、存儲、管理和保護您的用戶信息與個人信息;若您不同意或無法接受《隱私政策》全部或者部分條款或者有疑問的,請立即停止使用ZAO提供的服務,您繼續使用ZAO提供的服務將被視爲接受”。

  上述協議內容意味着,用戶使用該軟件,則被視爲同意隱私政策,ZAO可以收集、使用、存儲、管理和保護用戶信息與個人信息。不僅上述條款,ZAO的用戶協議中,有關用戶上傳內容的使用權、授權內容位置、隱私協議、版權等方面均遭到質疑。

  9月3日,針對媒體公開報道和用戶曝光的ZAO用戶隱私協議不規範,存在數據泄露風險等網絡數據安全問題,工信部網絡安全管理局對北京陌陌科技有限公司相關負責人進行了問詢約談。新京報記者近期調查發現,ZAO的用戶協議已經修改,肖像權、授權內容、用戶個人信息保護等內容被放置在用戶協議的明顯位置。

  ZAO受到關注之前,新京報記者曾調查發現,有人利用“AI換臉”技術製作淫穢視頻,並在網絡上傳播售賣,甚至有人出售製作教程。這些視頻通過電腦技術將明星的臉植入淫穢視頻中,買賣方多通過貼吧、QQ和閒魚進行溝通交易。

  近期,新京報記者調查發現,名爲“AI換臉”“deepfake(與AI換臉相關的技術)”的貼吧均已被清理。不過,網絡上依然可以找到“明星換臉”“fakeapp(與AI換臉相關的技術)”等貼吧,並且貼吧裏仍然存在網友自制的“明星換臉”視頻。

  新京報記者在貼吧中聯繫上某淫穢視頻賣家,該賣家向記者出示了包含明星名字、“明星換臉”淫穢視頻類目、“明星換臉”淫穢視頻截圖等。賣家稱,視頻僅以打包價形式出售,214部138元,附送精品在線看網站+AI網站(4個)或80部50元。

  同時,新京報記者在閒魚上檢索“換臉”“AI換臉”“明星換臉”“deepfake”“fakeapp”等關鍵詞,均未搜索出任何相關商品;在淘寶上搜索相同的關鍵詞,只檢索到“AI換臉視頻教學”等商品。值得注意的是,多個明星的大頭照正被作爲訓練人工智能的素材被售賣。

  爭議:人臉識別走進校園,有贊成有質疑

  2018年,杭州某中學將一款“智慧課堂行爲管理系統”應用於課堂教學,時任校領導表示,該系統可實現無感“刷臉”考勤,同時通過攝像頭,還可對課堂上學生的行爲進行統計分析,對異常行爲實時反饋。該領導曾在接受新京報記者採訪時表示,“所採集的只是學生行爲狀態信息,進而轉換成代碼進行分析,而不是課堂錄像,不涉及學生們的隱私”。

2019年10月15日,南京某大學近期啓用了人臉識別門禁系統。 圖/視覺中國2019年10月15日,南京某大學近期啓用了人臉識別門禁系統。 圖/視覺中國

  新京報記者近日選取某公司的人臉識別課堂輿情產品進行測試,被監控區域中的人臉會被系統自動抓取,並在顯示器上被紅色邊框標示出來,邊框右側顯示的是被分析的結果,包括什麼情緒、注意力程度,以及皺眉、張嘴、閉眼、抿嘴的具體次數。記者測試發現,該系統存在一定程度的誤差,識別的臉部表情、心態與實際有不符合的情況。

  事實上,隨着智慧校園的建立,多個高校已經引入人臉識別、人臉數據採集分析等相關係統。新京報記者瞭解到,目前北京大學、清華大學、中國傳媒大學等北京高校,均配有人臉識別的門禁或設備。

  “我們學校東門今年新設了人臉識別門禁系統,我覺得很方便。”中國石油大學(北京)的學生王強(化名)表示,原來需要刷學生卡才能進入學校東門,現在只用刷臉就進去了,他認爲沒有什麼不妥,不用帶卡也更方便。

  “利用人臉識別類技術,無論是進行課堂管理還是教學效果分析,都不可避免要收集用戶的數據。”聯合國網絡安全與網絡犯罪問題高級顧問吳沈括告訴新京報記者,若類似技術被非法利用,個人信息的安全等問題將存在法律風險。也有觀點稱,人臉識別技術應用在教育領域涉及倫理問題。

  目前,華爲、百度、商湯科技、雲從科技、曠視科技等公司都有人臉識別技術研發,並涉及公共安全、信息安全、政府職能等多個領域。智研諮詢《2017-2022年中國生物識別設備市場供需預測及發展趨勢研究報告》顯示,預計到2020年,指紋識別市場規模將達到130億美元、人臉識別將達24億美元、虹膜識別將達到16億美元。

  上述報告還指出,中國在生物識別技術領域研究已處於世界先進水平,但目前應用規模和滲透率與歐美市場相差還很大,加之目前行業增速穩定,估計國內未來將有較大發展空間,預計2020年生物識別市場規模將突破300億元。

  訴訟:中國人臉識別第一案受關注

  說到人臉識別的爭議,最受關注的恐怕要數中國人臉識別第一案。

  11月1日,浙江理工大學特聘副教授郭兵收到杭州市富陽區人民法院的受理案件通知書,法院決定立案受理郭兵訴杭州野生動物世界一案。郭兵於2019年初花費1360元購買了杭州野生動物世界的年卡,該卡有效期一年,入園時要同時驗證卡和指紋。2019年10月17日,郭兵收到園區發來的短信稱,“年卡系統已升級爲人臉識別入園,原指紋識別已取消,即日起,未註冊人臉識別的用戶將無法正常入園。”

  儘管園區表示,這一做法出於讓遊客快速通行的需求,但郭兵認爲,杭州野生動物世界在未經其同意的情況下,通過升級年卡系統,強制收集他的個人生物識別信息,嚴重違反了《消費者權益保護法》等法律的相關規定。同時,現由於杭州野生動物世界的原因導致年卡無法正常使用,郭兵希望,杭州野生動物世界應退還年卡費用。

  “這不僅是對於我自己權益的侵害,很多人可能都面臨着這樣的情況。”郭兵對新京報記者表示,面部特徵等個人生物識別信息屬於個人敏感信息,一旦(被)泄露、非法提供或者濫用,將極易危害消費者的人身和財產安全,“如果是政府部門,特別是公安爲了社會公共秩序進行人臉識別,可能具有一定必要性。”

  北京志霖律師事務所副主任趙佔領表示,收集、使用個人信息需要符合正當、合法、必要的原則,需要公開收集、使用規則,明示收集、使用信息的目的、方式和範圍,並經被收集者同意,“人的臉部特徵這種生物信息屬於個人信息的範圍,也是需要遵守網絡安全法等相關法律法規的規定”。

  除了此案,歌手蔡徐坤給嗶哩嗶哩彈幕視頻網站(B站)發律師函,也曾把娛樂換臉視頻推上了風口浪尖。今年4月,蔡徐坤方發出律師告知函,認爲B站上存在大量嚴重侵犯蔡徐坤權利的內容,包括濫用肖像、故意誹謗、惡意剪輯等。蔡徐坤方提到的惡意剪輯視頻,就包括惡意將其他人的臉換到蔡徐坤的表演視頻裏。新京報記者調查發現,不僅蔡徐坤,B站上有大量的“AI換臉”視頻,且人氣較高,其中,一個將明星蔡徐坤的臉替換成前網絡遊戲主播盧本偉的臉的視頻,在嗶哩嗶哩上的播放量爲260多萬。

  不少B站網友,在相關“AI換臉”視頻評論區留言“毫無違和感”“搞笑”“換臉也是惡搞視頻的一種,就是圖個樂”。網友舒米(化名)告訴新京報記者,他出於獵奇和娛樂心態,喜愛觀看“AI換臉”視頻。但也有多名網友在相關視頻的評論區提出了對於“AI換臉”技術的其他看法,網友灰燼(化名)說,“‘AI換臉’,(可能用於)敲詐勒索色情造謠,技術無罪,果然還是人本惡”。

  新京報記者 程平 陳維城

Bookmark and Share
|
關閉