• 加入收藏| 設為首頁| 站內搜索| 中國公司秀| “畫”說中國| 影響力企業| 分享

  • ?

    人臉識別行業蒙眼狂奔:刷臉無處不在 隱私難保障

    來源:中國新聞周刊   楊智杰   時間:2019-10-20 14:27   瀏覽量:21668

    人臉識別十字路口:臉的恐慌

    人臉識別公司正在不斷地嘗試打破更多邊界

    急于向投資人證明自己的估值

    “低調的學校上熱搜,準沒好事。”中國藥科大學大四學生周琪看到學校的新聞時想。

    8月底,有“藥界清華”之稱的中國藥科大學全面引入人臉識別技術,不僅用于門禁,還在試點教室安裝攝像頭刷臉考勤,并對學生課堂聽課情況全面監控。有報道稱:“在部分教室試水后,逃課和‘替同學答到’或將成為歷史。”

    一切早有端倪。6月,周琪收到學校通知,稱為了做好人臉識別系統,學生要提交高要求的照片做信息采集。兩個月后,周琪就體驗到了人臉識別的應用,出入校門、圖書館等“刷臉”通過,不用費勁找學生卡很方便,但是她沒想到隨之而來的是一場風暴。

    最初的宣傳焦點,是學校應用了先進的AI技術,但風向很快轉變,更多人開始對教室里無時無刻的監控感到恐懼。

    在賽迪顧問人工智能部門負責人王曉寧看來,這次的爭議,是人臉識別技術深入應用后必然會面臨的一個節點。從業內來看,2019年,將是人臉識別被市場檢驗的關鍵一年,很多公司正急于證明自己的變現能力,搶占更多賽道。但整個行業卻突然被集體卷入風暴眼:人臉識別使用的邊界,到底是什么?

    校園信息化的利弊

    山世光看到中國藥科大學的新聞時,并不意外。他是中科院計算所研究員、中科院智能信息處理重點實驗室常務副主任,研究人臉識別技術已經有二十多年。

    對于做技術的人而言,在校園應用人臉識別技術監控學生狀態不算新鮮事。“在業內,一些科技公司早已有了這樣的設想,或者擁有了接近成熟的技術。”山世光說。

    人臉識別進課堂的探索最早引發關注,始于2018年。在2018年第75屆中國教育裝備展示會上,人工智能公司曠視科技曾展出其智慧教育解決方案,利用人臉識別、表情識別等技術,記錄學生行為、表情、專注度、前排上座率等多維度課堂數據,輔助教學評估。除了曠視,百度、騰訊云等其他科技公司也都推出了“課堂專注度”分析的解決方案,技術和應用場景都相差無幾。

    一些學校和培訓機構正積極擁抱這項新技術。百度AI開放平臺顯示,杭州金沙湖實驗學校、在線機構海風教育,以及小童科技創業公司均是教育方案的客戶。

    去年3月底,浙江省杭州十一中在高一兩個班級試運行“智慧課堂行為管理系統”。與中國藥科大學幾乎同步,今年8月底,上海中醫藥大學附屬閔行薔薇小學與上海交通大學E-LEARNING實驗室合作,開發了智慧課堂行為分析系統。

    這些系統的做法普遍類似:每隔一段時間,用攝像頭掃描一次學生的臉,采集并分析他們的坐姿、表情,評價他們有沒有專注聽講。山世光把人臉識別監控學生狀態的能力,稱作“對人的深刻理解”。相較于常見的用于門禁“刷臉”的身份識別能力,這是更高的要求。

    深刻理解人類,本是人們對人工智能的美好期待之一,但是用在教室這個場景下,卻引起極大的不適感。

    山世光從業內了解到,一些學校和老師的確對這項技術有需求。中國藥科大學圖書與信息中心主任許建真在接受媒體采訪時就提到,安裝人臉識別系統是教務部門的要求,意在減少學生逃課、早退、找人代課以及上課不認真聽講等行為,嚴肅課堂紀律,同時評估老師的教學質量。

    “不是說做技術的人非把這個方案推銷給學校,一些老師在教學上面臨難題,他們不能關注到班里的每一個孩子,無法準確把握全班同學的學習狀態,如果有人臉理解技術做輔助,老師們可以更好地調整教學辦法。”同樣身為老師,山世光也有相似的感觸。

    但他也提到,不同職位的教育工作者對此有不同的態度。學校領導傾向于認為該技術有助于提升教學質量,而一些教師持反對意見,認為自己也被監控了。

    “大家的爭議主要在于公共場合下,個人信息被利用前的知情權,信息被采集的范圍和使用邊界等問題。” 賽迪顧問人工智能部門負責人王曉寧對《中國新聞周刊》說。

    中國藥科大學在使用這項技術前,曾向當地公安部門和法務部門咨詢,得到的答復是,教室屬于公共場所,不存在侵犯隱私的問題。

    但中國政法大學傳播法研究中心副主任朱巍認為,人臉識別要獲取學生的肖像權,肯定涉及侵犯學生隱私權,“盡管很多時候在使用肖像權上,學校會和學生有協議,但是學生通常是弱勢群體,這樣的協議是無效的,所以人臉識別監控的行為值得去探討。”

    教育學者關注的另一個問題是:即便不討論隱私,用人臉識別監控學生的狀態,更涉及教育的根本價值觀。

    在人臉識別進入課堂前,很多教室早已安裝了監控攝像頭。中國教育科學研究院研究員儲朝暉告訴《中國新聞周刊》,是否在教室里引入監控,是教育領域研究幾十年的老問題,業內的結論是:不能。他認為,反對基于兩個原因:“一、安裝監控系統后,教師和學生會以偽裝的面目出現在教學環境中,長此以往,教師和學生也會以偽裝的人格出現在社會上,這個習慣很難消除,可能會引發嚴重的社會問題;二、這涉及對教師和學生基本權利尊重的問題。”

    “人臉識別技術本身并無好壞,關鍵是看技術如何被使用。”山世光說,如何被使用,是一道選擇題,隱私、(公共)安全和便捷是三個選項,最好的答案是在三個維度上取得平衡,“中國藥科大學引入人臉識別技術并不新鮮,它之所以成為社會熱點事件,是因為在以上三個方面沒有很好地平衡。”

    在一片質疑聲中,教育+AI卻正成為未來教育的趨勢。前瞻產業研究院報告顯示,2023年,“智慧教育”市場規模有望突破萬億。作為AI領域目前最成熟的技術,人臉識別正深入教育行業,在刷臉簽到、學員身份查詢、校園安防、課堂檢測等諸多場景應用。

    一個繞不開的疑問是:人臉識別在校園里使用的邊界到底是什么?

    在儲朝暉看來,人臉識別技術在校園唯一適合的場景就是安防,用于識別非學校人員,保護學生安全,其余場景都用不上。“技術對于教學只能是錦上添花,不能替代教與學的位置。”儲朝暉對《中國新聞周刊》說。

    教育部已經就中國藥科大學的新聞作出了回應。科學技術司司長雷朝滋在接受澎湃新聞采訪時表示,“(對于人臉識別技術應用)我們要加以限制和管理。現在我們希望學校非常慎重地使用這些技術軟件。”他認為,人臉識別進校園,既有數據安全也有個人隱私問題。對于學生個人信息要非常謹慎,能不采集就不采。能少采集就少采集,尤其是涉及個人生物信息。

    教育部在近日也告訴《中國新聞周刊》,目前教育部正在針對人臉識別技術制定相關管理文件。

    2018年1月10日,比亞迪(46.900, -0.62, -1.30%)和華為公司聯合發布“云軌”無人駕駛系統。“云軌”實現了全自動無人駕駛運行,并具有人臉識別、斷電無人駕駛、自動診斷等多種功能。圖/新華

    蒙眼狂奔的行業

    在中國藥科大學引發風波的同時,以人臉識別起家的曠視科技也被推向了風口浪尖。

    9月初,曠視科技“智慧課堂解決方案”的視頻在網上流傳。視頻中,公司運用人臉識別技術,學生的臉被方框圈出,旁邊顯示“專注度33%,表情分析結果:厭惡”“趴桌子0次,玩手機0次,睡覺0次,聽講6次,閱讀8次,舉手6次……”

    這樣先進的“科技”,讓很多人不寒而栗。不過,據核實,中國藥科大學使用的并非曠視科技的技術,但是這個視頻卻成了人臉識別監控學生狀態最形象的注解。

    曠視科技很快作出官方回應,稱網上出現的課堂行為分析圖片,只是技術場景化概念演示。曠視在教育領域的產品專注于保護孩子在校園的安全,其列舉的方案內容主要是在出入校門的身份識別。這樣的解釋,卻很難自圓其說。

    陷入爭議和風波,對剛剛申請IPO的曠視來說,不是一個好兆頭。8月25日,曠視科技在港交所提交IPO招股文件,一旦成功IPO,曠視科技將是AI上市第一股。

    作為AI明星創業公司,曠視一路高歌猛進,正代表了國內人臉識別產業的發展速度。以人臉識別發家的商湯、曠視、依圖、云從四大計算機視覺“四小龍”,一直是資本的寵兒,也是人工智能公司中的“網紅”。IDC(互聯網數據中心)統計,2017年CV“四小龍”合計占據計算機視覺應用市場69.4%的市場份額。

    人臉識別所屬的計算機視覺技術,是無人駕駛、VR/AR、醫療檢測等應用背后的基礎技術之一。在深度學習算法驅動下,計算機視覺技術在近幾年取得了突破性的進展。眾多巨頭和創業公司紛紛涌入,人臉識別成為AI最熱門的賽道之一。

    國金證券(8.590, -0.15, -1.72%)行業研報提到,計算機視覺是最具商業化價值的賽道,全球40%的AI企業都集中在該領域。應用方向上,國內以安防、金融和互聯網為主,國外以消費、機器人(14.110, -0.17, -1.19%)和智能駕駛為主。

    在所有計算機視覺創業公司中,人臉識別的公司數量最多,技術成熟度也比較高。目前,中國人臉識別精確度已經超過人眼。前瞻產業研究院的數據顯示,2016年,我國人臉識別行業市場規模約為17.25億元,同比增長27.97%。

    “四小龍”基本都靠人臉識別技術起家,不過,這些以單點技術起家的CV(計算機視覺)公司正努力擺脫“CV”標簽,從最初的算法提供商轉變成平臺或者服務商。曠視科技品牌市場團隊副總裁謝憶楠曾對《中國新聞周刊》表示,大家跑馬圈地的階段結束,證明算法是否世界第一不重要了,目前進入到了證明商業價值的階段,要看技術給行業能帶來什么改變。

    曠視在成立之初主要推出Face++人臉識別開放平臺,如今,其官網則強調自己是“智能物聯網方案提供專家”,業務涉及安防、金融、零售等領域。商湯重點發力金融、安防、智能駕駛、移動互聯網、醫療和教育等行業,云從將金融、安防、風控、交通、商業作為重點探索場景,依圖也聚焦安防、醫療和金融、零售等行業。

    從頭部公司探索的應用場景看來,計算機視覺的應用仍然暴露出明顯的問題:應用領域重合,落地產品同質化,競爭異常激烈。

    不少業內人士都注意到,隨著人臉識別技術應用進入“井噴期”,“掛羊頭賣狗肉”的產品不少,存在較大的產業泡沫。以最常見的“考勤機”為例,價值數百元至上萬元不等,一些暢銷的“千元機”,只要臉部采集的數據能吻合六成以上,便能認定是同一人。市場良莠不齊,很多打著“人工智能”旗號的人臉識別技術真假難辨。

    國金證券報告提到了另一個行業痛點:計算機視覺技術研發周期長、盈利困難。除安防、金融等少數場景,大多數領域還找不到清昕的商業模式。

    曠視科技一直處于虧損狀態,根據其招股書顯示,2016年至2019年上半年,曠視科技分別虧損3.43億元、7.59億元,及33.51億元和52億元。不過曠視科技回應,大幅虧損主要是由于上市引發的優先股的公允價值變動。

    曠視招股書顯示,曠視成立8年來,共融資13.51億人民幣,業內預計曠視的估值會在40億美元左右。而另一家獨角獸商湯則是“四小龍之首”,其聯合創始人徐立近日證實,商湯今年的估值超過75億美元。線性資本創始人王淮曾對《中國新聞周刊》介紹,“如果僅僅是做人臉識別撐不起這么高的估值,這些公司必然要去拓展其他業務,才能匹配這樣的高估值。”

    人臉識別公司,正在不斷地嘗試打破更多邊界,急于向投資人證明自己的估值。人臉識別進課堂的爭議,正是在這個大背景下發生的。一位行業人士在接受虎嗅網采訪時坦言,作為一家將要IPO,但營收并不好看、還存在虧損的人臉識別技術公司之一,業績壓力也讓他們想尋找各個途徑實現技術變現,對于一些產品設計的思考可能欠妥當。

    刷臉無處不在

    在產業前景和資本助推下,人臉識別正在成為無法阻擋的趨勢。

    前瞻產業研究院報告顯示,隨著國內智慧城市的深入發展,城市監控的高清化進一步普及,攝像頭數量大規模增長,人臉識別在數據采集上的阻礙大大減小,提升了人臉識別的質量與應用領域。預計未來5年人臉識別市場規模將保持年均25%的增速,2022年市場規模將達到約67億元。

    越來越多高校、醫院、社區、工業園區、景區、機場、火車站,都在推廣“刷臉”通行。清華大學新聞學院教授沈陽曾對媒體提到,中國人平均每天要暴露在各種攝像頭下超過500次。

    2017年5月,上海開始試點“電子警察”抓拍行人闖紅燈設備。一旦監測到有行人闖紅燈,設備就會對闖紅燈行為進行完整攝錄,并對該行人進行連續抓拍進行人臉識別,隨即在周邊的公交站點顯示屏上進行公告。這項技術目前在深圳、天津、太原、濟南等多個城市都已經展開使用。

    各種應用場景“腦洞大開”,2017年,北京天壇公園在3座公廁中安裝了6臺人臉識別廁紙機,以此杜絕偷廁紙的行為。

    在網約車行業,基于人臉識別的駕駛員身份驗證,也開始普遍應用。比如,美團打車的新注冊駕駛員,在首次接單前、更換手機設備或活躍接單駕駛員都會觸發App端人臉識別,通過技術比對確認實際運營駕駛員與平臺注冊信息及公安部門登記信息是否一致。人臉識別未通過的駕駛員將不能接單,需重新提交信息。

    而讓更多人“驚喜”的是,人臉識別在抓獲逃犯方面,屢建奇功。有網友統計,自2018年以來,“歌神”張學友在全國各地的巡回演唱會中,警方依靠人臉識別技術,抓獲了幾十名逃犯。

    人臉識別在社交應用軟件中也無孔不入。8月底,國內一個AI換臉App“ZAO”在朋友圈刷屏,僅需一張照片,用戶就可以換臉成為熱門劇作里的角色。其實,此類社交性的應用早就無處不在,美顏相機、照片換臉,背后皆是人臉識別技術在支持。

    但對這項技術安全隱患的擔憂,從來沒有停歇。人臉和其他生物特征數據(如指紋)之間的一個巨大區別是,它們可以遠距離起作用。智能硬件、攝像頭隨時隨地采集個人影像資料,長時間、大規模地積累用戶數據,而不被察覺。

    除了被強制收集,這些人臉信息的存儲,同樣存在安全隱患。今年2月,GDI基金會荷蘭安全研究員Victor Gevers在推特上爆料,中國深網視界科技有限公司(SenseNets)發生了大規模數據泄露事件,稱這家公司掌握的250多萬人的個人信息,其中包含身份證號碼、地址、生日、通行證、雇主,以及其過去24小時內路過攝像頭的位置,可供任何人訪問。

    人臉識別技術本身也存在很多漏洞。在GeekPwn2017國際安全極客大賽上,畢業于浙江大學計算機專業的90后女選手“tyy”僅用時兩分半鐘就破解了人臉識別門禁系統,把設備中存儲的評委人臉換成了自己的臉,這也意味著可以用任意人臉來“蒙騙”人臉識別系統,打開門禁。

    “目前,對人們生物特征的保護,例如虹膜、人臉、指紋等的保護,都沒有被寫進現有法律,信息保護的責任主體、責任邊界,如何使用、處理和銷毀信息,法律都未具體規定。”中國政法大學傳播法研究中心副主任朱巍告訴《中國新聞周刊》,在法律脫節的當下,商業倫理要有約束力,“人臉識別公司作為技術源頭以及獲益者,必須讓用戶有獲知風險的知情權。”

    技術發展的倫理和法律邊界

    不僅在中國,當前全球很多國家都籠罩著“被人臉識別監控”的憂慮。

    近日,微軟刪除了其最大的人臉識別數據庫MS Celeb,英國《金融時報》報道,數據庫中采集的很多圖像的主人并沒有授權這一行為,MS Celeb 數據庫通過“知識共享”許可證來抓取和搜索圖像,這引發一些人的反對。

    美國的一些地方開始出臺禁令,對人臉識別說不。今年5月14日,美國高新技術產業聚集的舊金山通過一條禁令,決定該市所有政府部門,包括該市交通管理局和執法部門,都禁止使用這個新技術。隨后,馬薩諸塞州的薩默維爾和加州的奧克蘭相繼出臺人臉識別禁令。

    歐洲對人臉識別的使用更為謹慎。2018年5月,歐盟實施通用數據保護條例(簡稱“GDPR”),規定違規收集個人信息(其中包含指紋、人臉識別、視網膜掃描、線上定位資料等)、沒有保障數據安全的互聯網公司,最高可罰款2000萬歐元或全球營業額的4%,被稱為“史上最嚴”條例。

    近日,瑞典一所高中因使用了人臉識別系統記錄學生的出勤率,經過調查后被認定學校對學生個人信息處理不符合“GDPR”的規定,收到了第一張基于“GDPR”的罰單,金額為20萬瑞典克朗(約合14.5萬人民幣)。

    美國國家標準與技術研究院(NIST)2018年全球人臉識別算法測試最新結果中,2018年共有全球39家企業和機構參與本次競賽,前五名算法被中國公司包攬。

    山世光認為,中國人臉識別技術和產業的發展,得益于互聯網上大量的數據,比如網民很樂于在互聯網上發布自己的照片,加上國內外政界、娛樂界公眾人物的照片,科技公司都可以拿來用作訓練人臉識別的能力,這在法律上也處于灰色地帶。

    “這些數據采集后如何保存、傳輸,傳給誰,怎么用,誰能看得到,誰能把數據考走,能否放在網絡上等等,都是純粹的法律問題。”山世光對《中國新聞周刊》說。

    作為技術研發者,山世光內心的感受很復雜。在他看來,一方面,中國的人臉識別技術和應用均在全球領先,如果完全追隨美國和歐洲對數據和隱私的保護,對人臉識別發展會產生很大的阻礙。

    但他承認,人臉識別技術帶來的隱私和安全問題,已經到了必須正視的時候,“要在隱私、安全和便捷三者之間找到恰當的平衡,允許技術適度向前發展,同時保護公民隱私。”

    (應受訪者要求,周琪為化名)


    【責任編輯:歐陽雪】
    手機掃碼 繼續閱讀

    分享到…


      青海快3开奖结果走势图