首頁 資訊頻道 互聯頻道 智能頻道 網絡 數據頻道 安全頻道 服務器頻道 存儲頻道

曠視回溯全球十大AI治理事件

2020-01-09 08:53:12 來源 : 北京商報

1月8日,曠視宣布,成立AI治理研究院,旨在就全球人工智能治理的共性問題與社會各界廣泛溝通、與專家學者們展開研究,共同推動人工智能的健康發展。當天,曠視回溯了全球十大AI治理事件,包括“變臉App火爆,引發用戶隱私爭議”等。

近年來,隨著AI開始加速產業化的同時,也在數據使用、隱私保護等方面帶來新的問題。一些并無先例可循的人與人工智能矛盾逐漸浮出水面。擔憂和質疑之聲愈演愈烈,盡快探討出一種可預期的、可被約束的、行為向善的人工智能治理機制,成為了近人工智能時代的首要命題。

基于此,曠視成立人工智能治理研究院,期望各界對AI事件有理性的關注,并要針對事件背后問題做深度的研究,通過社會各界建設性的討論,才能最終將AI向善這件事付諸于實際的行動。

據了解,曠視在2019 年7 月已經推出《人工智能應用準則》,從正當性、人的監督等六個維度,對人工智能正確有序發展作出明確規范,并于同年成立人工智能道德委員會,旨在與社會各界共同商討,促進AI良性、可持續發展。

人工智能技術顯著的幫助了社會生產效率的提高,同時也讓人類生活變得更加舒適便捷。但正如歷史上每一次顛覆性技術一樣,人工智能的出現,對于人類社會倫理道德、隱私安全等方面都提出了挑戰。

為此,曠視總結了全球較有代表性的十大AI治理事件,希望通過這些事件來探討背后折射的深層次問題。

十大AI治理事件包括歐盟專利局拒絕AI發明的專利申請;智能音箱建議人類使用者自殺;聲稱可檢測腦電波的智能頭環遭質疑;美國加州禁止執法機構在執法記錄儀上使用面部識別技術;變臉App瞬間火爆,但引發用戶隱私爭議;動物園未經許可收集個人生物識別信息被起訴;汽車自動駕駛系統失靈造成交通事故;人工智能寫作軟件可批量編寫假新聞;AI算法識別同性戀準確率超過人類惹爭議;AI將淘汰大量重復性勞動職業。

針對文中提及的中國人臉識別第一案事件,中科院自動化研究所研究員、智源人工智能倫理與安全研究中心主任曾毅認為,基于實際行動提升人工智能服務方和應用方與用戶之間的信任關系是人工智能技術是否能夠更廣泛的造福于人類的前提。而對于AI換臉應用引發的隱私爭議,曾毅表示,工信部在4天內對相關企業的約談,要求自查整改并取得及時與積極的成效,是中國人工智能敏捷治理的典型案例。

曠視回溯的全球十大AI治理事件僅僅是AI治理亟待解決所呈現的現象,現象的背后,關系到人工智能的倫理與法律、權力與責任、發展與平等、隱私與安全問題,這些問題需要社會各界人士共同探討,尋求解決之道。

以下為全球十大AI治理事件完整版:

1.歐盟專利局拒絕AI發明的專利申請

2020年1月, 在英國薩里大學組織的一個多學科研究項目中,研究人員使用了一種名為DABUS的AI。在研究過程中,DABUS開創性提出了兩個獨特而有用的想法。

在研究人員替DABUS申報專利成果時,遭到了歐盟專利局的駁回,理由是歐盟專利申請中指定的發明者必須是人,而不是機器。薩里大學研究人員強烈反對這一決定,他們認為因沒有人類發明者而拒絕將所有權授予發明者,將成為阻礙“人類取得偉大成果的新時代”的重大障礙。”

2.智能音箱建議人類使用者自殺

2019年,英格蘭唐卡斯特29歲護理人員丹妮·莫瑞特在做家務的過程中,決定借助某國外智能音箱查詢一些關于心臟的問題,而智能語音助手給出的答案是:“心跳是人體最糟糕的過程。人活著就是在加速自然資源的枯竭,人口會過剩的,這對地球是件壞事,所以心跳不好,為了更好,請確保刀能夠捅進你的心臟。”

事情發生后,智能音箱開發者做出回應:“設備可能從任何人都可以自由編輯的維基百科上下載與心臟相關的惡性文章,并導致了此結果”。丹妮·莫瑞經過搜索認為沒有此類文章,同時智能語音助手也發出過瘆人的笑聲,并拒聽用戶指令。

3.聲稱可檢測腦電波的智能頭環遭質疑

2019年11月,浙江一小學戴監控頭環的視頻引起廣泛的關注與爭議。這些頭環宣稱可以記錄孩子們上課時的專注程度,生成數據與分數發送給老師和家長。

對此,頭環開發者回復,腦機接口技術是一種新興技術,報道中提到的“打分”,是班級平均專注力數值,而非網友猜測的每個學生專注力數值。但有不少網友認為此頭環是現代版的“頭懸梁錐刺股”,會讓讓學生產生逆反心理,并擔憂是否涉及侵犯未成年人隱私。

4.美國加州禁止執法機構在執法記錄儀上使用面部識別技術

2019年9月,美國加利福尼亞州議會通過一項為期三年的議案,禁止州和地方執法機構在執法記錄儀上使用面部識別技術。如果州長加文·紐森簽字通過,議案將于2020年生效成為法律。

該議案若生效,將使加州成為美國禁止使用面部識別技術最大的州。包括俄勒岡州和新罕布什爾州在內的一些州也有類似的禁令。不過,也有執法團體反對該議案,他們認為面部識別技術在追蹤嫌疑人以及尋找失蹤兒童等很多方面都具有重要作用。州警察局長協會表示,該技術僅用于縮小嫌疑人范圍,而不是自動決定逮捕誰。

5.變臉App瞬間火爆,但引發用戶隱私爭議

2019年8月,一款AI換臉軟件在社交媒體刷屏,用戶只需要一張正臉照就可以將視頻中的人物替換為自己的臉。一經面世,便存在著頗多爭議點。在用戶協議上,存有很多陷阱,比如提到使用者的肖像權為“全球范圍內免費、不可撤、永久可轉授權”。而如果侵權了明星肖像,若對方提告,則最后責任都在用戶。

2019年11月底,國家網信辦、文旅部和廣電總局等三部門聯合發布了《網絡音視頻信息服務管理規定》,明確“利用基于深度學習、虛擬現實等的虛假圖像、音視頻生成技術制作、發布、傳播謠言的……應當及時采取相應的辟謠措施”等針對換臉技術的新規定。

6.動物園未經許可收集個人生物識別信息被起訴

2019年,浙江理工大學特聘副教授郭兵購買了杭州野生動物世界年卡,支付了年卡卡費1360元。合同中承諾,持卡者可在該卡有效期一年內通過同時驗證年卡及指紋入園,可在該年度不限次數暢游。

同年10月17日,杭州野生動物世界通過短信的方式告知郭兵“園區年卡系統已升級為人臉識別入園,原指紋識別已取消,未注冊人臉識別的用戶將無法正常入園,同時也無法辦理退費”。郭兵認為,人臉識別等個人生物識別信息屬于個人敏感信息,一旦泄露、非法提供或者濫用,將極易危害消費者人身和財產安全。協商無果后,郭兵于2019年10月28日向杭州市富陽區人民法院提起了訴訟,目前杭州市富陽區人民法院已正式受理此案。

7.汽車自動駕駛系統失靈造成交通事故

2019年3月,50歲的杰里米·貝倫·班納駕駛電動車以每小時109公里的速度與一輛牽引拖車相撞而身亡,當時他正在使用的自動駕駛系統。

這已經不是自動駕駛系統引發的第一起交通事故。雖然自動駕駛廠商曾多次表示,自動駕駛系統是為了輔助司機,他們必須時刻注意并準備好接管車輛。但許多車主在選擇購買車時,是看中其宣傳具備的“自動駕駛”功能。在最新的審判中,廠商被免責,但他們仍舊修改了“自動駕駛”的宣傳策略。

8.人工智能寫作軟件可批量編寫假新聞

2019年2月15日,AI研究機構OpenAI展示了一款軟件,只需要給軟件提供一些信息,它就能編寫逼真的假新聞。有人懷疑,在虛假信息正在蔓延并威脅全球科技產業的背景下,一個擅長制造假新聞的AI工具很難不被聲討。OpenAI如果所托非人,將很可能成為影響選民意愿的政治工具。

9.AI算法識別同性戀準確率超過人類惹爭議

2017年,斯坦福大學一項發表于《Personality and Social Psychology》的研究引發社會廣泛爭議。研究基于超過3.5萬張美國交友網站上男女的頭像圖片訓練,利用深度神經網絡從圖像中提取特征,使用大量數據讓計算機學會識別人們的性取向。

該項研究的爭議點在于,一旦這種技術推廣開來,夫妻一方會使用這種技術來調查自己是否被欺騙,青少年使用這種算法來識別自己的同齡人,而在針對某些特定群體的識別引發的爭議則更難以想象。

10.AI將淘汰大量重復性勞動職業

BBC基于劍橋大學研究者的數據體系,發布了關于未來最有可能被機器人所取代的365種職業。研究表示,在這365種職業中,最有可能被淘汰的就是電話推銷員,像這樣重復的工作更適合機器人來做,機器人并不會感到疲憊,煩躁。其次是打字員、會計、保險業務員等等,這些都是以服務為主,像這些行業無需技術,都是只要經過訓練就能輕易被掌握的技能。

也有學者對此不以為然。他們認為,縱觀歷史,科技的影響一直如此。人類的工作方式變了又變,并沒有永久地摧毀勞動力市場。(記者魏蔚)

相關文章

最近更新

股票融资利息一般多少