圖片來源: 

微軟

英國作家歐威爾(George Orwell)在1949年出版的反烏托邦小說《1984》中描繪了政府無所不用其極地監控與操縱民眾,微軟於上周四(12/6)警告,歐威爾在70年前所勾勒的場景即將因為現代的技術能力而成真,呼籲各國政府明年就應採取行動,立法規範人臉辨識技術的應用,而微軟也列出了內部針對該技術的六大原則,預計於明年3月正式發表。

在《1984》中,政府透過無所不在的攝影機與麥克風來監控人們的長相,紀錄人們所說的每一個字,為了閃避政府的監控,人們只能躲在黑暗的角落,藉由敲打彼此的手臂傳送密碼進行交流,而現代技術已讓這樣的場景成為可能。

就在微軟發表此番宣言的同一天,關注AI系統發展的AI Now Institute則針對政府、研究人員及產業發布了AI的十大建議報告 ,同樣也要求政府規範及監控AI與人臉辨識技術的發展,特別是所謂的「影響識別」(Affect recognition)。

影響識別是人臉辨識的一個子類,它能夠藉由照片或影像中的人臉來偵測人們的個性、內心感受、心理健康或參與感等事物。AI Now指出,相關的結果並未受到強大科學證據的支持,而更像是偽科學,影響對他人的認知、聘雇、保險、教育等看法,不論對個人或社會都會造成重大風險。

已有多所美國大學打算採用影響分析軟體,藉由在教室中安裝的攝影機偵測學生在學習時所流露出的情緒,判斷教學效果以供教授參考。AI Now則認為,該系統可能無法掌握複雜的情緒狀態,學生也無從提出異議,或是每個學生對學習內容的接受度不同,更或者它已經侵犯了學生的隱私。

微軟則說,假設我們不希望在5年之後,人臉辨識技術或服務已經蔓延到加劇社會問題的狀態,各國政府明年就應該採取行動,立法規範相關技術的發展與應用。

微軟總裁Brad Smith表示,政府應該立法解決的三大問題分別是克服那些違反歧視法令的偏見結果、過於廣泛的使用將侵犯人們的隱私,以及若政府利用人臉辨識技術進行大規模監控將侵犯民主自由。

另一方面,微軟認為企業亦不應完全等待政府的行動,而自行列出了六大原則,它們分別是公平、透明、問責、非歧視、通知與同意,以及合法監督,並打算在明年3月正式發表相關原則與框架。

AI Now的十大建議則與微軟的看法相呼應,另也強調大學的AI課程不應只侷限在電腦科學及工程學科,隨著它持續被應用在社交領域,也應擴大其學科定位,納入社會與人文科學,在將AI系統應用於人群時,才能進一步關注潛在的危險。


Advertisement

更多 iThome相關內容