首頁 >> 哲學 >> 科學技術哲學
試論深度學習技術對人類社會持續發展所造成的風險
2020年01月10日 10:55 來源:《當代美國評論》 作者:徐英瑾 字號

內容摘要:

關鍵詞:

作者簡介:

Deep Learning Poses Potential Threat to the Long-term Development of Human Civilization

  作者簡介:徐英瑾,復旦大學哲學學院教授。

  原發信息:《當代美國評論》(京)2019年第20191期 第3-23頁

  內容提要:深度學習機制的實質,便是通過大量數據訓練的方法,使得人工智能系統能夠在一個膚淺的層面上模擬人類在特定輸入與特定輸出之間建立的映射規律,與此同時,卻對人類做出此類歸類活動的宏觀認知架構不聞不問。深度學習機制無法靈活地應對缺乏既有數據支持的新問題求解語境,因此,人類對于此類技術的過分依賴必然會導致人類社會應對新問題的應變能力不足。同時,此類依賴對于人類教育體制的侵蝕,也會在長遠上使得作為數據標注活動得以可能的人力資源受到削弱,并由此使得人類的人文資源枯萎。與之相比較,目前尚且不那么主流的基于認知建模的通用人工智能技術,或許才是能夠保證人類社會健康發展的新技術發展方向。

  關鍵詞:深度學習/通用人工智能/人文資源

  標題注釋:本文是國家社科基金重大項目“基于信息技術哲學的當代認識論研究”(項目編號:15ZDB020)的階段性成果。

 

  

  對于“人工智能”的發展歷史稍有理解的人都知道,這個概念只不過就是多種科研思路與技術路徑的松散聯合,而不指涉一個具體的、具有自我統一性的技術實體。從技術發展的根本目的而言,“人工智能”可以被大致分類為“專用人工智能”與“通用人工智能”兩類:歸類為前者的產品面向特定應用場景,并僅能滿足相關應用場景所提出的技術要求;而歸類為后者的產品則指向對于人類認知架構的全面建模,卻未必與特定的應用場景直接掛鉤(盡管這些產品一旦能夠完成,在原則上是能夠適用于所有應用場景的)。目前主流意義上的“人工智能”研究指的是專用人工智能,也就是面向特定應用場景的人工智能。而這種意義上的人工智能研究的具體技術路徑又分為兩類:基于規則的人工智能(即從事先編制入系統的一般性的規則性知識出發進行運作的人工智能系統),與基于數據的人工智能(即從大量的輸入性數據出發尋找一般性規律的人工智能系統)。近年來被廣泛使用的深度學習技術,在歸類上屬于所謂的“基于數據的人工智能”,因此,我們也可以說目前最主流、最紅火的人工智能技術就是深度學習技術。

  關于深度學習技術的倫理風險,目前學界的注意力主要是放在對于“算法偏見”與“算法透明性”這兩個問題之上?!八惴ㄆ姟敝傅氖沁@個意思:深度學習對于大量數據信息的處理過程,在原則上就是在某些輸入信息與某些目標信息之間建立起特定種類的映射關系的過程。在這種情況下,人類訓練員完全可以通過對于訓練目標的人為調控,來控制系統的數據歸類方向,由此固化人類自己的某些偏見(比如在人臉識別系統中對于具有某種面部特征的人群的“犯罪傾向”的歸類),最終造成負面的倫理后果?!八惴ㄍ该餍浴闭f的則是這個意思:與基于規則的人工智能不同,基于數據采集的深度學習系統本身的運作是很難通過線性的公式推導過程而在人類語言的層面上被解釋的,其結果更像是某種神秘的“黑箱”運作后的輸出結果。在這種情況下,即使是系統的設計者,有時候也說不清楚為何系統會在某些運行條件下給出這樣的運算結果。由于這種非透明性,此類人工智能系統若被納入到以“說理”為基本交流方式的人類公共生活之中,自然就會導致與人類既有社會習俗與法律系統的大量碰撞。

  但在筆者看來,深度學習的倫理風險還不止于此兩項。毋寧說,深度學習最麻煩的倫理問題,乃在于對于人類文明的持續可發展性所構成的威脅?;蛘f得更具體一點,深度學習機制的根底,乃是對于人類專家某方面的數據歸類能力的膚淺的模仿,因此,其存在的邏輯前提,便是作為被模仿對象的大量人類專家的存在。然而,深度學習系統的大量運用,卻對人類專家的穩定培養機制構成了巨大威脅,并由此使得深度學習未來的智慧汲取對象變得枯竭。由此,濫用深度學習技術的人類社會,在吃光該技術所能帶來的短期紅利之后,可能最終走向文明的衰落。而解決這個隱患的對沖機制,則在于研發在學術前提上與深度學習技術迥異的“基于認知建模的通用人工智能”。

  而為了給如上判斷提供佐證,筆者將從回答如下幾個關鍵問題著手,逐步展開論述:

  第一,為何說深度學習系統只是膚淺地模仿了人類既有的部分智慧,而無從把握人類智慧的核心?

  第二,為何說深度學習技術的濫用會導致人類智慧的枯竭?

  第三,為何說基于小數據的通用人工智能技術的發展,才是一條更具可持續性的人類技術發展進路?

  先從第一個問題談起。

作者簡介

姓名:徐英瑾 工作單位:

轉載請注明來源:中國社會科學網 (責編:李秀偉)
W020180116412817190956.jpg
用戶昵稱:  (您填寫的昵稱將出現在評論列表中)  匿名
 驗證碼 
所有評論僅代表網友意見
最新發表的評論0條,總共0 查看全部評論

回到頻道首頁
QQ圖片20180105134100.jpg
jrtt.jpg
wxgzh.jpg
777.jpg
內文頁廣告3(手機版).jpg
中國社會科學院概況|中國社會科學雜志社簡介|關于我們|法律顧問|廣告服務|網站聲明|聯系我們
打麻将