三大人工智能的風險初步探析

一 數據不完備和濫用風險突出

1 數據不完備： 人工智能進行自動化決策時，如果數據不充分、不達標，就會造成結論偏離的情況。

2 數據投毒：如果訓練集中混雜了虛假的數據，還會對算法形成欺騙，在自動化決策中給出錯誤 的結果。

3 數據濫用：技術進步擴大了用戶個人信息的邊界，互聯網平臺企業(yè)可以在線且及時的采集用戶 購買、收藏、瀏覽等行為，擁有豐富的算力資源和出眾的算法能力，如果企業(yè)在借 助人工智能對用戶數據進行加工、使用的過程中不能夠嚴格遵守法律法規(guī)，則可能因為數據濫用而損害用戶的權益。

二 人工智能算法存在固有缺陷

當前，以深度學習為代表的人工智能技術在產業(yè)界廣泛應用，取得了一系列突破， 但其在可解釋性、魯棒性、偏見歧視等方面尚存在局限。

1 可解釋性不足：深度學習算法的一個的顯著特點是訓練過程中自動提取特征，通常比人工挑選的特 征效果更好，但這一過程目前尚不可控，在不恰當的數據集上算法可能選擇錯誤的特征。

2 魯棒性不足：深度學習算法在訓練過程中會對數據的魯棒特征和非魯棒特征逬行學習,并依據這些特征進行識別。

3 偏見與歧視：深度學習算法會挖掘訓練數據集中不同因素的相關性，擬合數據分布特性，訓練數 據集本身的偏見與歧視，會被引入到訓練出的模型之中。

三 企業(yè)人工智能管理體系不完善

人工智能等新技術特有的應用特征對企業(yè)的管理措施提出了極大挑戰(zhàn)。一方面，過 去為了鼓勵創(chuàng)新和效率優(yōu)先，通常讓基層擁有較大的自主權；另一方面，人工智能 新技術的負面影響通常不會立即顯現，也難以全面評估。這就使得原有的體系并不 能適應當前人工智能治理原則。

1 算法需要人為干預： 由于人工智能算法固有的缺陷，需要對可能出現的錯誤結果進行干預糾偏。

2 用戶權益保障不足： 人工智能算法用于自動化決策，對用戶帶來明顯影響，并不能做到完全技術中立， 需要注意保障用戶權益。

3 主體責任落實不到位： 由于人工智能技術門檻高，且在企業(yè)中的運用往往呈現出高動態(tài)性、高復雜度等特 點，使得外部難以理解其運行機制。