尚福林：人工智能的算法“黑箱”、數據污染、模型缺陷等潛在風險問題不容忽視

北京商報訊（記者 劉四紅）4月10日，以"人工智能與金融未來"爲主題的國民財富發展研究合作平臺2025春季峰會正式召開。中國財富管理50人論壇理事長、原銀監會主席、證監會原主席尚福林出席並發表主旨演講。

尚福林指出，要關注人工智能提升效率與加劇風險的雙重效應，當前，我國人工智能發展的總體態勢良好，正處在加強人工智能佈局、加快數字化智能化轉型的歷史機遇期。算力、算法和數據是大模型應用的三大支撐要素。同時也要清醒看到，人工智能的算法"黑箱"、數據污染、模型缺陷等潛在風險問題不容忽視。特別是在金融行業應用時，應關注人工智能帶來的效率提升與風險加劇的雙重效應。

其中，數據安全可靠與隱私保護是關注焦點。人工智能讓數據的應用價值凸顯，也讓數據的安全防護變得更加複雜。

一方面，持續加強數據的隱私安全保護。金融機構和科技企業需要共同研究數據在採集、存儲、傳輸和使用過程中的安全性問題。要在保障安全和隱私前提下，推動金融與公共服務領域信息互聯互通，釋放數據要素潛能。

另一方面，關注數據污染。金融機構每天都在處理海量的數據和複雜的交易，信息的準確性和可靠性至關重要。在金融行業，信息污染風險同樣存在。如果虛假信息被灌入訓練模型，有可能污染模型的訓練數據。一旦部署到金融交易、風險分析當中，可能會引發連鎖反應，造成難以估量的損失。