【財(cái)新網(wǎng)】“當(dāng)前，我國人工智能發(fā)展的總體態(tài)勢良好，算力、算法和數(shù)據(jù)是大模型應(yīng)用的三大支撐要素。同時(shí)也要清醒看到，人工智能的算法“黑箱”、數(shù)據(jù)污染、模型缺陷等潛在風(fēng)險(xiǎn)問題不容忽視。特別是在金融行業(yè)應(yīng)用時(shí)，應(yīng)關(guān)注人工智能帶來的效率提升與風(fēng)險(xiǎn)加劇的雙重效應(yīng)。”在4月10日舉辦的國民財(cái)富發(fā)展研究合作平臺“人工智能與金融未來”2025春季峰會上，中國財(cái)富管理50人論壇理事長、原銀監(jiān)會主席、證監(jiān)會原主席尚福林表示。

　　具體來看，針對人工智能的算法“黑箱”，尚福林認(rèn)為，提高模型算法的透明性和可解釋性是關(guān)鍵。尚福林坦言，深度學(xué)習(xí)模型目前還存在不可解釋性，輸出的結(jié)果難以解釋和追溯，增加了監(jiān)管的難度。訓(xùn)練數(shù)據(jù)中的偏差會導(dǎo)致算法輸出的不公平或錯(cuò)誤。人工智能工具是根據(jù)過去的數(shù)據(jù)進(jìn)行訓(xùn)練的，可能無法準(zhǔn)確反映現(xiàn)實(shí)和預(yù)測未來。