近日，中國(guó)人民銀行制定發(fā)布了《人工智能算法金融應(yīng)用評(píng)價(jià)規(guī)范》（以下簡(jiǎn)稱《規(guī)范》），針對(duì)當(dāng)前人工智能技術(shù)應(yīng)用存在的算法黑箱、算法同質(zhì)化、模型缺陷等潛在風(fēng)險(xiǎn)問題，建立了人工智能金融應(yīng)用算法評(píng)價(jià)框架，從安全性、可解釋性、精準(zhǔn)性和性能等方面系統(tǒng)化地提出基本要求、評(píng)價(jià)方法和判定準(zhǔn)則，為金融機(jī)構(gòu)加強(qiáng)智能算法應(yīng)用風(fēng)險(xiǎn)管理提供指引。

近年來，人工智能技術(shù)、機(jī)器學(xué)習(xí)算法模型在金融銀行業(yè)的應(yīng)用愈加普遍與深入，促進(jìn)行業(yè)智能化發(fā)展的同時(shí)，算法黑箱問題、安全問題、偏見問題等也隨之暴露，并成為影響金融行業(yè)健康發(fā)展的的潛在風(fēng)險(xiǎn)，尋求解決之道刻不容緩。

除了監(jiān)管層面的高度重視與推動(dòng)，企業(yè)層面也應(yīng)積極行動(dòng)，貢獻(xiàn)智慧力量。據(jù)了解，一些金融機(jī)構(gòu)及金融科技企業(yè)在該領(lǐng)域已展開研究與探索。比如國(guó)內(nèi)金融行業(yè)大數(shù)據(jù)與人工智能解決方案提供商索信達(dá)控股（股票代碼：03680.HK），早在2019年便面向國(guó)內(nèi)金融行業(yè)率先推出應(yīng)對(duì)復(fù)雜算法黑箱問題的“可解釋機(jī)器學(xué)習(xí)創(chuàng)新算法和產(chǎn)品”，并已在金融領(lǐng)域成功落地應(yīng)用。

索信達(dá)資深數(shù)據(jù)科學(xué)家、AI創(chuàng)新中心總監(jiān)邵平表示，金融業(yè)風(fēng)險(xiǎn)防控是一個(gè)永恒的主題，人工智能技術(shù)存在的潛在風(fēng)險(xiǎn)如果不能及時(shí)識(shí)別、控制，人工智能技術(shù)就是一把“達(dá)摩克利斯之劍”。

所謂黑箱算法，即諸如深度神經(jīng)網(wǎng)絡(luò)算法或集成學(xué)習(xí)算法等，這類模型內(nèi)部結(jié)構(gòu)復(fù)雜，其運(yùn)作機(jī)制就像一個(gè)黑箱，無法用人類可以理解的語言解釋模型輸入特征與模型結(jié)果的影響關(guān)系，這樣的結(jié)果在準(zhǔn)確性、安全性、公平性等方面都存在很大不可靠性。尤其是在自動(dòng)駕駛、金融風(fēng)控、醫(yī)療等高風(fēng)險(xiǎn)領(lǐng)域，以及對(duì)安全和公平性有較高要求的業(yè)務(wù)場(chǎng)景，都不適合使用黑盒模型。人們不僅希望模型給出正確的預(yù)測(cè)結(jié)果，還希望模型能給出判斷的原因，所謂知其然更要知其所以然，在不清楚黑盒模型運(yùn)作原理的情況下，大家是不敢輕易僅憑模型的結(jié)果就做出決策的。

邵平認(rèn)為，《規(guī)范》的出臺(tái)非常及時(shí)和關(guān)鍵，為人工智能技術(shù)在金融行業(yè)的規(guī)范應(yīng)用增加了一道有力保障，推動(dòng)人工智能技術(shù)在金融行業(yè)更廣泛應(yīng)用和更加健康、安全發(fā)展。另外這次規(guī)范的標(biāo)準(zhǔn)非常專業(yè)化和技術(shù)化，清楚的列出了人工智能技術(shù)應(yīng)用的基礎(chǔ)條件和使用人工智能技術(shù)的應(yīng)用標(biāo)準(zhǔn)，規(guī)避人工智能技術(shù)的不適當(dāng)使用可能給行業(yè)帶來的風(fēng)險(xiǎn)，也為金融機(jī)構(gòu)和金融科技公司指明了清晰的技術(shù)創(chuàng)新方向和目標(biāo)。

同時(shí)她還提到，本次出臺(tái)的規(guī)范有一個(gè)重大的亮點(diǎn)，即新增了人工智能技術(shù)安全性和可解釋性的評(píng)價(jià)規(guī)范，并且擺在了很重要的位置。首先安全性是第一考慮的要素，是決定算法是否可用的基礎(chǔ)；第二位是可解釋性，是決定模型是否適用的重要依據(jù)。這兩個(gè)前提條件為人工智能技術(shù)的應(yīng)用起到了保駕護(hù)航的作用，規(guī)避了人工智能技術(shù)的濫用和不安全使用，糾正了之前模型好壞只用精度來衡量的偏頗，也有效防范了人工智能技術(shù)應(yīng)用過程中很多可能存在的風(fēng)險(xiǎn)。

可見，業(yè)界對(duì)模型的應(yīng)用要求已經(jīng)不僅僅停留在準(zhǔn)確性層面，模型結(jié)果是否可解釋，模型是否安全、公正、透明是機(jī)器學(xué)習(xí)面臨的新挑戰(zhàn)。算法可解釋性是判斷算法是否適用的重要依據(jù)，可解釋性越高，算法內(nèi)在邏輯、技術(shù)實(shí)現(xiàn)路徑、決策過程、預(yù)期目標(biāo)越明晰，算法更易于被理解、匹配、應(yīng)用和管理。

據(jù)邵平介紹，索信達(dá)在可解釋機(jī)器學(xué)習(xí)領(lǐng)域探索較早，具有成熟的研發(fā)能力與經(jīng)驗(yàn)。早在2018年，索信達(dá)就與香港大學(xué)成立聯(lián)合實(shí)驗(yàn)室，開展可解釋機(jī)器學(xué)習(xí)的深入研究。經(jīng)過多年深耕，索信達(dá)已具有自主知識(shí)產(chǎn)權(quán)的系列可解釋機(jī)器學(xué)習(xí)算法及產(chǎn)品，并積累了豐富的金融業(yè)務(wù)場(chǎng)景實(shí)踐案例。索信達(dá)的可解釋機(jī)器學(xué)習(xí)算法及產(chǎn)品已在金融風(fēng)控信用評(píng)級(jí)、用戶流失預(yù)警、產(chǎn)品營(yíng)銷推薦等多個(gè)場(chǎng)景應(yīng)用。

比如在某股份制銀行流失預(yù)警場(chǎng)景進(jìn)行的流失歸因，通過實(shí)施索信達(dá)的可解釋機(jī)器學(xué)習(xí)技術(shù)方案，大大的提升了模型對(duì)實(shí)際業(yè)務(wù)的支撐作用，實(shí)現(xiàn)了客戶層級(jí)具體流失原因的輸出，用于銀行制定更精準(zhǔn)的挽留措施，降低客戶流失率，最終為用戶帶來巨大的經(jīng)濟(jì)價(jià)值。

再比如，在某銀行風(fēng)控流程的對(duì)公信用評(píng)級(jí)場(chǎng)景，客戶在銀行的信用評(píng)級(jí)出現(xiàn)了降級(jí)，客戶需要銀行給出降級(jí)的具體原因解釋。由于該行使用的是黑盒模型，模型結(jié)果很難解釋，影響了客戶體驗(yàn)。通過采用索信達(dá)可解釋機(jī)器學(xué)習(xí)技術(shù)，不僅可以在總體層面上解釋特征如何影響目標(biāo)變量，還可以在單個(gè)樣本層面上解釋用戶信用評(píng)分的由來，大大提升了用戶體驗(yàn)。

邵平認(rèn)為，金融機(jī)構(gòu)和金融科技服務(wù)廠商需要在規(guī)范的前提下研發(fā)、創(chuàng)新適合金融業(yè)務(wù)場(chǎng)景使用的安全、可解釋的人工智能算法，這對(duì)金融科技公司的人工智能技術(shù)服務(wù)能力提出了更高的要求，但同時(shí)也是推動(dòng)科技公司進(jìn)行技術(shù)創(chuàng)新變革的動(dòng)力。

索信達(dá)不僅成為推動(dòng)人工智能算法金融應(yīng)用規(guī)范管理的先行者，還推出了“模型工廠”、“模型管理平臺(tái)” 等全棧解決方案。未來，索信達(dá)在持續(xù)進(jìn)行可解釋機(jī)器學(xué)習(xí)研發(fā)和實(shí)踐的同時(shí)，將與業(yè)界一起推動(dòng)人工智能技術(shù)在金融領(lǐng)域的規(guī)范健康發(fā)展，助力金融科技應(yīng)用風(fēng)險(xiǎn)防范，讓金融數(shù)字化轉(zhuǎn)型的腳步更加和諧美好。

免責(zé)聲明：市場(chǎng)有風(fēng)險(xiǎn)，選擇需謹(jǐn)慎！此文僅供參考，不作買賣依據(jù)。