會計和金融等強監(jiān)管行業(yè)的高管表示，數(shù)據科學家和非技術業(yè)務經理都必須能理解算法決策背后的流程。這至關重要。這樣的理解在防范潛在道德違規(guī)和監(jiān)管違規(guī)方面可能會帶來深遠影響，尤其考慮到企業(yè)級人工智能算法正變得越來越普遍。
畢馬威創(chuàng)新和企業(yè)解決方案部門負責智能自動化、認知和人工智能的高管維諾德·斯瓦米納桑(Vinodh Swaminathan)表示：“我認為，除非具備這種解釋能力，否則人工智能在企業(yè)中的規(guī)模不可能超過數(shù)百個試點應用。”
對人工智能的解釋問題已經促使IBM和谷歌等公司在云計算人工智能服務產品中引入透明度和道德倫理工具。
IBM商業(yè)價值研究所近期的一項研究調查了5000名企業(yè)高管。約60%的受訪者表示，他們關心如何解釋人工智能使用數(shù)據作出決策，以達到監(jiān)管和合規(guī)標準。這個比例較2016年時的29%大幅上升。
甚至對數(shù)據科學家和相關企業(yè)高管來說，人工智能的決策過程有時都是“黑盒”。在深度學習工具，例如用于模式識別的神經網絡中尤其如此。這樣的神經網絡試圖模擬人腦的運轉方式。
盡管這些系統(tǒng)可以以前所未有的準確率和速度得出結論，但外界并不總是非常清楚，計算網絡是如何做出具體的決策。
畢馬威內部的數(shù)據科學家正在開發(fā)自主的可解釋性工具，此外該公司也在利用IBM新的透明度工具。斯瓦米納桑表示，這樣做的目的是確保技術和業(yè)務兩方面的員工都能“打開黑盒”，準確地了解人工智能算法是如何做出結論的。
IBM上周發(fā)布了新的云計算人工智能工具，可以向用戶展示哪些主要因素影響了人工智能做出的建議。這些工具還可以實時分析人工智能決策，以識別固有偏見，并推薦數(shù)據和方法來解決這些偏見。IBM負責認知解決方案的高級副總裁大衛(wèi)·肯尼(David Kenny)表示，這些工具可以與IBM人工智能服務，以及谷歌等其他云計算服務提供商的工具配合使用。
谷歌研究科學家和軟件工程師發(fā)布的博文則顯示，谷歌去年開始為開源的機器學習代碼發(fā)布新工具，“作為更廣泛研究的一部分，滿足對可解釋性的政策目標”。谷歌本月早些時候發(fā)布的另一款人工智能工具允許非程序員檢查和調試機器學習系統(tǒng)，以評估算法的公平性。
微軟正通過Azure來提供人工智能服務。該公司發(fā)言人表示，人工智能系統(tǒng)的設計需要有公平、透明和安全的保護，從而確保信任。微軟正在這方面做出持續(xù)的努力。亞馬遜沒有對此問題做出回應。
來自強監(jiān)管金融行業(yè)的Capital One Financial Corp和美國銀行正在研究，如何解釋人工智能算法得出答案的背后原理。兩家公司都表示，目標是利用人工智能來優(yōu)化對欺詐的監(jiān)測，但首先它們需要了解這些算法是如何工作的。
分享到微信 ×
打開微信，點擊底部的“發(fā)現(xiàn)”，
使用“掃一掃”即可將網頁分享至朋友圈。
數(shù)字化要一盤棋更要各自為戰(zhàn)
