金融法治是金融業健康、穩定發展的基石。3月30日，復旦大學中國金融法治研究院正式成立。據悉，該研究院由中國人民銀行上?？偛?、上海市高級人民法院、上海金融法院和復旦大學共同發起、合作建設。研究院旨在推進上海國際金融中心建設、國家金融治理體系和治理能力現代化。

當日，中國人民銀行上?？偛坎┦亢篑T攀以“算法的規制”為題，探討了大數據殺熟等“有毒算法”問題，以及算法透明化背后存在的隱憂。

規管“有毒算法”

現在大數據殺熟已成為算法領域飽受爭議的問題——商家可能對經常瀏覽某一商品的老用戶收取更高的費用，或對不同地區使用不同手機的用戶制定不同的價格。

這種差別化定價本來是一種經濟學上的定價策略，目的在于為了獲得更多的消費者剩余。但馮攀表示，如果說商家利用大數據和個人數據畫像，對相同的商品和服務制定不同的價格，這就明顯違反了公平公正的原則，這就應當予以嚴格的規制。我們把類似于“大數據殺熟”的算法稱之為“有毒算法”，它的特征是：不透明、規?；?、破壞性。常見的有毒算法還包括：控制流量類算法、不當排名類算法等。

例如，一個W電商平臺為了獲取優勢競爭地位及交易機會，利用自己的技術手段通過限流、產品下架、屏蔽等手段減少品牌經營者的流量、消費者注意及交易機會。市場監督管理部門認為這是違反了公平公正的市場競爭秩序，最終處以300萬元罰款。

馮攀提及，以另一個不當排名的算法為例，有一家歐洲科技公司利用自身所收集的顧客評分等大數據，開發了一套自有酒店排名系統，對酒店進行1-5級星級評分，并會把評分結果顯示在地圖上。這個酒店評級的系統本身是沒有任何問題的，但是法國的法律規定：“酒店評級必須由當地的旅游組織按照標準制定”，該科技公司自有的酒店評級標準和官方標準是不一樣的，因此酒店評級結果也不盡相同。但酒店把自己評級結果顯示在地圖上，讓消費者誤以為地圖上顯示的評級就是官方評級。法國的監管當局就認為，該科技公司存在誤導消費者的行為，最后處以110萬歐元的罰款。

技術本身應當是中立的，算法也不是洪水猛獸，但是如果擾亂公平公正的市場競爭秩序，這個時候算法就變成了“有毒算法”。

數據搜集需遵循五個條件

在數字經濟時代，大數據及其算法成為了平臺型公司與科技型公司的核心資產，算法本身也不是憑空取得的，是根據對行業的數據進行不斷訓練、優化而取得的。如果開發算法的數據本身是非法的，有毒的果樹結出的果實也是有毒的。

馮攀稱，美國有一家科技公司E公司是向用戶免費提供照片和視頻的云存儲服務。這家公司在2017年上線了一個“朋友”的功能，這個功能就是使用人臉識別技術對于用戶上傳的圖片中的人物進行自動的分組。在“朋友”功能上線之初，E公司默認所有的用戶同意使用“人臉識別”技術，而且也沒有提供選項，在隱私條款中也沒有寫明“用戶數據使用方式”，最后E公司利用用戶上傳的照片和視頻不斷開發、優化人臉識別技術，并向其他商家提供人臉識別解決方案，并以此獲利。這家公司2018年上線“幫助文檔”，這個文檔中說明的內容和實際不相符。美國的監管當局認為E科技公司在用戶數據收集和使用方面存在“虛假陳述”或欺詐性行為，責令該公司刪除非法收集的數據及以這種非法數據為基礎開發的模型和算法。

既然開發算法時的數據一定要經過用戶的明確同意，那么用戶同意的一般條件有哪些？在馮攀看來，比較好的行為實踐應有五個條件：

1）舉證責任倒置，即數據控制者有責任證明數據的收集和使用已經用戶明確同意，這是因為數據控制者往往處于優勢地位，舉證責任倒置有利于保護用戶的合法權益。

2）清晰、易懂，即用戶授權收集使用的條款應當是清晰易懂的。如果授權的條款只是協議一部分，這個條款應當顯著區別于協議的其他方面內容。

3）格式條款不能減損用戶的合法權益，否則應視為無效。

4）同意可撤銷，即用戶同意收集處理自身數據后，可以撤銷該項同意，并且數據控制者不能對用戶撤銷同意設置額外的障礙。

5）合理、必要，即數據的收集和使用不能超過必要限度、不能收集與業務無關的信息，

關于“同意”這點，兒童數據的收集一定要經過家長的同意。一個比較典型的案例是，美國有一家視頻服務公司在未經過家長同意的情況下追蹤兒童數據，然后以此投向一種定向廣告獲利，最終被美國監管當局責令支付1.7億美元的和解金。

算法的透明性也存在兩面性

算法的透明性和現在飽受爭議的“算法黑箱”密切相關。馮攀表示，各界支持算法透明性、消費者知悉權，一般來講，算法邏輯、算法關鍵參數就屬于“消費者知悉權”的范疇。同時可能會發生算法裁決錯誤，畢竟算法是人為開發的。

一個典型案例是，美國密歇根州曾開發了一個“數據自動化系統”，對該州居民申請失業補貼進行審核。由算法自動識別申請人是否存在欺詐或舞弊行為，并以此進行處罰。最后表明系統的錯誤率高達93%，受影響的當事人達4萬多人。既然算法裁決影響如此之大，為了避免大家成為算法裁決錯誤的受害者，需要要求進一步提高算法的透明度。

算法透明度的問題也仍然存在一些隱憂。馮攀稱，比如，如何平衡商業秘密的保護與個人知情權之間的關系。企業投入了大量的人力、物力、財力來開發算法，算法公開之后必然會出現“搭便車”的現象，這就會減少企業進行開發算法、科技創新的積極性；此外，如果算法公開后，很可能會產生一種針對算法程序的投機行為。例如，金融系統中可能有一些“自動放貸”系統或信用卡自動發卡系統，如果公開算法，可能會導致不合格的申請人為了獲得貸款和信用卡，會有針對性地包裝自己，使得自己滿足自動放貸、發卡的條件，這就會帶來非常大的安全隱患。

總而言之，金融法治是中國走向金融強國的必經之路，對于蓬勃發展的互聯網平臺型公司，相關部門如何去規管“有毒算法”是亟待解決的問題。這一領域的規范化不僅將保障用戶及消費者的權益，更將給中小型互聯網公司提供成長機會。

責任編輯：方杰