經(jīng)濟(jì)觀察網(wǎng)  記者   馮慶艷    由算法引發(fā)的諸多亂象，終于有了專門的“緊箍咒”。

9月29日，臨近國慶節(jié)，國家互聯(lián)網(wǎng)信息辦公室（下稱“網(wǎng)信辦”）等九部門聯(lián)合印發(fā)了一則關(guān)于算法治理的指導(dǎo)意見，即《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》。

“防范算法濫用風(fēng)險(xiǎn)。”意見中稱，維護(hù)網(wǎng)絡(luò)空間傳播秩序、市場(chǎng)秩序和社會(huì)秩序，防止利用算法干擾社會(huì)輿論、打壓競爭對(duì)手、侵害網(wǎng)民權(quán)益等行為，防范算法濫用帶來意識(shí)形態(tài)、經(jīng)濟(jì)發(fā)展和社會(huì)管理等方面的風(fēng)險(xiǎn)隱患。

這讓上海財(cái)經(jīng)大學(xué)電子商務(wù)研究所執(zhí)行所長崔麗麗看到，國家對(duì)互聯(lián)網(wǎng)平臺(tái)經(jīng)濟(jì)行業(yè)發(fā)展，進(jìn)行規(guī)范、保持市場(chǎng)公平以及維護(hù)消費(fèi)者正當(dāng)權(quán)益的決心。“今后，平臺(tái)算法不可以基于人性弱點(diǎn)或者根據(jù)消費(fèi)者的特定特征來區(qū)別同樣產(chǎn)品或服務(wù)的定價(jià)。”

“行業(yè)發(fā)展將更符合市場(chǎng)公平、科技向善和可持續(xù)發(fā)展的預(yù)期。”崔麗麗說。

算法亂象亟待治理

第一個(gè)有著算法意義的自動(dòng)化推薦系統(tǒng)，最早是1994年美國明尼蘇達(dá)大學(xué)研究組推出的，近年來，隨著我國平臺(tái)經(jīng)濟(jì)的繁榮成長，算法技術(shù)已經(jīng)席卷了新聞資訊、社交、短視頻、購物、餐飲、出行以及搜索引擎等各類APP，平臺(tái)的用戶和從業(yè)者均深切感觸到其無處不在。

“算法是一種在有限的步驟中，生成問題答案或者解決方案的系統(tǒng)程序，在大數(shù)據(jù)時(shí)代之前就已經(jīng)被廣泛應(yīng)用，但是在數(shù)字經(jīng)濟(jì)崛起之后得到廣泛的使用。”與此同時(shí)，北京達(dá)曉律師事務(wù)所中國合伙人林蔚還看到，算法濫用行為已經(jīng)對(duì)公民、市場(chǎng)、社會(huì)和意識(shí)形態(tài)等多個(gè)層面的利益或秩序，產(chǎn)生了較為嚴(yán)重的影響，并且有進(jìn)一步發(fā)展的趨勢(shì)。

林蔚告訴經(jīng)濟(jì)觀察網(wǎng)記者，算法的濫用行為表現(xiàn)集中在平臺(tái)對(duì)熱點(diǎn)事件的刻意推動(dòng)和引導(dǎo)，推送內(nèi)容和檢索結(jié)果的干預(yù)所帶來的信息繭房，以及大數(shù)據(jù)殺熟，算法歧視等，這些行為破壞了網(wǎng)絡(luò)空間傳播秩序、社會(huì)秩序，數(shù)字經(jīng)濟(jì)的競爭秩序，不僅侵害了消費(fèi)者的合法權(quán)益，和競爭者的利益，嚴(yán)重的甚至還危害了公共安全，給經(jīng)濟(jì)發(fā)展和社會(huì)管理等方面帶來風(fēng)險(xiǎn)隱患。

“算法雖然是個(gè)新現(xiàn)象，但不要把其定義為有別于傳統(tǒng)技術(shù)的一個(gè)特殊現(xiàn)象，”在上海交通大學(xué)安泰經(jīng)濟(jì)與管理學(xué)院教授黃少卿看來，它的一些特殊性在于意見中提及的“互聯(lián)網(wǎng)信息服務(wù)算法”，即算法過程中，是和服務(wù)者本人或者服務(wù)的主體機(jī)構(gòu)緊密相關(guān)的，它獲得大量的消費(fèi)者信息，或者數(shù)據(jù)作為前提。

濫用的邊界何在

平臺(tái)在算法運(yùn)用當(dāng)中，緣何陷入濫用的漩渦，其運(yùn)用算法的邊界何在？

黃少卿對(duì)經(jīng)濟(jì)觀察網(wǎng)記者說，算法在一定程度上講，屬于企業(yè)技術(shù)范疇，或者甚至是企業(yè)商業(yè)機(jī)密，因?yàn)槠髽I(yè)的算法給消費(fèi)者提供了獨(dú)特的價(jià)值，或者更加有效的服務(wù)，別的企業(yè)知道了就會(huì)模仿，這個(gè)很容易被抄襲。理論上有保密的內(nèi)在要求，但算法現(xiàn)在的確有一種現(xiàn)象就是算法濫用風(fēng)險(xiǎn)。

崔麗麗也認(rèn)為，算法作為企業(yè)核心機(jī)密信息是不予公開的。對(duì)算法的解讀也需要相當(dāng)?shù)募夹g(shù)基礎(chǔ)。

黃少卿看到，算法本質(zhì)是一種技術(shù)，企業(yè)可以用一項(xiàng)技術(shù)來提高它的生產(chǎn)效率和服務(wù)效率，當(dāng)然也可能會(huì)利用這項(xiàng)技術(shù)來形成自己的壟斷或者是消費(fèi)者能力。

“數(shù)據(jù)和算法是數(shù)字經(jīng)濟(jì)時(shí)代平臺(tái)企業(yè)技術(shù)能力的集中體現(xiàn)，數(shù)據(jù)資產(chǎn)的多少和算法的優(yōu)劣，會(huì)直接決定企業(yè)的競爭能力以及變現(xiàn)能力。”崔麗麗對(duì)經(jīng)濟(jì)觀察網(wǎng)記者說。

“企業(yè)一旦掌握了大量消費(fèi)者信息，就會(huì)有一些涉及到違背壟斷和反不正當(dāng)競爭，以及損害消費(fèi)者權(quán)益的算法出現(xiàn)。”黃少卿說，比如網(wǎng)約車，平臺(tái)知道這個(gè)點(diǎn)消費(fèi)者需要用車，給出比較高的加價(jià)，這就把消費(fèi)者剩余利益轉(zhuǎn)移到提供服務(wù)的平臺(tái)上去了，還有通過算法打壓競爭對(duì)手的現(xiàn)象，平臺(tái)上的司機(jī)想要轉(zhuǎn)去其他平臺(tái)，可能需付出更高代價(jià)。

黃少卿表示，區(qū)別于之前的生產(chǎn)者角度，平臺(tái)經(jīng)濟(jì)是使用者角度，即平臺(tái)上的用戶越多，平臺(tái)的效率就越高，這就必然會(huì)趨向于一個(gè)贏家通吃的現(xiàn)象，而這種現(xiàn)象其實(shí)就給平臺(tái)濫用算法提供了可能性。

三年為期

至于意見明確的用三年左右時(shí)間，逐步建立治理機(jī)制健全、監(jiān)管體系完善、算法生態(tài)規(guī)范的算法安全綜合治理格局。

黃少卿看到，目前我國已經(jīng)有一些相應(yīng)的法律出臺(tái)了，比如《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》等等，不過這中間有個(gè)司法的實(shí)踐過程，這個(gè)過程也許兩年，也許三年。

“算法治理意見稱，用三年的時(shí)間來建立算法治理格局，已經(jīng)是比較樂觀的目標(biāo)了。”林蔚說，“算法治理的難度很大。”因?yàn)椋惴ㄊ菆?zhí)行平臺(tái)意志的計(jì)算機(jī)程序，其外在形式是程序，其作用過程和決策機(jī)制都非常隱蔽，甚至不便于人類思維理解，類似“黑匣子”。

林蔚看到，目前對(duì)算法的監(jiān)管的困難表現(xiàn)在，監(jiān)管技術(shù)上的困難，法律依據(jù)上的滯后，和目前還未達(dá)成具體共識(shí)的算法倫理，以及多部門的協(xié)調(diào)。

“在此背景下，各國政府開始嘗試對(duì)算法進(jìn)行監(jiān)管，但也都在摸索和嘗試之中。”林蔚稱。

公開信息顯示，歐盟在《通用數(shù)據(jù)保護(hù)條例》中規(guī)定“收集個(gè)人數(shù)據(jù)進(jìn)行自動(dòng)化決策時(shí)，應(yīng)當(dāng)向數(shù)據(jù)主體提供關(guān)于此類問題處理的邏輯及預(yù)期后果的有效信息”。

美國則在2019年4月發(fā)布了《算法問責(zé)法案（草案）》，其中顯示，涉及相關(guān)算法影響評(píng)估的規(guī)定，要求衡量算法在設(shè)計(jì)和訓(xùn)練數(shù)據(jù)中，對(duì)準(zhǔn)確性、公平性、偏見、歧視及對(duì)隱私和安全的影響。 

落實(shí)到中國，林蔚認(rèn)為，具體說來，治理工作首先要花時(shí)間摸清算法使用的現(xiàn)狀，然后構(gòu)建符合中國國情的算法倫理，最后建立有效的治理機(jī)制。

林蔚補(bǔ)充稱，倫理原則的大方向是“對(duì)人類有益”，但在各類應(yīng)用場(chǎng)景中，還有算法透明、公正誠信、內(nèi)容向善等等細(xì)致要求。還要建立事前備案評(píng)估，事中監(jiān)管，事后救濟(jì)等多層次的監(jiān)管體系。這些問題既專業(yè)又細(xì)致還交叉。每一項(xiàng)都需要花較大的力氣。

崔麗麗也表示，難點(diǎn)可能主要包括，算法采用何種技術(shù)手段，可以實(shí)現(xiàn)既具有隱私特性，又可以實(shí)現(xiàn)技術(shù)手段的監(jiān)管。

崔麗麗補(bǔ)充道，這其中可能是否采用常規(guī)性算法不當(dāng)使用后果的抽檢策略，還是從源頭上進(jìn)行控制？可能企業(yè)還需要有相應(yīng)的人員配合，相關(guān)政府部門也需要儲(chǔ)備相應(yīng)的技術(shù)力量，以及在此過程中對(duì)于難點(diǎn)問題的專家咨詢和解決方案尋找……

黃少卿對(duì)經(jīng)濟(jì)觀察網(wǎng)記者稱，算法濫用的問題，涉及到傳統(tǒng)意義上的反壟斷和反不正當(dāng)競爭，以及保護(hù)消費(fèi)者權(quán)利，結(jié)合以上情況，要對(duì)算法進(jìn)行監(jiān)管，應(yīng)該不偏離已經(jīng)有的反壟斷的法律框架，反不正當(dāng)?shù)姆煽蚣芎途S護(hù)消費(fèi)者權(quán)益的法律框架。

“意見的印發(fā)是個(gè)好消息，”黃少卿說，不過由于算法是個(gè)技術(shù)，很多東西是企業(yè)內(nèi)部正當(dāng)?shù)慕?jīng)營活動(dòng)，相關(guān)部門執(zhí)法過程中需要謹(jǐn)慎，避免過度介入到企業(yè)的正常經(jīng)營當(dāng)中去。

林蔚看到，算法治理的意義重大。“首先我們要明確算法治理并不是要否定或拒絕算法，而是積極參與到算法糾偏的過程中來，聯(lián)合多種力量對(duì)算法的運(yùn)作過程進(jìn)行監(jiān)督。”

林蔚對(duì)記者表示，在擁抱技術(shù)，利用技術(shù)發(fā)展生產(chǎn)力和改善人民生活的同時(shí)，發(fā)揮算法的巨大“向善”潛力，塑造健康包容可持續(xù)的智慧社會(huì)，樹立尊重人類尊嚴(yán)的價(jià)值理念，維護(hù)人類的自主性和多元性，維護(hù)人的基本權(quán)利，人類社會(huì)的基本秩序和市場(chǎng)經(jīng)濟(jì)的公平格局。