算法治理應(yīng)首先立足規(guī)范算法權(quán)力。算法治理體系中，算法權(quán)力是算法治理的直接抓手，也是理解算法風(fēng)險(xiǎn)性質(zhì)和發(fā)生路徑的關(guān)鍵要點(diǎn)。以規(guī)范算法權(quán)力為首要立足點(diǎn)，有助于迎接新型權(quán)力現(xiàn)象的挑戰(zhàn)，充分理解算法的公共屬性，找準(zhǔn)和優(yōu)化算法治理思路，引入和革新算法時(shí)代的公法治理體系。
算法治理正日益受到國(guó)家和社會(huì)的高度關(guān)注，算法治理的制度工具箱也在持續(xù)豐富和充實(shí)。伴隨算法治理及相關(guān)法治建設(shè)進(jìn)程的不斷深入，“算法權(quán)利”和“算法權(quán)力”的概念亦隨之出現(xiàn)。無論是保障用戶、相對(duì)人乃至公眾的算法權(quán)利，還是規(guī)范、約束和監(jiān)督公共機(jī)構(gòu)與大型平臺(tái)的算法權(quán)力，都已出現(xiàn)系列學(xué)理主張，也都具有秉要執(zhí)本的意義。然而，算法治理應(yīng)當(dāng)側(cè)重“權(quán)利”視角還是側(cè)重“權(quán)力”視角的思考、首先立足規(guī)范算法權(quán)力還是保障算法權(quán)利，仍然是一個(gè)引人深思的話題。無疑，算法治理最終是為了保障公民權(quán)益、促進(jìn)公共福祉，但在選擇切入點(diǎn)時(shí)，算法治理仍然應(yīng)當(dāng)首先立足規(guī)范算法權(quán)力。
第一，以規(guī)范算法權(quán)力為首要立足點(diǎn)，有助于迎接新型權(quán)力現(xiàn)象的挑戰(zhàn)。選擇首先立足“算法權(quán)力”，本質(zhì)上是因?yàn)椤八惴?quán)力”深刻揭示了一種需要嚴(yán)肅對(duì)待的新型法律現(xiàn)象乃至法律關(guān)系�！八惴�(quán)力”的概念自提出以來就一直面臨各種各樣的爭(zhēng)議。的確，算法本身無所謂“權(quán)力”，自技術(shù)角度觀之，算法本身只是一種解決特定問題的技術(shù)方案，正如將冒泡排序法、二分查找法或梯度下降法稱為權(quán)力是荒謬的。我們說“算法權(quán)力”，實(shí)際上針對(duì)的是算法應(yīng)用所發(fā)揮的影響和作用。不過，并非所有的算法應(yīng)用都包含“算法權(quán)力”。例如，在個(gè)人電腦上運(yùn)用一些簡(jiǎn)單的算法制作自己玩的單機(jī)游戲，似乎很難稱得上實(shí)施了什么“算法權(quán)力”。然而，對(duì)于公共機(jī)構(gòu)和大型平臺(tái)動(dòng)輒影響數(shù)以萬計(jì)相對(duì)人或用戶的算法應(yīng)用而言，受影響者就可能會(huì)對(duì)“算法權(quán)力”的存在有切身感受。以“算法權(quán)力”刻畫公共機(jī)構(gòu)和平臺(tái)算法所發(fā)揮的作用和影響，是一種頗有沖擊力的認(rèn)知方式，既契合了算法作用和影響的特質(zhì)，也符合算法治理的深層需求。算法治理面臨全新挑戰(zhàn)，不僅需要承認(rèn)“算法權(quán)力”，更需要立足“算法權(quán)力”的視角，推動(dòng)治理思路的突破。
權(quán)力的概念和含義在人類歷史長(zhǎng)河中是不斷演化的。對(duì)于以法理層面各種支配作用為基點(diǎn)的“權(quán)力”概念，我們或許習(xí)以為常，但也僅僅是啟蒙時(shí)代以降的一個(gè)“新傳統(tǒng)”。在西方，曾經(jīng)有過彼此區(qū)隔、互不統(tǒng)屬的碎片化權(quán)力概念圖式，也有過層次井然、內(nèi)容固定的權(quán)力概念圖式，而將法理上各種各樣的支配作用統(tǒng)合起來，以諸多權(quán)力相關(guān)概念中的potestas為基礎(chǔ)、以其他概念為補(bǔ)充，建構(gòu)為今天這種具備高度抽象性和流動(dòng)性、與權(quán)利相對(duì)峙的權(quán)力概念，實(shí)際上是相當(dāng)晚近的事情�？v觀權(quán)力概念發(fā)展史，權(quán)力現(xiàn)象是極其鮮活的，權(quán)力無處不在而又十分靈活，各個(gè)時(shí)代的公法學(xué)家都會(huì)根據(jù)當(dāng)時(shí)的權(quán)力現(xiàn)象和概念工具，建構(gòu)有時(shí)代意義和現(xiàn)實(shí)色彩的認(rèn)知和治理框架。因此，我們決不能刻舟求劍，僅僅從支配作用去理解權(quán)力現(xiàn)象�！八惴�(quán)力”概念可以說是對(duì)算法時(shí)代新型權(quán)力現(xiàn)象的傳神描畫，這種權(quán)力的基石往往是精心設(shè)計(jì)、直指人心的影響作用�！靶畔⒗O房”和“算法圈養(yǎng)”的盛行，“算法操縱”和“計(jì)算政治”的興起，“算法妨害”對(duì)人潛移默化的長(zhǎng)期誘導(dǎo)，情境塑造、信息污染和認(rèn)知欺騙等“認(rèn)知作戰(zhàn)”的持續(xù)升級(jí)，都表明我們必須正視基于影響作用的權(quán)力現(xiàn)象。這種基于影響的權(quán)力有時(shí)比基于支配的權(quán)力甚至更為關(guān)鍵�！八惴�(quán)力”的認(rèn)知方式能夠使我們充分考慮算法中包含的影響作用，拿出體系化的應(yīng)對(duì)思路，全方位發(fā)現(xiàn)、約束和限制可能侵害個(gè)人權(quán)益和公共利益的算法影響作用，進(jìn)而形成系統(tǒng)治理算法公共風(fēng)險(xiǎn)、促成算法向善的制度方案。這種新的視角對(duì)于算法治理機(jī)制及相關(guān)法律制度的建構(gòu)、發(fā)展與革新殊為必要。
第二，以規(guī)范算法權(quán)力為首要立足點(diǎn)，有助于充分理解算法的公共屬性。選擇首先立足“算法權(quán)力”，是因?yàn)閺囊?guī)范算法權(quán)力入手，能夠深入揭示某些算法的公共性，為算法治理提供法理依據(jù)和方略�！八惴�(quán)力”的認(rèn)知方式凸顯了算法影響的公共性。許多大型算法應(yīng)用面向全國(guó)乃至全球范圍內(nèi)的用戶和公眾施加影響，算法推薦、深度合成、智能屏蔽、自動(dòng)化公共決策等應(yīng)用已經(jīng)深刻影響網(wǎng)絡(luò)生態(tài)和公共輿論；生成式人工智能更開始改變整個(gè)公共領(lǐng)域的互動(dòng)結(jié)構(gòu)。精心設(shè)計(jì)的算法應(yīng)用已經(jīng)可以改變重要選舉走勢(shì)、設(shè)置重大輿情議題或影響公共決策。大型算法模型借助平臺(tái)的“社會(huì)權(quán)力”，往往以既有共性又有個(gè)性的“一對(duì)多”方式發(fā)揮作用，成為現(xiàn)代社會(huì)生活和公共領(lǐng)域中舉足輕重的關(guān)鍵因素。在許多場(chǎng)合下，個(gè)體的自由意志對(duì)于此種算法作用的發(fā)揮只有非常有限的抵抗能力，而大型平臺(tái)的算法應(yīng)用不僅可以在較大范圍內(nèi)向相對(duì)人或用戶施加自身的意志，還可以通過精心設(shè)計(jì)和篩選的內(nèi)容推送和互動(dòng)機(jī)制影響、干擾甚至塑成對(duì)方意志的內(nèi)容，導(dǎo)致意思自治的失效和個(gè)體自主性的弱化。在此種意義上，我們就不能單純從私權(quán)層面考慮算法治理的法理圖式和基本方案，而“算法權(quán)力”層面的思考則會(huì)帶來更直接、更有力的啟發(fā)。
選擇首先立足“算法權(quán)力”，也是因?yàn)閺囊?guī)范算法權(quán)力入手，能夠更加清楚地直面算法影響作用的公共風(fēng)險(xiǎn)。平臺(tái)算法的影響力往往會(huì)產(chǎn)生超出私主體之間社會(huì)交往的外部性，產(chǎn)生了新的公共風(fēng)險(xiǎn)，甚至催生了“計(jì)算宣傳”和“認(rèn)知戰(zhàn)”等新型公共活動(dòng)方式，大幅度由私人領(lǐng)域邁入公共領(lǐng)域，國(guó)家干預(yù)亦由此而不可避免。對(duì)于生成式人工智能大模型而言，由于其正日益成為經(jīng)濟(jì)發(fā)展和社會(huì)生活的“底層技術(shù)”，算法模型秉持的價(jià)值觀、選擇接納的信息和提供的輸出結(jié)果將廣泛而深刻地影響億萬用戶的思想和行為。以規(guī)范算法權(quán)力為首要立足點(diǎn)，有助于充分承認(rèn)和分析算法影響作用的公共性，推進(jìn)對(duì)相關(guān)算法應(yīng)用公共風(fēng)險(xiǎn)的全方位認(rèn)識(shí)，也有助于公法干預(yù)正當(dāng)性的證立，保護(hù)難以被權(quán)利化的公共利益和安全法益。
第三，以規(guī)范算法權(quán)力為首要立足點(diǎn)，有助于找準(zhǔn)和優(yōu)化算法治理思路。選擇首先立足“算法權(quán)力”，是因?yàn)閺囊?guī)范算法權(quán)力入手，能夠最有效地控制算法風(fēng)險(xiǎn)的發(fā)生進(jìn)程。算法權(quán)力鑲嵌在算法本身的運(yùn)行機(jī)理中，是算法治理最直接的切入點(diǎn)。算法本身不是權(quán)力，但某些算法模型本身天然地蘊(yùn)含著權(quán)力。如果說權(quán)力意味著一方主體可以無視對(duì)方意志的反對(duì)而將自身的意志加諸對(duì)方，許多算法模型已經(jīng)能夠通過精心設(shè)計(jì)的機(jī)制實(shí)現(xiàn)這一目標(biāo)，而并不必然需要借助強(qiáng)制性的手段。以算法推薦為例，算法推薦經(jīng)常帶有強(qiáng)烈的營(yíng)利或宣傳目的，為了更好地實(shí)現(xiàn)推薦目標(biāo)，還經(jīng)常有設(shè)置了特定競(jìng)技指標(biāo)（如用戶黏性、付費(fèi)意愿等）的算法推薦比賽。從眾多算法設(shè)計(jì)中“殺出重圍”的許多推薦模型正是影響、引導(dǎo)甚至塑造用戶和公眾意志的利器，模型中的各種注意力頭、權(quán)重矩陣、激活函數(shù)等就是有關(guān)主體面對(duì)用戶和公眾實(shí)現(xiàn)其意志的精準(zhǔn)推手。如果從操縱、誘導(dǎo)、暗示、欺騙、感染等影響作用理解算法權(quán)力，可以發(fā)現(xiàn)算法權(quán)力的生發(fā)機(jī)制深嵌于算法模型之中，與模型設(shè)計(jì)、訓(xùn)練與運(yùn)行的過程和模型中的海量參數(shù)緊密關(guān)聯(lián)。這是許多算法風(fēng)險(xiǎn)發(fā)生的根源。在這個(gè)意義上，關(guān)注算法權(quán)力的實(shí)現(xiàn)過程和機(jī)理，很大程度上就幾乎等同于捕捉到了算法風(fēng)險(xiǎn)發(fā)生的邏輯，進(jìn)而有機(jī)會(huì)針對(duì)關(guān)鍵環(huán)節(jié)“對(duì)癥下藥”，根據(jù)算法產(chǎn)生影響的技術(shù)原理和風(fēng)險(xiǎn)生成路徑精準(zhǔn)選擇治理方案。
選擇首先立足“算法權(quán)力”，也是因?yàn)閺囊?guī)范算法權(quán)力入手，更便于實(shí)現(xiàn)“穿透式監(jiān)管”。在許多情形下，事后的侵權(quán)救濟(jì)往往鞭長(zhǎng)莫及或姍姍來遲，事前和事中的及時(shí)干預(yù)十分關(guān)鍵。從規(guī)范算法權(quán)力入手，著眼算法權(quán)力的實(shí)現(xiàn)過程和風(fēng)險(xiǎn)生成路徑，就能夠保持算法治理的穿透性，進(jìn)而運(yùn)用規(guī)范和約束算法風(fēng)險(xiǎn)的各種工具，包括算法備案、算法審計(jì)、算法透明、技術(shù)標(biāo)準(zhǔn)、監(jiān)管接口、算法可解釋性、算法影響評(píng)估等，引導(dǎo)算法模型設(shè)計(jì)和訓(xùn)練中的意志表達(dá)，深入優(yōu)化算法治理思路，實(shí)施更及時(shí)、更精當(dāng)?shù)乃惴ㄖ卫怼?/p>
第四，以規(guī)范算法權(quán)力為首要立足點(diǎn)，有助于引入和革新公法治理體系。選擇首先立足“算法權(quán)力”，是因?yàn)閺囊?guī)范算法權(quán)力入手，能夠強(qiáng)化公法規(guī)則和原則的適用。緊扣“算法權(quán)力”的特性，聚焦公共機(jī)構(gòu)和大型平臺(tái)某些算法應(yīng)用發(fā)揮影響和作用的過程，就可以針對(duì)性地運(yùn)用規(guī)范類似權(quán)力的規(guī)則或原則。在算法治理實(shí)踐中，我們已經(jīng)逐漸以一種類似行政法治的方式規(guī)制算法權(quán)力的濫用，對(duì)公共機(jī)構(gòu)和平臺(tái)企業(yè)提出了一系列制度性要求：要求公示部分算法服務(wù)的基本原理、目的意圖和主要運(yùn)行機(jī)制，要求對(duì)用戶權(quán)益產(chǎn)生重大影響的原因作出說明，要求確保服務(wù)的公平公正、不得利用算法實(shí)行差異化定價(jià)和“算法歧視”，要求政府、企業(yè)、社會(huì)、網(wǎng)民等多方主體共同參與算法治理，等等。這表明以算法權(quán)力的運(yùn)行過程和作用機(jī)理為立足點(diǎn)，可以使算法治理過程適度引入公法治理體系、容納更多的公法元素，既防止相關(guān)算法服務(wù)提供者“遁入”私法關(guān)系之中而逃避本應(yīng)承擔(dān)的義務(wù)和責(zé)任，更從公共利益和共同福祉的高度促成算法服務(wù)提供者“為善去惡”。
選擇首先立足“算法權(quán)力”，更是因?yàn)椤八惴?quán)力”的認(rèn)知方式有利于公法理念和制度的變革，進(jìn)而促成算法時(shí)代法治建設(shè)的變革與進(jìn)步。面對(duì)源于算法公共影響的新型權(quán)力現(xiàn)象，公法理念和學(xué)說亦需要隨之變革和擴(kuò)展。例如，面對(duì)行政主體作出的判斷和決定，行政過程中相對(duì)人可以享受正當(dāng)程序的保障：行政主體作出與相對(duì)人利害關(guān)系密切相關(guān)的判斷或決定前，應(yīng)當(dāng)告知相對(duì)人擬作出的處理，并聽取相對(duì)人的陳述和申辯。然而，如果是公共算法系統(tǒng)作出的判斷或決定，機(jī)器又如何有效聽取陳述和申辯呢？將傳統(tǒng)的正當(dāng)程序擴(kuò)展為“技術(shù)性正當(dāng)程序”就可以一定程度上解決這一問題：法律制度可以要求自動(dòng)化系統(tǒng)保留每一決定的“審計(jì)軌跡”，以輔助行政機(jī)關(guān)向當(dāng)事人說明理由；相對(duì)人有權(quán)就自動(dòng)化決策向行政機(jī)關(guān)的有關(guān)工作人員進(jìn)行陳述和申辯，后者應(yīng)接受專門培訓(xùn)以了解相關(guān)自動(dòng)化系統(tǒng)的運(yùn)行原理，能夠詳細(xì)說明該行政機(jī)關(guān)如何依賴自動(dòng)化系統(tǒng)作決定，能夠根據(jù)審計(jì)軌跡有效分辨相對(duì)人的陳述和申辯是否有道理。如果沒有深刻認(rèn)識(shí)到算法系統(tǒng)中包含的權(quán)力因素和算法決策所蘊(yùn)含的權(quán)力運(yùn)行方式變遷，不從算法權(quán)力的視角切入，就很有可能忽略正當(dāng)程序理念和原則的必要發(fā)展。同理，只有充分承認(rèn)和深刻認(rèn)識(shí)“算法權(quán)力”，才能在算法時(shí)代有效發(fā)展、擴(kuò)充和革新公眾參與、說明理由、聽證等制度，在公共機(jī)構(gòu)和大型平臺(tái)算法決策中有效嵌入程序公正、禁止歧視、促進(jìn)算法向善、保護(hù)人的主體性地位等價(jià)值理念，形成算法治理（尤其是算法公共風(fēng)險(xiǎn)治理）的系統(tǒng)性方案。
因此，算法治理需要優(yōu)先立足規(guī)范算法權(quán)力。當(dāng)然，這絕不意味著保障算法權(quán)利無關(guān)輕重。規(guī)范公共機(jī)構(gòu)和平臺(tái)的算法權(quán)力，在相當(dāng)程度上也是為保障用戶、相對(duì)人乃至公眾的算法權(quán)利服務(wù)。千里之行，始于足下。我們唯有在規(guī)范算法權(quán)力上腳踏實(shí)地、尺步繩趨，才能在保障算法權(quán)利和完善算法治理的征途上行穩(wěn)致遠(yuǎn)。
�。ㄗ髡呦抵袊�(guó)人民公安大學(xué)法學(xué)院教授）