数字社会权力的来源:评分、算法与规范的再生产
|
摘要
我们似乎正处于一个大规模"评分社会"的初始阶段,本文试图为这一趋势的发生和演进给出一种法律社会学解释,即低成本的信息搜集和评价工具使经济和政治权力主体均有不同的动力和理由对大众日常行为进行评分:对商业力量而言,平台企业需要评分机制塑造私人化的市场基础设施,从而约束管理平台上发生的各类劳动和交易活动;对政府而言,需要依托信息技术的广泛应用将既有官僚机制下的行政权力转化成能进一步适应更大流动性社会的平台。本文认为,尽管算法可能加剧了现有法律和其他规则的转变,但从商业和公共管理的逻辑出发,广泛采用评分机制是更好的策略,不仅可以帮助将更多细节行为纳入管理,还可以为进一步优化法律和平台成文规则提供数据支撑,为算法权力提供更多可应用的场景。
It seems we are at the beginning of a mass "ranking society"currently.This paper attempts to interpret the occurrence and evolution of this trend from a law-and-society perspective:information collection and ranking tools with low costs facilitate both economic and political power to provide scores over mass activities with different incentives and reasons.For commercial power,platform needs the ranking system to become part of private infrastructure of digital market,so as to regulate various labor and activities on the platform;for the government,however,it needs to make use of widely-used information technologies to transform the bureaucratic system to more adaptive to fast-flowing society.This paper argues that although algorithms could increase the transformation of law and social norms,it is a good strategy to widely adopt ranking system for commercial and administrative entities.
It seems we are at the beginning of a mass "ranking society"currently.This paper attempts to interpret the occurrence and evolution of this trend from a law-and-society perspective:information collection and ranking tools with low costs facilitate both economic and political power to provide scores over mass activities with different incentives and reasons.For commercial power,platform needs the ranking system to become part of private infrastructure of digital market,so as to regulate various labor and activities on the platform;for the government,however,it needs to make use of widely-used information technologies to transform the bureaucratic system to more adaptive to fast-flowing society.This paper argues that although algorithms could increase the transformation of law and social norms,it is a good strategy to widely adopt ranking system for commercial and administrative entities.
引文
[1]《国务院关于印发社会信用体系建设规划纲要(2014—2020年)的通知》(国发[2014]21号)。
[2]参见王瑞雪:《政府规制中的信用工具研究》,载《中国法学》2017年第4期。
[3]这是英文世界研究的普遍视角,例如Yongxi Chen and Anne Cheung,“The Transparent Self under Big Data Profiling:Privacy and Chinese Legislation on the Social Credit”,XII(2)Journal of Comparative Law(2017).
[4]这一视角可以延伸至西方“数据库国家”的想象,见Simson Garfinkel,“Database Nation:The Death of Privacy in the 21st Century”,O'Reilly,2001。
[5]Xin Dai,“Toward a Reputation State:The Social Credit System Project of China”(https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3193577,last visited 2018-12-02).
[6]关于自动化行政,参见敖双红、雷金晶:《论自动化行政及其法律规制》,载《湖南警察学院学报》2017年第1期。
[7]Lizhi Liu &Barry R.Weingast,“Taobao,Federalism,and the Emergence of Law,Chinese Style”,102(4)Minnesota Law Review(2018).
[8]参见周辉:《变革与选择:私权力视角下的网络治理》,北京大学出版社2016年版,第4章。
[9]Michael Mann,The Sources of Social Power:Volume 2,The Rise of Classes and Nation-States,1760-1914(Cambridge University Press,2012).遗憾的是,这本书第四卷在讨论21世纪的社会权力时很少提到互联网和信息技术在社会治理中的作用。一个鲜明对比,参见Niall Ferguson,The Square and the Tower:Networks and Power,from the Freemasons to Facebook(Penguin Press,2018)。
[10]类似地,关于实名制认证中不同逻辑的比较,参见胡凌:《网络实名制:赞成与反对》,载胡凌:《探寻网络法的政治经济起源》,上海财经大学出版社2016年版。
[11]参见张凌寒:《风险防范下算法的监管路径研究》,载《交大法学》2018年第4期。
[12]参见肖卫兵:《我国社会信用立法若干问题探析》,载《电子政务》2017年第6期。
[13]参见李晟:《通过算法的治理:人工智能语境下的法律转型》,载《法学评论》2018年第1期;余成峰:《法律的“死亡”:人工智能时代的法律功能危机》,载《华东政法大学学报》2018年第2期;郑戈:《算法的法律与法律的算法》,载《中国法律评论》2018年第2期。
[14]Lawrence Lessig,Code and Other Laws in Cyberspace(Basic Books,1999).第二版中译本见[美]劳伦斯·莱斯格:《代码2.0》,清华大学出版社2018年版。
[15]关于代码/架构的生产性面向,参见胡凌:《人工智能的法律想象》,载《文化纵横》2017年第2期;胡凌:《保护原创靠原创标识和白名单就够了吗?》,载《腾云》微信公众号2017年1月10日。
[16]参见胡凌:《超越代码:从赛博空间到物理世界的控制/生产机制》,载《华东政法大学学报》2018年第1期。
[17]同上注。
[18]参见胡凌:《在线声誉系统:演进与问题》,载胡泳、王俊秀编:《连接之后:公共空间重建与权力再分配》,人民邮电出版社2017年版。
[19]关于商事信用,参见赵磊:《商事信用:商法的内在逻辑与体系化根本》,载《中国法学》2018年第5期。
[20]参见前注[18],胡凌文。
[21]Zygmunt Bauman and David Lyon,“Liquid Surveillance:a Conversation”,Polity(2012).
[22]参见上海市人大常委会法制工作委员会等编:《〈上海市社会信用条例〉释义》,上海人民出版社2017年版。
[23]参见廉薇、边慧:《蚂蚁金服:从支付宝到新金融生态圈》,中国人民大学出版社2017年版。
[24]例如,阿里巴巴推行的校园计划即是打通支付宝系统和各高校的校园卡支付管理系统,从而获得海量大学生在校行为数据。
[25]信联又名百行征信,是央行批准的第一家持牌征信机构,由中国互金协会和8家征信公司共同筹建,其中中国互金协会持股36%,芝麻信用、腾讯征信、深圳前海征信中心、鹏元征信、中诚信征、考拉征信、中智诚征信和北京华道征信8家征信平台各持股8%。
[26]Yochai Benkler,The Wealth of Networks:How Social Production Transforms Markets and Freedom(Yale University Press,2006).
[27]这是真正的分享经济(一种礼物经济)走向衰落的原因,例如像滴滴这样的网约车公司会通过评分和算法派单将工作时间较少的司机逐渐排除出平台,因为他们不能给平台带来长期价值。
[28]参见胡凌:《走向封闭的搜索引擎》,载腾讯研究院编:《网络法论丛》(第二辑),中国政法大学出版社2018年版。
[29]参见前注[18],胡凌文。另可参见王勇、戎珂:《平台治理:在线市场的设计、运营与监管》,中信出版社2018年版,第6章。
[30]参见郑戈:《区块链与未来法治》,载《东方法学》2018年第3期;[美]保罗·维格纳:《区块链:赋能万物的事实机器》,中信出版社2018年版。
[31]参见胡凌:《商业网络推手的演进与法律回应》,载陈云良主编:《经济法论丛》(2017年第1期),社会科学文献出版社2017年版。
[32]也可称之为平台基础服务,参见胡凌:《论赛博空间的架构及其法律意蕴》,载《东方法学》2018年第3期。
[33]参见姚志伟:《“网规”若干基本问题初探》,载《科技与法律》2012年第2期。
[34]参见戴昕、申欣旺:《规范如何“落地”——法律实施的未来与互联网平台治理的现实》,载《中国法律评论》2016年第4期。
[35]也有因为平台上某些影视作品评分过低而起诉平台侵犯名誉权的例子。
[36]哪怕是看上去反对资本主义价值(如数字版权)的生产和分享活动(如字幕组或B站),最终也能被吸纳到更广泛的信息资本主义生产体系中。
[37]Adam Thierer et al.,“How the Internet,the Sharing Economy,and Reputational Feedback Mechanisms Solve the‘Lemons Problem,’”Mercatus Working Paper,May 2015.
[38]参见[美]丹尼尔·凯斯勒主编:《监管与诉讼》,武立译,化学工业出版社2018年版。
[39]Viktor Mayer-Schonberger &Thomas Ramge,Reinventing Capitalism in the Age of Big Data(John Murray,2018).
[40]这是评分机制广为诟病的问题,详见前注[18],胡凌文。
[41]参见刘新海:《征信与大数据:移动互联时代如何重塑“信用体系”》,中信出版社2016年版。
[42]参见凯西·奥尼尔:《算法霸权:数字杀伤性武器的威胁》,中信出版社2018年版;John CheneyLippold,We Are Data:Algorithms and The Making of Our Digital Selves(New York University Press,2017).
[43]参见张凌寒:《商业自动化决策的算法解释权研究》,载《法律科学》2018年第3期。
[44]参见波斯纳:《法理学问题》,中国政法大学出版社2002年版。
[45]参见强世功:《法制与治理:国家转型中的法律》,中国政法大学出版社2003年版。
[46]参见吴元元:《信息基础、声誉机制与执法优化——食品安全治理的新视野》,载《中国社会科学》2012年第6期。
[47]参见唐皇凤:《社会转型与组织化调控:中国社会治安综合治理组织网络研究》,武汉大学出版社2008年版。
[48]参见赵胜忠:《数字与权力:中国统计的转型与现代国家成长》,江苏人民出版社2015年版。
[49]这是形成社会多元秩序格局的重要原因,参见苏力:《法律规避和法律多元》,载《中外法学》1993年第6期。
[50]根据《国务院关于印发社会信用体系建设规划纲要(2014—2020年)的通知》,社会信用机制涉及从生产领域到社会组织多个领域,无所不包。
[51]参见孙平:《信息人的时代:用法律保护你的权利》,北京大学出版社2018年版。
[52]例如,2018年衡水市桃城区法院发给衡水一中的司法建议书中建议,报名学生家长必须没有被人民法院列为失信被执行人的相关记录,凡被人民法院列为失信被执行人者,一律不得录取,对已招录学生,有上述情形者,一经发现,应责令退学或转校到公办学校。
[53]原理是:发现违法行为的概率增加,因此惩罚强度可以相对削弱,仍然能够保持震慑力。
[54]参见罗培新:《社会信用法:原理·规则·案例》,北京大学出版社2018年版。
[55]参见郑磊:《开放的数林:政府数据开放的中国故事》,上海人民出版社2018年版。
[56]这种研究思路可以扩展为以一种权力机制为中心,探讨和其他权力的关系,以社会规范为核心的讨论,参见戴昕:《重新发现社会规范》,载《学术月刊》2019年第1期(即出);以架构为核心的讨论,参见前注[32],胡凌文。
[57]评分和代码(架构)一样,既是法律与规范的实现手段,本身也可能成为一种自在的权力类型,在形态上已经不同于法律与规范,而是介于两者之间,并且在内容上更加细致入微。但对平台企业而言,细致的行为可以被嵌入架构成为默认设置,评分主要体现为外部声誉机制;对政府而言,还无法做到自建架构约束广泛的社会行为,只能通过评分事后惩戒机制起作用。这是两类机制不同的地方。
[58] Ariel Porat &Lior Jacob Strahilevitz,“Personalizing Default Rules and Disclosure with Big Data”,112Mich.L.Rev.1417(2014).
[2]参见王瑞雪:《政府规制中的信用工具研究》,载《中国法学》2017年第4期。
[3]这是英文世界研究的普遍视角,例如Yongxi Chen and Anne Cheung,“The Transparent Self under Big Data Profiling:Privacy and Chinese Legislation on the Social Credit”,XII(2)Journal of Comparative Law(2017).
[4]这一视角可以延伸至西方“数据库国家”的想象,见Simson Garfinkel,“Database Nation:The Death of Privacy in the 21st Century”,O'Reilly,2001。
[5]Xin Dai,“Toward a Reputation State:The Social Credit System Project of China”(https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3193577,last visited 2018-12-02).
[6]关于自动化行政,参见敖双红、雷金晶:《论自动化行政及其法律规制》,载《湖南警察学院学报》2017年第1期。
[7]Lizhi Liu &Barry R.Weingast,“Taobao,Federalism,and the Emergence of Law,Chinese Style”,102(4)Minnesota Law Review(2018).
[8]参见周辉:《变革与选择:私权力视角下的网络治理》,北京大学出版社2016年版,第4章。
[9]Michael Mann,The Sources of Social Power:Volume 2,The Rise of Classes and Nation-States,1760-1914(Cambridge University Press,2012).遗憾的是,这本书第四卷在讨论21世纪的社会权力时很少提到互联网和信息技术在社会治理中的作用。一个鲜明对比,参见Niall Ferguson,The Square and the Tower:Networks and Power,from the Freemasons to Facebook(Penguin Press,2018)。
[10]类似地,关于实名制认证中不同逻辑的比较,参见胡凌:《网络实名制:赞成与反对》,载胡凌:《探寻网络法的政治经济起源》,上海财经大学出版社2016年版。
[11]参见张凌寒:《风险防范下算法的监管路径研究》,载《交大法学》2018年第4期。
[12]参见肖卫兵:《我国社会信用立法若干问题探析》,载《电子政务》2017年第6期。
[13]参见李晟:《通过算法的治理:人工智能语境下的法律转型》,载《法学评论》2018年第1期;余成峰:《法律的“死亡”:人工智能时代的法律功能危机》,载《华东政法大学学报》2018年第2期;郑戈:《算法的法律与法律的算法》,载《中国法律评论》2018年第2期。
[14]Lawrence Lessig,Code and Other Laws in Cyberspace(Basic Books,1999).第二版中译本见[美]劳伦斯·莱斯格:《代码2.0》,清华大学出版社2018年版。
[15]关于代码/架构的生产性面向,参见胡凌:《人工智能的法律想象》,载《文化纵横》2017年第2期;胡凌:《保护原创靠原创标识和白名单就够了吗?》,载《腾云》微信公众号2017年1月10日。
[16]参见胡凌:《超越代码:从赛博空间到物理世界的控制/生产机制》,载《华东政法大学学报》2018年第1期。
[17]同上注。
[18]参见胡凌:《在线声誉系统:演进与问题》,载胡泳、王俊秀编:《连接之后:公共空间重建与权力再分配》,人民邮电出版社2017年版。
[19]关于商事信用,参见赵磊:《商事信用:商法的内在逻辑与体系化根本》,载《中国法学》2018年第5期。
[20]参见前注[18],胡凌文。
[21]Zygmunt Bauman and David Lyon,“Liquid Surveillance:a Conversation”,Polity(2012).
[22]参见上海市人大常委会法制工作委员会等编:《〈上海市社会信用条例〉释义》,上海人民出版社2017年版。
[23]参见廉薇、边慧:《蚂蚁金服:从支付宝到新金融生态圈》,中国人民大学出版社2017年版。
[24]例如,阿里巴巴推行的校园计划即是打通支付宝系统和各高校的校园卡支付管理系统,从而获得海量大学生在校行为数据。
[25]信联又名百行征信,是央行批准的第一家持牌征信机构,由中国互金协会和8家征信公司共同筹建,其中中国互金协会持股36%,芝麻信用、腾讯征信、深圳前海征信中心、鹏元征信、中诚信征、考拉征信、中智诚征信和北京华道征信8家征信平台各持股8%。
[26]Yochai Benkler,The Wealth of Networks:How Social Production Transforms Markets and Freedom(Yale University Press,2006).
[27]这是真正的分享经济(一种礼物经济)走向衰落的原因,例如像滴滴这样的网约车公司会通过评分和算法派单将工作时间较少的司机逐渐排除出平台,因为他们不能给平台带来长期价值。
[28]参见胡凌:《走向封闭的搜索引擎》,载腾讯研究院编:《网络法论丛》(第二辑),中国政法大学出版社2018年版。
[29]参见前注[18],胡凌文。另可参见王勇、戎珂:《平台治理:在线市场的设计、运营与监管》,中信出版社2018年版,第6章。
[30]参见郑戈:《区块链与未来法治》,载《东方法学》2018年第3期;[美]保罗·维格纳:《区块链:赋能万物的事实机器》,中信出版社2018年版。
[31]参见胡凌:《商业网络推手的演进与法律回应》,载陈云良主编:《经济法论丛》(2017年第1期),社会科学文献出版社2017年版。
[32]也可称之为平台基础服务,参见胡凌:《论赛博空间的架构及其法律意蕴》,载《东方法学》2018年第3期。
[33]参见姚志伟:《“网规”若干基本问题初探》,载《科技与法律》2012年第2期。
[34]参见戴昕、申欣旺:《规范如何“落地”——法律实施的未来与互联网平台治理的现实》,载《中国法律评论》2016年第4期。
[35]也有因为平台上某些影视作品评分过低而起诉平台侵犯名誉权的例子。
[36]哪怕是看上去反对资本主义价值(如数字版权)的生产和分享活动(如字幕组或B站),最终也能被吸纳到更广泛的信息资本主义生产体系中。
[37]Adam Thierer et al.,“How the Internet,the Sharing Economy,and Reputational Feedback Mechanisms Solve the‘Lemons Problem,’”Mercatus Working Paper,May 2015.
[38]参见[美]丹尼尔·凯斯勒主编:《监管与诉讼》,武立译,化学工业出版社2018年版。
[39]Viktor Mayer-Schonberger &Thomas Ramge,Reinventing Capitalism in the Age of Big Data(John Murray,2018).
[40]这是评分机制广为诟病的问题,详见前注[18],胡凌文。
[41]参见刘新海:《征信与大数据:移动互联时代如何重塑“信用体系”》,中信出版社2016年版。
[42]参见凯西·奥尼尔:《算法霸权:数字杀伤性武器的威胁》,中信出版社2018年版;John CheneyLippold,We Are Data:Algorithms and The Making of Our Digital Selves(New York University Press,2017).
[43]参见张凌寒:《商业自动化决策的算法解释权研究》,载《法律科学》2018年第3期。
[44]参见波斯纳:《法理学问题》,中国政法大学出版社2002年版。
[45]参见强世功:《法制与治理:国家转型中的法律》,中国政法大学出版社2003年版。
[46]参见吴元元:《信息基础、声誉机制与执法优化——食品安全治理的新视野》,载《中国社会科学》2012年第6期。
[47]参见唐皇凤:《社会转型与组织化调控:中国社会治安综合治理组织网络研究》,武汉大学出版社2008年版。
[48]参见赵胜忠:《数字与权力:中国统计的转型与现代国家成长》,江苏人民出版社2015年版。
[49]这是形成社会多元秩序格局的重要原因,参见苏力:《法律规避和法律多元》,载《中外法学》1993年第6期。
[50]根据《国务院关于印发社会信用体系建设规划纲要(2014—2020年)的通知》,社会信用机制涉及从生产领域到社会组织多个领域,无所不包。
[51]参见孙平:《信息人的时代:用法律保护你的权利》,北京大学出版社2018年版。
[52]例如,2018年衡水市桃城区法院发给衡水一中的司法建议书中建议,报名学生家长必须没有被人民法院列为失信被执行人的相关记录,凡被人民法院列为失信被执行人者,一律不得录取,对已招录学生,有上述情形者,一经发现,应责令退学或转校到公办学校。
[53]原理是:发现违法行为的概率增加,因此惩罚强度可以相对削弱,仍然能够保持震慑力。
[54]参见罗培新:《社会信用法:原理·规则·案例》,北京大学出版社2018年版。
[55]参见郑磊:《开放的数林:政府数据开放的中国故事》,上海人民出版社2018年版。
[56]这种研究思路可以扩展为以一种权力机制为中心,探讨和其他权力的关系,以社会规范为核心的讨论,参见戴昕:《重新发现社会规范》,载《学术月刊》2019年第1期(即出);以架构为核心的讨论,参见前注[32],胡凌文。
[57]评分和代码(架构)一样,既是法律与规范的实现手段,本身也可能成为一种自在的权力类型,在形态上已经不同于法律与规范,而是介于两者之间,并且在内容上更加细致入微。但对平台企业而言,细致的行为可以被嵌入架构成为默认设置,评分主要体现为外部声誉机制;对政府而言,还无法做到自建架构约束广泛的社会行为,只能通过评分事后惩戒机制起作用。这是两类机制不同的地方。
[58] Ariel Porat &Lior Jacob Strahilevitz,“Personalizing Default Rules and Disclosure with Big Data”,112Mich.L.Rev.1417(2014).