智能社会的治理与风险行政法的建构与证成
|
摘要
人工智能的成功将是史无前例的,但充满不确定性、失控性及全球化的风险却如影随形般威胁着人类社会。需要重构一个以多元、开放、分享为基本特征的风险治理体系,市场、社会及国家这三种治理机制循环往复,时而正向运动,时而反向运动,同时还包括国家内部的立法与行政、中央与地方之间的双向自循环系统,共同形成一个整体的四重双向治理生态。这给行政法实现从"秩序行政""给付行政"到"风险行政"的转型提供了历史契机,以"风险"和"治理"为基石的"风险行政法"应运而生。
The success of artificial intelligence will be unprecedented, but the risks of uncertainty, loss of control and globalization are threatening human society. We need to reconstruct a risk management system based on pluralism, openness and sharing. The three governance mechanisms of market, society, and state are cyclical, sometimes moving forward, sometimes moving in the opposite direction, and the bi-directional feedback between administration, the legislation, the central and the local governments, together form a holistic four-fold and bi-directional governance environment. This provides a historical opportunity for the administrative law to realize the transformation from "order administration" and"supply administration"to"risk administration". The "risk administrative law" based on "risk" and "governance" has emerged, as the times require.
The success of artificial intelligence will be unprecedented, but the risks of uncertainty, loss of control and globalization are threatening human society. We need to reconstruct a risk management system based on pluralism, openness and sharing. The three governance mechanisms of market, society, and state are cyclical, sometimes moving forward, sometimes moving in the opposite direction, and the bi-directional feedback between administration, the legislation, the central and the local governments, together form a holistic four-fold and bi-directional governance environment. This provides a historical opportunity for the administrative law to realize the transformation from "order administration" and"supply administration"to"risk administration". The "risk administrative law" based on "risk" and "governance" has emerged, as the times require.
引文
[1]“ABC时代”三大核心要点是人工智能(AI)、大数据(Big Data)和云计算(Cloud Computing),它以底层的云计算(算法)为基础,以中层的大数据为依托,以顶层的人工智能为中枢和依归。基于此,本文的“人工智能”概念是指“机器基于大数据和算法的自动化和自主化决策”。在法律意义上,前者就是弱人工智能,而后者就是强人工智能。
[2][英]维克托·迈尔-舍恩伯格等:《大数据时代:生活、工作与思维的大变革》,盛杨燕等译,浙江人民出版社2013年版,第1页。
[3]参见《北京市关于加快推进自动驾驶车辆道路测试有关工作的指导意见(试行)》和《北京市自动驾驶车辆道路测试管理实施细则(试行)》。
[4]参见《上海市智能网联汽车道路测试管理办法(试行)》。
[5]参见《重庆市自动驾驶道路测试管理实施细则(试行)》。
[6]Scherer,M.U.(2015).Regulating Artificial Intelligence Systems:Risks,Challenges,Competencies,and Strategies.Harvard Journal of Law&Technology,Vol.29,No.2,Spring 2016,353-400.
[7][英]伊丽莎白·费雪:《风险规制与行政宪制主义》,沈岿译,法律出版社2012年版,第23-52页。
[8][匈]卡尔·波兰尼:《巨变:当代政治与经济的起源》,黄树民译,社会科学文献出版社2013年版,第238页。
[9][美]劳伦斯·莱斯格:《代码2.0:网络空间中的法律》,李旭等译,清华大学出版社2009年版,第138-145页。
[10][英]安东尼·吉登斯:《现代性的后果》,田禾译,译林出版社2011年版,第47页。
[11]前引[2],舍恩伯格等书,第27-44页。
[12]同上书,第45-66页。
[13]同上书,第67-90页。
[14]Scherer,M.U.(2015).Regulating Artificial Intelligence Systems:Risks,Challenges,Competencies,and Strategies.Harvard Journal of Law&Technology,Vol.29,No.2,Spring 2016,353-400.
[15]前引[9],莱斯格书,第43页。
[16]王东岳:《物演通论》,陕西人民出版社2009年版,第17-18页。
[17][德]乌尔里希·贝克:《风险社会》,何博闻译,译林出版社2004年版,第62页。
[18]根据SAE国际标准(J3016)的定义,驾驶自动化水平可以分为0-5级,其中0-2级由人类司机控制驾车环境部分,分为无自动的0级、驾驶辅助的1级及部分自动化的2级;3-5级则由自动驾驶系统控制驾驶环境部分,分为附条件自动的3级、高度自动化的4级以及完全自动化的5级。到了5级,人类司机都完全被自动驾驶系统所取代,机器实现了完全的自主化。
[19]Scherer,M.U.(2015).Regulating Artificial Intelligence Systems:Risks,Challenges,Competencies,and Strategies.Harvard Journal of Law&Technology,Vol.29,No.2,Spring 2016,353-400.
[20]Scherer,M.U.(2015).Regulating Artificial Intelligence Systems:Risks,Challenges,Competencies,and Strategies.Harvard Journal of Law&Technology,Vol.29,No.2,Spring 2016,353-400.
[21][德]乌尔里希·贝克:《风险社会》,何博闻译,译林出版社2004年版,第36页。
[22]同上书,第38-39页。
[23]Scherer,M.U.(2015).Regulating Artificial Intelligence Systems:Risks,Challenges,Competencies,and Strategies.Harvard Journal of Law&Technology,Vol.29,No.2,Spring 2016,353-400.
[24]《网络安全法》第37条规定:“关键信息基础设施的运营者在中华人民共和国境内运营中收集和产生的个人信息和重要数据应当在境内存储。”由此,苹果icloud的密钥已依法存储在中国境内,中国监管部门将不再需要通过美国法院,而是能够利用自己的法律系统直接依法要求苹果交出中国用户的iCloud数据。
[25][意]卢西亚诺·弗洛里迪:《第四次革命》,王文革译,浙江人民出版社2016年版,第3页。
[26]前引[9],莱斯格书,第5页。
[27][英]伊丽莎白·费雪:《风险规制与行政宪制主义》,沈岿译,法律出版社2012年版,第13页。
[28]前引[27],费雪书,第14-15页。
[29][英]安东尼·吉登斯:《现代性的后果》,田禾译,译林出版社2011年版,第73页。
[30]前引[27],费雪书,第14-15页。
[31]同上书,第18-19页。
[32]同上书,第22-23页。
[33]同上书,第24页。
[34]前引[29],吉登斯书,第74页。
[35]涂子沛:《大数据》,广西师范大学出版社2015年版,第276页。
[36]高奇琦、张结斌:《社会补偿与个人适应:人工智能时代失业问题的两种解决》,《江西社会科学》2017年第10期,第25页。
[37]胡凌:《“非法兴起”:理解中国互联网演进的一个视角》,《文化纵横》2016年第5期,第120-125页。
[38]参见前引[37],胡凌文。
[39]何渊:《政府数据开放的整体法律框架》,《行政法学研究》2017年第6期,第58-68页。
[40]参见上海与腾讯战略合作共建“互联网+”智慧城市,载http://tech.qq.com/a/20150413/044265.htm,2016年7月31日。
[41]余瀛波:《药品电子监管网移交已成定局》,《法制日报》2016年2月24日,第6版。
[42]参见http://www.chinacourt.org/article/detail/2016/01/id/1779861.shtml,2016年7月31日。
[43]参见https://www.gzdata.gov.cn,2016年7月31日。
[44]参见http://news.sohu.com/20150923/n421951478.shtml,2016年7月31日。
[45][匈]卡尔.波兰尼:《巨变:当代政治与经济的起源》,黄树民译,社会科学文献出版社2013年版,第238页。
[46][美]弗兰克·帕斯奎尔《黑箱社会》,赵亚男译,中信出版社2015年版,第8页。
[47]参见李刚、王保民:《网络隐私权的人权法哲学问题研究》,《湖湘论坛》2018年第3期,第87页。
[48]前引[2],舍恩伯格等书,第117页。
[49]同上书,第200页。
[50]Paul Ohm,Broken Promises of Privacy,57 UCLAL.REV.1701(2010).
[51]前引[2],舍恩伯格等书,第207页。
[52]高富平:《个人数据保护和利用国际规则:源流与趋势》,法律出版社2016年版,序言。
[53]前引[2],舍恩伯格等书,第220页。
[54]同上书,第220页。
[55]同上书,第161-201页。
[56]同上书,第219页。
[57]前引[2],舍恩伯格等书,第219页。
[58]李振利、李毅:《论算法共谋的反垄断规制路径》,《学术交流》2018年第7期,第73页。
[59]前引[39],何渊文,第58-68页。
[60]前引[2],舍恩伯格等书,第223-226页。
[61]前引[52],高富平书,序言。
[62]伏创宇:《核能规制与行政法体系的变革》,北京大学出版社2017年版,第14页。
[63]翁岳生:《行政法(上)》,中国法制出版社2002年版,第16页。
[64]前引[27],费雪书,第25-26页。
[65]前引[27],费雪书,第27页。
[66]前引[29],吉登斯书,第19、47页。
[67]前引[27],费雪书,第27页。
[68]前引[27],费雪书,第34页。
[69]同上书,第37-38页。
[70][美]理查德.斯图尔特:《美国行政法的重构》,沈岿译,商务印书馆2002年版,第63页。
[71]前引[27],费雪书,第39页。
[72]同上书,第41页。
[73]周雪光:《中国国家治理的制度逻辑---一个组织学研究》,三联书店2017年版,第10页。
[74]郑永年:《中国的“行为联邦制”:中央-地方关系的变革与动力》,东方出版社2013年版,第35页。
[75]我国《宪法》第3条第4款规定:“中央和地方的国家机构职权的划分,遵循在中央的统一领导下,充分发挥地方的主动性、积极性的原则。”
[76]何渊:《论区域法律治理中的地方自主权---以区域合作协议为例》,《现代法学》2016年第1期,第49-62页。
[77]如《北京市加快科技创新培育人工智能产业的指导意见》和《中关村国家自主示范区人工智能产业培育行动计划(2017-2020年)》。
[78]如上海政府《关于本市推动新一代人工智能发展的实施意见》。
[78]如《广东省新一代人工智能发展规划(2018-2030)》。
[80]如《浙江省新一代人工智能发展规划》。
[81]参见前瞻产业研究院报告:《2018年全国各地人工智能行业最新政策》。
[82]李谦:《互联网数据开放的中国逻辑:经济动力与政治意涵》,《文化纵横》2016年第1期,第25-34页。
[83]Scherer,M.U.(2015).Regulating Artificial Intelligence Systems:Risks,Challenges,Competencies,and Strategies.Harvard Journal of Law&Technology,Vol.29,No.2,Spring 2016,353-400.
[84]参见欧盟《统一数据保护条例(GDPR)》第37条。
[85]参见欧盟《统一数据保护条例(GDPR)》第39条。
[86]前引[39],何渊文,第58-68页。
[87]前引[73],周雪光书,第439页。
[88]郑永年:《技术赋权:中国的互联网、国家与社会》,东方出版社2014年版,第15页。
[89][美]朱迪·弗里曼:《合作治理与新行政法》,毕洪海等译,商务印书馆2010年版,第34-35页。
[90]曾彩霞等:《大数据垄断对相关市场竟争的挑战与规制:基于文献的研究》,《中国价格监管与反垄断》2017年第6期,第8-15页。
[91][美]弗朗西斯·福山:《政治秩序的起源:从前人类时代到法国大革命》,毛俊杰译,广西师范大学出版社2012年版,第14页。
[92]同上书,第16页。
[93]吴沈括:《数据跨境流动与数据主权研究》,《新疆师范大学学报(哲学社会科学版)》2016年第5期,第112-119页。
[94][德]汉斯·J.沃尔夫等:《行政法(第3卷)》,高家伟译,商务印书馆2007年版,第3页。
[95]前引[39],何渊文,第58-68页。
[96]前引[27],费雪书,第48页。
[97]同上书,第52页。
[98][英]丹宁勋爵:《法律的训诫》,杨百揆等译,法律出版社2011年版,第3页。
[99]同上书,第16页。
[2][英]维克托·迈尔-舍恩伯格等:《大数据时代:生活、工作与思维的大变革》,盛杨燕等译,浙江人民出版社2013年版,第1页。
[3]参见《北京市关于加快推进自动驾驶车辆道路测试有关工作的指导意见(试行)》和《北京市自动驾驶车辆道路测试管理实施细则(试行)》。
[4]参见《上海市智能网联汽车道路测试管理办法(试行)》。
[5]参见《重庆市自动驾驶道路测试管理实施细则(试行)》。
[6]Scherer,M.U.(2015).Regulating Artificial Intelligence Systems:Risks,Challenges,Competencies,and Strategies.Harvard Journal of Law&Technology,Vol.29,No.2,Spring 2016,353-400.
[7][英]伊丽莎白·费雪:《风险规制与行政宪制主义》,沈岿译,法律出版社2012年版,第23-52页。
[8][匈]卡尔·波兰尼:《巨变:当代政治与经济的起源》,黄树民译,社会科学文献出版社2013年版,第238页。
[9][美]劳伦斯·莱斯格:《代码2.0:网络空间中的法律》,李旭等译,清华大学出版社2009年版,第138-145页。
[10][英]安东尼·吉登斯:《现代性的后果》,田禾译,译林出版社2011年版,第47页。
[11]前引[2],舍恩伯格等书,第27-44页。
[12]同上书,第45-66页。
[13]同上书,第67-90页。
[14]Scherer,M.U.(2015).Regulating Artificial Intelligence Systems:Risks,Challenges,Competencies,and Strategies.Harvard Journal of Law&Technology,Vol.29,No.2,Spring 2016,353-400.
[15]前引[9],莱斯格书,第43页。
[16]王东岳:《物演通论》,陕西人民出版社2009年版,第17-18页。
[17][德]乌尔里希·贝克:《风险社会》,何博闻译,译林出版社2004年版,第62页。
[18]根据SAE国际标准(J3016)的定义,驾驶自动化水平可以分为0-5级,其中0-2级由人类司机控制驾车环境部分,分为无自动的0级、驾驶辅助的1级及部分自动化的2级;3-5级则由自动驾驶系统控制驾驶环境部分,分为附条件自动的3级、高度自动化的4级以及完全自动化的5级。到了5级,人类司机都完全被自动驾驶系统所取代,机器实现了完全的自主化。
[19]Scherer,M.U.(2015).Regulating Artificial Intelligence Systems:Risks,Challenges,Competencies,and Strategies.Harvard Journal of Law&Technology,Vol.29,No.2,Spring 2016,353-400.
[20]Scherer,M.U.(2015).Regulating Artificial Intelligence Systems:Risks,Challenges,Competencies,and Strategies.Harvard Journal of Law&Technology,Vol.29,No.2,Spring 2016,353-400.
[21][德]乌尔里希·贝克:《风险社会》,何博闻译,译林出版社2004年版,第36页。
[22]同上书,第38-39页。
[23]Scherer,M.U.(2015).Regulating Artificial Intelligence Systems:Risks,Challenges,Competencies,and Strategies.Harvard Journal of Law&Technology,Vol.29,No.2,Spring 2016,353-400.
[24]《网络安全法》第37条规定:“关键信息基础设施的运营者在中华人民共和国境内运营中收集和产生的个人信息和重要数据应当在境内存储。”由此,苹果icloud的密钥已依法存储在中国境内,中国监管部门将不再需要通过美国法院,而是能够利用自己的法律系统直接依法要求苹果交出中国用户的iCloud数据。
[25][意]卢西亚诺·弗洛里迪:《第四次革命》,王文革译,浙江人民出版社2016年版,第3页。
[26]前引[9],莱斯格书,第5页。
[27][英]伊丽莎白·费雪:《风险规制与行政宪制主义》,沈岿译,法律出版社2012年版,第13页。
[28]前引[27],费雪书,第14-15页。
[29][英]安东尼·吉登斯:《现代性的后果》,田禾译,译林出版社2011年版,第73页。
[30]前引[27],费雪书,第14-15页。
[31]同上书,第18-19页。
[32]同上书,第22-23页。
[33]同上书,第24页。
[34]前引[29],吉登斯书,第74页。
[35]涂子沛:《大数据》,广西师范大学出版社2015年版,第276页。
[36]高奇琦、张结斌:《社会补偿与个人适应:人工智能时代失业问题的两种解决》,《江西社会科学》2017年第10期,第25页。
[37]胡凌:《“非法兴起”:理解中国互联网演进的一个视角》,《文化纵横》2016年第5期,第120-125页。
[38]参见前引[37],胡凌文。
[39]何渊:《政府数据开放的整体法律框架》,《行政法学研究》2017年第6期,第58-68页。
[40]参见上海与腾讯战略合作共建“互联网+”智慧城市,载http://tech.qq.com/a/20150413/044265.htm,2016年7月31日。
[41]余瀛波:《药品电子监管网移交已成定局》,《法制日报》2016年2月24日,第6版。
[42]参见http://www.chinacourt.org/article/detail/2016/01/id/1779861.shtml,2016年7月31日。
[43]参见https://www.gzdata.gov.cn,2016年7月31日。
[44]参见http://news.sohu.com/20150923/n421951478.shtml,2016年7月31日。
[45][匈]卡尔.波兰尼:《巨变:当代政治与经济的起源》,黄树民译,社会科学文献出版社2013年版,第238页。
[46][美]弗兰克·帕斯奎尔《黑箱社会》,赵亚男译,中信出版社2015年版,第8页。
[47]参见李刚、王保民:《网络隐私权的人权法哲学问题研究》,《湖湘论坛》2018年第3期,第87页。
[48]前引[2],舍恩伯格等书,第117页。
[49]同上书,第200页。
[50]Paul Ohm,Broken Promises of Privacy,57 UCLAL.REV.1701(2010).
[51]前引[2],舍恩伯格等书,第207页。
[52]高富平:《个人数据保护和利用国际规则:源流与趋势》,法律出版社2016年版,序言。
[53]前引[2],舍恩伯格等书,第220页。
[54]同上书,第220页。
[55]同上书,第161-201页。
[56]同上书,第219页。
[57]前引[2],舍恩伯格等书,第219页。
[58]李振利、李毅:《论算法共谋的反垄断规制路径》,《学术交流》2018年第7期,第73页。
[59]前引[39],何渊文,第58-68页。
[60]前引[2],舍恩伯格等书,第223-226页。
[61]前引[52],高富平书,序言。
[62]伏创宇:《核能规制与行政法体系的变革》,北京大学出版社2017年版,第14页。
[63]翁岳生:《行政法(上)》,中国法制出版社2002年版,第16页。
[64]前引[27],费雪书,第25-26页。
[65]前引[27],费雪书,第27页。
[66]前引[29],吉登斯书,第19、47页。
[67]前引[27],费雪书,第27页。
[68]前引[27],费雪书,第34页。
[69]同上书,第37-38页。
[70][美]理查德.斯图尔特:《美国行政法的重构》,沈岿译,商务印书馆2002年版,第63页。
[71]前引[27],费雪书,第39页。
[72]同上书,第41页。
[73]周雪光:《中国国家治理的制度逻辑---一个组织学研究》,三联书店2017年版,第10页。
[74]郑永年:《中国的“行为联邦制”:中央-地方关系的变革与动力》,东方出版社2013年版,第35页。
[75]我国《宪法》第3条第4款规定:“中央和地方的国家机构职权的划分,遵循在中央的统一领导下,充分发挥地方的主动性、积极性的原则。”
[76]何渊:《论区域法律治理中的地方自主权---以区域合作协议为例》,《现代法学》2016年第1期,第49-62页。
[77]如《北京市加快科技创新培育人工智能产业的指导意见》和《中关村国家自主示范区人工智能产业培育行动计划(2017-2020年)》。
[78]如上海政府《关于本市推动新一代人工智能发展的实施意见》。
[78]如《广东省新一代人工智能发展规划(2018-2030)》。
[80]如《浙江省新一代人工智能发展规划》。
[81]参见前瞻产业研究院报告:《2018年全国各地人工智能行业最新政策》。
[82]李谦:《互联网数据开放的中国逻辑:经济动力与政治意涵》,《文化纵横》2016年第1期,第25-34页。
[83]Scherer,M.U.(2015).Regulating Artificial Intelligence Systems:Risks,Challenges,Competencies,and Strategies.Harvard Journal of Law&Technology,Vol.29,No.2,Spring 2016,353-400.
[84]参见欧盟《统一数据保护条例(GDPR)》第37条。
[85]参见欧盟《统一数据保护条例(GDPR)》第39条。
[86]前引[39],何渊文,第58-68页。
[87]前引[73],周雪光书,第439页。
[88]郑永年:《技术赋权:中国的互联网、国家与社会》,东方出版社2014年版,第15页。
[89][美]朱迪·弗里曼:《合作治理与新行政法》,毕洪海等译,商务印书馆2010年版,第34-35页。
[90]曾彩霞等:《大数据垄断对相关市场竟争的挑战与规制:基于文献的研究》,《中国价格监管与反垄断》2017年第6期,第8-15页。
[91][美]弗朗西斯·福山:《政治秩序的起源:从前人类时代到法国大革命》,毛俊杰译,广西师范大学出版社2012年版,第14页。
[92]同上书,第16页。
[93]吴沈括:《数据跨境流动与数据主权研究》,《新疆师范大学学报(哲学社会科学版)》2016年第5期,第112-119页。
[94][德]汉斯·J.沃尔夫等:《行政法(第3卷)》,高家伟译,商务印书馆2007年版,第3页。
[95]前引[39],何渊文,第58-68页。
[96]前引[27],费雪书,第48页。
[97]同上书,第52页。
[98][英]丹宁勋爵:《法律的训诫》,杨百揆等译,法律出版社2011年版,第3页。
[99]同上书,第16页。