仿人机器人的法律风险及其规制——兼评《民法典人格权编(草案二次审议稿)》第799条第一款
|
摘要
仿人机器人的仿人性具有多维意义,但同时也裹挟着一定的法律及伦理风险。仿人机器人存在肖像权侵权风险,美国多起相关案例可供镜鉴,我国人格权立法中相关条款需要改进;仿人机器人存在虚假广告代言的责任风险,应坚守目前《广告法》中"广告代言人"的界定,并通过目的性扩张填补相关条文的法律漏洞;仿人机器人存在"恐怖谷效应"风险,机器人国家技术标准制定应予以规制。建议借鉴国际经验,逐步制定我国的人工智能和机器人技术治理规范,为创建人机和谐共生的智能社会提供有效的制度保障。
引文
(1)参见[韩]金钟熠:《仿人机器人权威指南》,武传海译,北京:人民邮电出版社,2018年,第1、4页。
(2)参见谢涛、徐建峰、张永学等:《仿人机器人的研究历史、现状及展望》,《机器人》2002年第4期。
(3)参见[日]梶田秀司:《仿人机器人》,管贻生译,北京:清华大学出版社,2007年,第1-2页。
(4)参见吴伟国:《面向作业与人工智能的仿人机器人研究进展》,《哈尔滨工业大学学报》2015年第7期。
(5)Veruggio,Gianmarco.“The EURON roboethics roadmap,”Humanoid Robots,2006 6th IEEE-RAS International Conference on IEEE,2007,pp.612-617.
(1)中国电子学会2018年发布的研究报告指出,2013年以来全球服务机器人市场规模年均增速达23.5%,2018年全球服务机器人市场规模将达到92.5亿美元,2020年将快速增长至156.9亿美元。2018年,全球家用服务机器人、医疗服务机器人和公共服务机器人市场规模预计分别为44.8亿美元、25.4亿美元和22.3亿美元。参见《中国机器人产业发展报告发布》,《智能机器人》2018年第4期。
(2)例如,通过百度学术搜索,输入“仿人机器人”,可以检索到约193,000条相关结果(以“类人机器人检索”,可得约160,000条结果),研究成果主要分布在机械工程、控制科学与工程、计算机科学与技术、社会学、医学等领域,但法学类研究明显匮乏(检索日期:2019年3月25日)。
(3)参见朱体正:《仿人机器人的仿人性及其多维意义》,《智能机器人》2019年第1期。
(4)参见环球网讯:《香港男子打造女神斯嘉丽同款机器人,或被指侵犯肖像权》,2016年4月12日,http:∥world.huanqiu.com/exclusive/2016-04/8806121.html,2019年5月23日。
(1)参见机器之心:《从此再无真“相”!这些人全部是AI生成的》,2019年2月16日,https:∥cloud.tencent.com/developer/news/395724,2019年6月19日.
(2)王博勋:《人格权编草案二审:及时回应新情况新问题》,《中国人大》2019年第5期。
(3)在刑法学上,伪造文书罪中的“伪造”存在有形伪造和无形伪造,前者是指没有文书制作权的人冒用他人名义制作文书,后者是指制作文书名义不虚假,但制作内容违反真实情况。参见熊永明著:《伪造文书罪初论》,北京:群众出版社,2006年,第148~149页。本文认为,无形伪造有制作权之名却行伪造内容之实,亦即未经他人同意而伪造文书内容,故与有形伪造一样,本质上都是未经他人同意的行为。伪造肖像与伪造文书本质无异,故可界定为未经肖像权同意而制作肖像的行为。
(1)参见新华社记者白阳、罗沙、王子铭等:《基因科研、“AI换脸”、人体试验、个人信息,民法典人格权编草案二审稿都作出规范》,2019年4月21日,http:∥www.npc.gov.cn/npc/cwhhy/13jcwh/2019-04/21/content-2085573.htm,2019年4月21日。
(2)参见张民安、杨彪:《侵权责任法》,北京:高等教育出版社,2011年,第282页。
(3)针对人工智能技术滥用的风险,2018年2月来自牛津大学等机构的26位研究人员发布了一份预警报告,针对人工智能的恶意使用可能引发的政治风险和公共安全风险发出警告,并提出相应的预防和缓解措施。See Brundage M,Avin S,Clark J,et al,The Malicious Use of Artificial Intelligence:Forecasting,Prevention,and Mitigation,20 Feb 2018.
(4)史尚宽:《债法总论》,北京:中国政法大学出版社,2000年,第157页。
(5)王泽鉴:《人格权法:法释义学、比较法、案例研究》,北京:北京大学出版社,2013年,第249页。
(1)杨立新:《民法典人格权编草案逻辑结构的特点与问题》,《东方法学》2019年第2期。
(2)加拿大一家公司甚至开发出一个仅基于文本输入就可生成逼真声音的语音合成系统。参见《语音版deepfake出现:从文本到逼真人声,被模仿者高呼真得可怕》,2019年5月18日,https:∥www.jiqizhixin.com/articles/2019-05-18-04,2019年5月23日。
(3)在美国法上,肖像一方面属于隐私权(Right of Privacy),另一方面则为公开权,除精神利益外,尚具财产权性质。公开权是从隐私权发展起来的保护自然人个人形象特征财产价值的独立权利,得为让与和继承,而隐私权则是保护自然人不受干扰的精神利益,不得让与和继承。二者构成美国法上保护人格利益的双轴规范体系。参见王泽鉴:《人格权法:法释义学、比较法、案例研究》,北京:北京大学出版社,2013年,第137、270页。
(4)White v.Samsung,971 F.2d 1395(9th Cir.1992),cert.denied,113 S.Ct.2443(1993).
(1)Wendt v.Host Intern.Inc.,125 F.3d 806,810(9th Cir.1997).
(2)国家法官学院、中国人民大学法学院:《中国审判案例要览(2004年民事审判案例卷)》,北京:中国人民大学出版社、人民法院出版社,2004年,第343页。
(3)Elnicky Enterprises,Inc.v.Spotlight Presents,Inc.,1981 WL 48202(S.D.N.Y.1981).
(1)参见王利明:《人工智能时代对民法学的新挑战》,《东方法学》2018年第3期。
(2)李佳师:《中美AI发展:技术路线相像,落地路径各异》,《中国电子报》2018年8月17日第6版。
(3)European Parliament Resolution of 16 February 2017,Report with Recommendations to the Commission on Civil Law Rules on Robotics(2015/2103(INL)),27.Jan.2017,http:∥www.europarl.europa.eu/sides/getD oc.do type=REPORT&reference=A8-2017-0005&language=EN.,2019年5月19日。中文版参见朱体正等译:《欧洲议会机器人民法规则》,梁慧星主编:《民商法论丛》第69卷,北京:社会科学文献出版社,2019年。
(4)杨国栋:《应用机器人的伦理法律问题,欧盟如何规制?》,《南方都市报》2017年1月20日第A23版。
(1)参见梁慧星:《民法解释学》,北京:中国政法大学出版社,1995年,第279页。
(2)使用动物作为广告代言人的例子并不鲜见,如一只名为“Kai-kun”的阿伊努人犬曾长期作为日本软银集团的广告模特,美国著名的“不爽猫”(Grumpy Cat)为猫粮、饮料等进行营销及参演电影等给主人带来不菲收入。
(1)Mori,M.K.F.Macdorman,and N.Kageki.“The Uncanny Valley”,IEEE Robotics&Automation Magazine,Vol.19,No.2,2012,pp.98-100.
(2)Seyama,Jun'Ichiro,and R.S.Nagayama.“The Uncanny Valley:Effect of Realism on the Impression of Artificial Human Faces”,Presence:Teleoperators and Virtual Environments,Vol.16,No.4,2007,pp.337-351.
(3)Mathur,Maya B.,and D.B.Reichling.“Navigating a social world with robot partners:A quantitative cartography of the Uncanny Valley”,Cognition,Vol.146,2016,pp.22-32.
(4)A P Saygin,Chaminade T,Ishiguro H,et al.“The thing that should not be:predictive coding and the uncanny valley in perceiving human and humanoid robot actions”,Social Cognitive&Affective Neuroscience,Vol.7,No.4,2012,p.413.
(5)参见[加拿大]维尼·布罗迪:《日本机器人学家森昌弘的佛教式“恐怖谷”概念》,邵明译,《宜宾学院学报》2012年第8期。
(6)参见翁岳暄:《服务机器人安全监管问题初探---以开放组织风险为中心》,北京大学2014年法学博士学位论文,第2页。
(7)Jacob Turner.Robot Rules:Regulating Artificial Intelligence,Gewerbestrasse:Palgrave Macmillan,2018,p.162.
(1)我国《产品质量法》第13条规定:“可能危及人体健康和人身、财产安全的工业产品,必须符合保障人体健康和人身、财产安全的国家标准、行业标准;未制定国家标准、行业标准的,必须符合保障人体健康和人身、财产安全的要求。禁止生产、销售不符合保障人体健康和人身、财产安全的标准和要求的工业产品。具体管理办法由国务院规定。”
(2)检索网址:http:∥111.203.12.48/bzgk/gb/std-listr=0.41190280895089526&p.p1=0&p.p2=机器人&p.=TOBEIMP&p.p90=circulation-date&p.p91=desc,2019年6月19日。
(3)该标准(征求意见稿)《起草说明》指出:“标准规定了所有机器人必须遵循的安全基本原则,为机器人制造商、机器人系统集成商、机器人检测机构等提供一套适用于机器人全生命周期的机器人安全总则和指导规范,填补了机器人无顶层安全标准的空白,有利于机器人产业的健康发展”,“本标准由国家机器人标准化总体组于2017年提出并归口。主要起草单位为新松机器人等20家单位,计划应完成时间为2019年。标准计划号为:20170061-T-469。”参见国家机器人标准化总体组:《关于征求国家标准<机器人安全总则和指导规范>(征求意见稿)意见的通知》,2018年9月29日,http:∥www.nrsgwgc.org.cn/Pages/Content.aspx-channelI d=ChannelI nfo;01f4376e-82b9-4677-a0cd-b8b7eddb7fbe&-newsI d=NewsI nfo;873487c9-0453-4ae2-a715-c9cd5ebf0143,2019年6月19日。
(4)该项原则位于“5.机械安全”之下,“5.1.1通则”要求“机器人应保证在物理上(机械机构产生的直接伤害)所有风险被降低到可接受的,确保其对人员和周围环境不产生损伤或危害”。
(1)人类工效学(Ergonomics)是根据人的心理、生理和身体结构等因素,研究人、机械、环境相互间的合理关系,以保证人们安全、健康、舒适地工作,并取得满意的工作效果的机械工程分支学科。参见项英华著:《人类工效学》,北京:北京理工大学出版社,2008年,第1页;另见中国人类工效学学会人类工效学专业介绍:http:∥www.cesbj.org/jieshao.asp,2019年6月19日。
(1)[美]温德尔·瓦拉赫、科林·艾伦:《道德机器:如何让机器人明辨是非》,王小红主译,北京:北京大学出版社,2017年,中文版序第2页。
(2)[德]乌尔里希·贝克:《风险社会:新的现代性之路》,张文杰、何博闻译,南京:译林出版社,2018年,第298-299页。
(2)参见谢涛、徐建峰、张永学等:《仿人机器人的研究历史、现状及展望》,《机器人》2002年第4期。
(3)参见[日]梶田秀司:《仿人机器人》,管贻生译,北京:清华大学出版社,2007年,第1-2页。
(4)参见吴伟国:《面向作业与人工智能的仿人机器人研究进展》,《哈尔滨工业大学学报》2015年第7期。
(5)Veruggio,Gianmarco.“The EURON roboethics roadmap,”Humanoid Robots,2006 6th IEEE-RAS International Conference on IEEE,2007,pp.612-617.
(1)中国电子学会2018年发布的研究报告指出,2013年以来全球服务机器人市场规模年均增速达23.5%,2018年全球服务机器人市场规模将达到92.5亿美元,2020年将快速增长至156.9亿美元。2018年,全球家用服务机器人、医疗服务机器人和公共服务机器人市场规模预计分别为44.8亿美元、25.4亿美元和22.3亿美元。参见《中国机器人产业发展报告发布》,《智能机器人》2018年第4期。
(2)例如,通过百度学术搜索,输入“仿人机器人”,可以检索到约193,000条相关结果(以“类人机器人检索”,可得约160,000条结果),研究成果主要分布在机械工程、控制科学与工程、计算机科学与技术、社会学、医学等领域,但法学类研究明显匮乏(检索日期:2019年3月25日)。
(3)参见朱体正:《仿人机器人的仿人性及其多维意义》,《智能机器人》2019年第1期。
(4)参见环球网讯:《香港男子打造女神斯嘉丽同款机器人,或被指侵犯肖像权》,2016年4月12日,http:∥world.huanqiu.com/exclusive/2016-04/8806121.html,2019年5月23日。
(1)参见机器之心:《从此再无真“相”!这些人全部是AI生成的》,2019年2月16日,https:∥cloud.tencent.com/developer/news/395724,2019年6月19日.
(2)王博勋:《人格权编草案二审:及时回应新情况新问题》,《中国人大》2019年第5期。
(3)在刑法学上,伪造文书罪中的“伪造”存在有形伪造和无形伪造,前者是指没有文书制作权的人冒用他人名义制作文书,后者是指制作文书名义不虚假,但制作内容违反真实情况。参见熊永明著:《伪造文书罪初论》,北京:群众出版社,2006年,第148~149页。本文认为,无形伪造有制作权之名却行伪造内容之实,亦即未经他人同意而伪造文书内容,故与有形伪造一样,本质上都是未经他人同意的行为。伪造肖像与伪造文书本质无异,故可界定为未经肖像权同意而制作肖像的行为。
(1)参见新华社记者白阳、罗沙、王子铭等:《基因科研、“AI换脸”、人体试验、个人信息,民法典人格权编草案二审稿都作出规范》,2019年4月21日,http:∥www.npc.gov.cn/npc/cwhhy/13jcwh/2019-04/21/content-2085573.htm,2019年4月21日。
(2)参见张民安、杨彪:《侵权责任法》,北京:高等教育出版社,2011年,第282页。
(3)针对人工智能技术滥用的风险,2018年2月来自牛津大学等机构的26位研究人员发布了一份预警报告,针对人工智能的恶意使用可能引发的政治风险和公共安全风险发出警告,并提出相应的预防和缓解措施。See Brundage M,Avin S,Clark J,et al,The Malicious Use of Artificial Intelligence:Forecasting,Prevention,and Mitigation,20 Feb 2018.
(4)史尚宽:《债法总论》,北京:中国政法大学出版社,2000年,第157页。
(5)王泽鉴:《人格权法:法释义学、比较法、案例研究》,北京:北京大学出版社,2013年,第249页。
(1)杨立新:《民法典人格权编草案逻辑结构的特点与问题》,《东方法学》2019年第2期。
(2)加拿大一家公司甚至开发出一个仅基于文本输入就可生成逼真声音的语音合成系统。参见《语音版deepfake出现:从文本到逼真人声,被模仿者高呼真得可怕》,2019年5月18日,https:∥www.jiqizhixin.com/articles/2019-05-18-04,2019年5月23日。
(3)在美国法上,肖像一方面属于隐私权(Right of Privacy),另一方面则为公开权,除精神利益外,尚具财产权性质。公开权是从隐私权发展起来的保护自然人个人形象特征财产价值的独立权利,得为让与和继承,而隐私权则是保护自然人不受干扰的精神利益,不得让与和继承。二者构成美国法上保护人格利益的双轴规范体系。参见王泽鉴:《人格权法:法释义学、比较法、案例研究》,北京:北京大学出版社,2013年,第137、270页。
(4)White v.Samsung,971 F.2d 1395(9th Cir.1992),cert.denied,113 S.Ct.2443(1993).
(1)Wendt v.Host Intern.Inc.,125 F.3d 806,810(9th Cir.1997).
(2)国家法官学院、中国人民大学法学院:《中国审判案例要览(2004年民事审判案例卷)》,北京:中国人民大学出版社、人民法院出版社,2004年,第343页。
(3)Elnicky Enterprises,Inc.v.Spotlight Presents,Inc.,1981 WL 48202(S.D.N.Y.1981).
(1)参见王利明:《人工智能时代对民法学的新挑战》,《东方法学》2018年第3期。
(2)李佳师:《中美AI发展:技术路线相像,落地路径各异》,《中国电子报》2018年8月17日第6版。
(3)European Parliament Resolution of 16 February 2017,Report with Recommendations to the Commission on Civil Law Rules on Robotics(2015/2103(INL)),27.Jan.2017,http:∥www.europarl.europa.eu/sides/getD oc.do type=REPORT&reference=A8-2017-0005&language=EN.,2019年5月19日。中文版参见朱体正等译:《欧洲议会机器人民法规则》,梁慧星主编:《民商法论丛》第69卷,北京:社会科学文献出版社,2019年。
(4)杨国栋:《应用机器人的伦理法律问题,欧盟如何规制?》,《南方都市报》2017年1月20日第A23版。
(1)参见梁慧星:《民法解释学》,北京:中国政法大学出版社,1995年,第279页。
(2)使用动物作为广告代言人的例子并不鲜见,如一只名为“Kai-kun”的阿伊努人犬曾长期作为日本软银集团的广告模特,美国著名的“不爽猫”(Grumpy Cat)为猫粮、饮料等进行营销及参演电影等给主人带来不菲收入。
(1)Mori,M.K.F.Macdorman,and N.Kageki.“The Uncanny Valley”,IEEE Robotics&Automation Magazine,Vol.19,No.2,2012,pp.98-100.
(2)Seyama,Jun'Ichiro,and R.S.Nagayama.“The Uncanny Valley:Effect of Realism on the Impression of Artificial Human Faces”,Presence:Teleoperators and Virtual Environments,Vol.16,No.4,2007,pp.337-351.
(3)Mathur,Maya B.,and D.B.Reichling.“Navigating a social world with robot partners:A quantitative cartography of the Uncanny Valley”,Cognition,Vol.146,2016,pp.22-32.
(4)A P Saygin,Chaminade T,Ishiguro H,et al.“The thing that should not be:predictive coding and the uncanny valley in perceiving human and humanoid robot actions”,Social Cognitive&Affective Neuroscience,Vol.7,No.4,2012,p.413.
(5)参见[加拿大]维尼·布罗迪:《日本机器人学家森昌弘的佛教式“恐怖谷”概念》,邵明译,《宜宾学院学报》2012年第8期。
(6)参见翁岳暄:《服务机器人安全监管问题初探---以开放组织风险为中心》,北京大学2014年法学博士学位论文,第2页。
(7)Jacob Turner.Robot Rules:Regulating Artificial Intelligence,Gewerbestrasse:Palgrave Macmillan,2018,p.162.
(1)我国《产品质量法》第13条规定:“可能危及人体健康和人身、财产安全的工业产品,必须符合保障人体健康和人身、财产安全的国家标准、行业标准;未制定国家标准、行业标准的,必须符合保障人体健康和人身、财产安全的要求。禁止生产、销售不符合保障人体健康和人身、财产安全的标准和要求的工业产品。具体管理办法由国务院规定。”
(2)检索网址:http:∥111.203.12.48/bzgk/gb/std-listr=0.41190280895089526&p.p1=0&p.p2=机器人&p.=TOBEIMP&p.p90=circulation-date&p.p91=desc,2019年6月19日。
(3)该标准(征求意见稿)《起草说明》指出:“标准规定了所有机器人必须遵循的安全基本原则,为机器人制造商、机器人系统集成商、机器人检测机构等提供一套适用于机器人全生命周期的机器人安全总则和指导规范,填补了机器人无顶层安全标准的空白,有利于机器人产业的健康发展”,“本标准由国家机器人标准化总体组于2017年提出并归口。主要起草单位为新松机器人等20家单位,计划应完成时间为2019年。标准计划号为:20170061-T-469。”参见国家机器人标准化总体组:《关于征求国家标准<机器人安全总则和指导规范>(征求意见稿)意见的通知》,2018年9月29日,http:∥www.nrsgwgc.org.cn/Pages/Content.aspx-channelI d=ChannelI nfo;01f4376e-82b9-4677-a0cd-b8b7eddb7fbe&-newsI d=NewsI nfo;873487c9-0453-4ae2-a715-c9cd5ebf0143,2019年6月19日。
(4)该项原则位于“5.机械安全”之下,“5.1.1通则”要求“机器人应保证在物理上(机械机构产生的直接伤害)所有风险被降低到可接受的,确保其对人员和周围环境不产生损伤或危害”。
(1)人类工效学(Ergonomics)是根据人的心理、生理和身体结构等因素,研究人、机械、环境相互间的合理关系,以保证人们安全、健康、舒适地工作,并取得满意的工作效果的机械工程分支学科。参见项英华著:《人类工效学》,北京:北京理工大学出版社,2008年,第1页;另见中国人类工效学学会人类工效学专业介绍:http:∥www.cesbj.org/jieshao.asp,2019年6月19日。
(1)[美]温德尔·瓦拉赫、科林·艾伦:《道德机器:如何让机器人明辨是非》,王小红主译,北京:北京大学出版社,2017年,中文版序第2页。
(2)[德]乌尔里希·贝克:《风险社会:新的现代性之路》,张文杰、何博闻译,南京:译林出版社,2018年,第298-299页。