人工智能与法律责任
|
摘要
最近,在一本热门的计算机信息处理技术杂志中,提出了一个关于人工智能和法律责任的问题,如果一个行人被自动驾驶汽车杀死了,应该适用什么法律。本文将关注人工智能计算机系统的相关法律责任问题,还将讨论人工智能计算机系统是否需要承担刑事法律责任,谁可能承担;在民事法律中,人工智能程序是作为一种适用产品设计法的产品,还是作为一种适用过失侵权的服务。此外,文章还讨论了销售保证的问题,以及人工智能系统面临的一些实际局限。
A recent issue of a popular computing journal asked which laws would apply if a self-driving car killed a pedestrian.This paper considers the question of legal liability for artificially intelligent computer systems.It discusses whether criminal liability could ever apply;to whom it might apply;and,under civil law,whether an AI program is a product that is subject to product design legislation or a service to which the tort of negligence applies.The issue of sales warranties is also considered.A discussion of some of the practical limitations that AI systems are subject to is also included.
A recent issue of a popular computing journal asked which laws would apply if a self-driving car killed a pedestrian.This paper considers the question of legal liability for artificially intelligent computer systems.It discusses whether criminal liability could ever apply;to whom it might apply;and,under civil law,whether an AI program is a product that is subject to product design legislation or a service to which the tort of negligence applies.The issue of sales warranties is also considered.A discussion of some of the practical limitations that AI systems are subject to is also included.
引文
(1)N.A.Greenblatt,“Self-Driving Cars and the Law”,IEEE Spectrum(2016),p.42.
(1)D.B.Dobbs,Law of Torts,West Academic Publishing,2008.
(2)G.Hallevy,The Criminal Liability of Artificial Intelligence Entities,Social Science Rearsh Network:http://ssrn.com/abstract=1564096,最后访问时间:2012年2月15日.
(1)译者注:在英美法系的刑法和民法中,严格责任(strict liability)是一种责任标准,在这种标准下,即使在没有过错或没有犯罪意图的情况中,当事人对行动所产生的后果仍负有法律责任。在侵权法中,严格责任是指一方在没有被发现过错(如过失或侵权意图)的情况下仍需承担法律责任,原告只要证明侵权行为发生,被告就需要对该行为负责。其中,突出例子包括产品责任、异常危险的活动、牲畜入侵他人的土地以及野生动物的所有权。在刑法中,严格责任通常适用于车辆交通违章行为,例如,在超速案件中,被告是否知道张贴的限速被超过是不重要的,公诉人只需要证明被告驾驶的车辆超过了规定的速度限制。
(2)Morrisey v.State,620A.2d207(Del.1993);Conyers v.State,367Md.571,790A.2d15(2002);State v.Fuller,346S.C.477,552S.E.2d282(2001);Gallimore v.Commonwealth,246Va.441,436S.E.2d421(1993).
(3)参见Yueh-Hsuan Weng,Chien-Hsun Chen,Chuen-Tsai Sun:“Towards the human-robot co-existence society:on safety intelligence for next generation robots”,Internatial Journal of Social Robotics(2009),pp.267-273.
(4)F.B.Sayre,“Criminal responsibility for the acts of another”,43 Harvard Law Review(1930),p.689.
(5)United States v.Powell,929F.2d724(D.C.Cir.1991).
(1)S.W.Brenner,B.Carrier,Henninger,J.,“The Trojan Horse Defense in Cybercrime Cases”,21 Santa Clara High Technology Law Journal 1.(2004),pp.4-8.
(2)G.S.Tuthill,“Legal Liabilities and Expert Systems”,6 AI Expert 3(1991),pp.44-51.
(3)译者注:在侵权法中,注意义务是一种法律义务,强制要求个人在进行任何可能会伤害他人的行为时,遵守合理的注意标准。对于过失行为而言,这是必须建立的第一个要素。申诉人必须能够表明被告违反了法律所规定的注意义务。反过来,违反义务可能使个人承担责任。当前没有直接关系的个人之间的注意义务,可以通过法律得以产生(家族关系、契约关系等),但最终会通过某种方式确立,如在判例中被定义。
(1)Ransome v.Wisconsin Elec.Power Co.,275N.W.2d641,647-48.Wis.(1979).
(2)G.S.Cole,“Tort Liability for Artificial Intelligence and Expert Systems”,10 Computer Law Journal 2(1990),pp.127-231.
(3)Independent School District No.454v.Statistical Tabulating Corp 359F.Supp.1095.N.D.Ill.(1973).
(4)Stanley v.Schiavi Mobile Homes Inc.,462A.2d1144.Me.(1983).
(5)Helling v.Carey 83Wash.2d514,519P.2d981(1974).
(6)译者注:在普通法的侵权法中,一项极其危险的活动是指该活动是非常危险的,即使参与该活动的人采取一切合理的预防措施防止他人受伤,从事这种活动的人也可能对给其他人造成的伤害承担严格责任。
(7)Restatement(Second)of Torts:Sections 520-524.op.cit.
(1)译者注:在普通法国家,默示保证是合同法术语,指因销售情况而推定在销售产品或不动产时做出的某些保证。无论卖方是否明确口头或书面承诺,这些保证都被视为保证。它们包括对特定用途的适用性的默示保证、对产品适销性的默示保证、对服务质量的默示保证,以及对住宅的宜居性的默示担保。
(1)Kociemba v.GD Searle&Co.,683F.Supp.1579.D.Minn.(1988).
(2)K.Mykytyn,P.P.Mykytyn,S.Lunce,“Expert identification and selection:legal liability concerns and directions”,7AI&Society3(1993),pp.225-237.
(3)Joiner v Mitchell County Hospital Authority,186S.E.2d307.Ga.Ct.App.(1971).
(4)Glavin v Rhode Island Hospital,12R.I.411,435,34Am.Rep.675,681(1879).
(5)R.Bloombecker,“Malpractice in IS”,Datamation35(1989),pp.85-86.
(6)E.Warner,“Expert systems and the law”,In:Boynton and Zmud(eds.),Management InformationSystems,Scott Foresman/Little Brown Higher Education,GlenviewⅡ(1990),pp.144-149.
(7)W.Hagendorf,“Bulls and bears and bugs:computer investment advisory programs that goawry”,Computer Law Journal(1990),X,pp.47-69.
(1)译者注:范德格拉夫发电机是一种静电发电机,它原理是,在支架顶部的一个空心金属球上,使用一个移动的皮带来积累极高的电势,是由美国物理学家范德格拉夫在1929年发明的。
(2)译者注:边缘情况(edge case),是指仅在极端(最大或最小)操作参数处发生的问题或情况。例如,即使在没有任何其他极端设置或条件的情况下,立体声扬声器在以最大音量播放时也可能明显扭曲音频。角落情况(corner case),在工程中,角落情况涉及仅在正常操作参数之外发生的问题或情况,特别是当多个环境变量或条件同时处于极端水平时表现出来的问题或情况,即使每个参数在该参数的指定范围内。
(1)在这篇论文被提交发表后,第一起涉及自动驾驶汽车的事故发生在佛罗里达州。一辆白色的拖车穿过了汽车的小道,那是一个阳光明媚的日子,汽车的雷达无法将拖车与明亮的天空区分开来。司机坐在驾驶座上,因此理论上可以采取行动避免事故,但据其所述他当时正在看DVD。这个案件的法律责任至文章提交时,还未确定。
(2)Sharing Tacit Knowledge,Harold Jarche Actionable Insights on Learning&Work:http://www.jarche.com/2010/01/sharing-tacitknowledge,最后访问时间:2012年4月1日。
(3)译者注:国民健康服务热线(NHS Direct)是由英国国家卫生服务(National Health Service)提供的健康建议和信息服务,成立于1998年3月,该服务是一种由护士负责的电话信息服务,为英国的居民和游客提供每天24小时的医疗保健建议。
(1)D.B.Dobbs,Law of Torts,West Academic Publishing,2008.
(2)G.Hallevy,The Criminal Liability of Artificial Intelligence Entities,Social Science Rearsh Network:http://ssrn.com/abstract=1564096,最后访问时间:2012年2月15日.
(1)译者注:在英美法系的刑法和民法中,严格责任(strict liability)是一种责任标准,在这种标准下,即使在没有过错或没有犯罪意图的情况中,当事人对行动所产生的后果仍负有法律责任。在侵权法中,严格责任是指一方在没有被发现过错(如过失或侵权意图)的情况下仍需承担法律责任,原告只要证明侵权行为发生,被告就需要对该行为负责。其中,突出例子包括产品责任、异常危险的活动、牲畜入侵他人的土地以及野生动物的所有权。在刑法中,严格责任通常适用于车辆交通违章行为,例如,在超速案件中,被告是否知道张贴的限速被超过是不重要的,公诉人只需要证明被告驾驶的车辆超过了规定的速度限制。
(2)Morrisey v.State,620A.2d207(Del.1993);Conyers v.State,367Md.571,790A.2d15(2002);State v.Fuller,346S.C.477,552S.E.2d282(2001);Gallimore v.Commonwealth,246Va.441,436S.E.2d421(1993).
(3)参见Yueh-Hsuan Weng,Chien-Hsun Chen,Chuen-Tsai Sun:“Towards the human-robot co-existence society:on safety intelligence for next generation robots”,Internatial Journal of Social Robotics(2009),pp.267-273.
(4)F.B.Sayre,“Criminal responsibility for the acts of another”,43 Harvard Law Review(1930),p.689.
(5)United States v.Powell,929F.2d724(D.C.Cir.1991).
(1)S.W.Brenner,B.Carrier,Henninger,J.,“The Trojan Horse Defense in Cybercrime Cases”,21 Santa Clara High Technology Law Journal 1.(2004),pp.4-8.
(2)G.S.Tuthill,“Legal Liabilities and Expert Systems”,6 AI Expert 3(1991),pp.44-51.
(3)译者注:在侵权法中,注意义务是一种法律义务,强制要求个人在进行任何可能会伤害他人的行为时,遵守合理的注意标准。对于过失行为而言,这是必须建立的第一个要素。申诉人必须能够表明被告违反了法律所规定的注意义务。反过来,违反义务可能使个人承担责任。当前没有直接关系的个人之间的注意义务,可以通过法律得以产生(家族关系、契约关系等),但最终会通过某种方式确立,如在判例中被定义。
(1)Ransome v.Wisconsin Elec.Power Co.,275N.W.2d641,647-48.Wis.(1979).
(2)G.S.Cole,“Tort Liability for Artificial Intelligence and Expert Systems”,10 Computer Law Journal 2(1990),pp.127-231.
(3)Independent School District No.454v.Statistical Tabulating Corp 359F.Supp.1095.N.D.Ill.(1973).
(4)Stanley v.Schiavi Mobile Homes Inc.,462A.2d1144.Me.(1983).
(5)Helling v.Carey 83Wash.2d514,519P.2d981(1974).
(6)译者注:在普通法的侵权法中,一项极其危险的活动是指该活动是非常危险的,即使参与该活动的人采取一切合理的预防措施防止他人受伤,从事这种活动的人也可能对给其他人造成的伤害承担严格责任。
(7)Restatement(Second)of Torts:Sections 520-524.op.cit.
(1)译者注:在普通法国家,默示保证是合同法术语,指因销售情况而推定在销售产品或不动产时做出的某些保证。无论卖方是否明确口头或书面承诺,这些保证都被视为保证。它们包括对特定用途的适用性的默示保证、对产品适销性的默示保证、对服务质量的默示保证,以及对住宅的宜居性的默示担保。
(1)Kociemba v.GD Searle&Co.,683F.Supp.1579.D.Minn.(1988).
(2)K.Mykytyn,P.P.Mykytyn,S.Lunce,“Expert identification and selection:legal liability concerns and directions”,7AI&Society3(1993),pp.225-237.
(3)Joiner v Mitchell County Hospital Authority,186S.E.2d307.Ga.Ct.App.(1971).
(4)Glavin v Rhode Island Hospital,12R.I.411,435,34Am.Rep.675,681(1879).
(5)R.Bloombecker,“Malpractice in IS”,Datamation35(1989),pp.85-86.
(6)E.Warner,“Expert systems and the law”,In:Boynton and Zmud(eds.),Management InformationSystems,Scott Foresman/Little Brown Higher Education,GlenviewⅡ(1990),pp.144-149.
(7)W.Hagendorf,“Bulls and bears and bugs:computer investment advisory programs that goawry”,Computer Law Journal(1990),X,pp.47-69.
(1)译者注:范德格拉夫发电机是一种静电发电机,它原理是,在支架顶部的一个空心金属球上,使用一个移动的皮带来积累极高的电势,是由美国物理学家范德格拉夫在1929年发明的。
(2)译者注:边缘情况(edge case),是指仅在极端(最大或最小)操作参数处发生的问题或情况。例如,即使在没有任何其他极端设置或条件的情况下,立体声扬声器在以最大音量播放时也可能明显扭曲音频。角落情况(corner case),在工程中,角落情况涉及仅在正常操作参数之外发生的问题或情况,特别是当多个环境变量或条件同时处于极端水平时表现出来的问题或情况,即使每个参数在该参数的指定范围内。
(1)在这篇论文被提交发表后,第一起涉及自动驾驶汽车的事故发生在佛罗里达州。一辆白色的拖车穿过了汽车的小道,那是一个阳光明媚的日子,汽车的雷达无法将拖车与明亮的天空区分开来。司机坐在驾驶座上,因此理论上可以采取行动避免事故,但据其所述他当时正在看DVD。这个案件的法律责任至文章提交时,还未确定。
(2)Sharing Tacit Knowledge,Harold Jarche Actionable Insights on Learning&Work:http://www.jarche.com/2010/01/sharing-tacitknowledge,最后访问时间:2012年4月1日。
(3)译者注:国民健康服务热线(NHS Direct)是由英国国家卫生服务(National Health Service)提供的健康建议和信息服务,成立于1998年3月,该服务是一种由护士负责的电话信息服务,为英国的居民和游客提供每天24小时的医疗保健建议。