刘宪权：人工智能时代刑事责任的演变

    无论人们欢欣抑或踟蹰，人工智能时代正悄悄向我们走来，人类即将甚至已经开始进入一个全新的时代。时下，智能机器人被广泛应用于社会生活，并且在某种程度上扮演着替代人类工作乃至超越人类能力的“人”的角色。

    一、人工智能时代的阶段划分反映历史进化

    根据智能机器人的“智能”程度，我们可以将人工智能时代划分为三个阶段——普通智能机器人时代、弱人工智能时代和强人工智能时代。普通智能机器人、弱智能机器人和强智能机器人都可以在一定程度上实现对人类大脑功能的替代。其中，普通智能机器人与弱智能机器人的区别在于是否具有深度学习能力，弱智能机器人与强智能机器人的区别在于是否具有独立的辨认能力和控制能力，即是否能够在自主意识和意志的支配下实施行为。简言之，从普通智能机器人到弱智能机器人再到强智能机器人的“进化”史，其实就是一部机器人的辨认能力与控制能力逐渐增强的历史，是机器人中“机器”的因素逐渐减少而“人”的因素逐渐增多的历史，是机器人从“机器”向“类人”乃至“超人”进化的历史，也是机器的“智能”（只有人才具有）逐渐增强并对自己的行为达到自控的历史。随着智能机器人的不断进化，人与智能机器人在对“行为”的控制与决定能力上存在着此消彼长的关系。

    二、人工智能时代的刑事风险需要予以关注

    人工智能技术在为人类带来福祉的同时，也为人类带来了诸多刑事风险，如危害国家安全和公共安全、侵犯公民人身权利和财产权利、破坏经济秩序和社会秩序等。不同类型的智能机器人为人类社会带来的刑事风险存在本质区别。就普通智能机器人而言，普通智能机器人作为犯罪工具时，与一般工具无异；普通智能机器人作为犯罪对象时，可能会因普通智能机器人的特性而影响犯罪的性质。就弱智能机器人而言，弱智能机器人仍然只能在人类设计和编制的程序范围内实施行为，其行为本质上是智能机器人的研发者或者使用者行为的延伸，实现的是研发者或使用者的意志，行为所产生的后果也应全部归责于研发者或使用者。对于其中的绝大部分刑事风险所涉及的犯罪行为，刑法及相关司法解释可以进行有效的规制。但是，我们也应看到，人工智能技术的井喷式发展和法律的滞后性也形成了不和谐的局面，“无法可依”的危害在某些领域已显露端倪。应为弱智能机器人的研发者和使用者设定相应义务，并明晰二者的刑事责任承担路径。就强智能机器人而言，当强智能机器人超出设计和编制的程序，在自主意识和意志的支配下实施行为时，其已经完全超出工具的范畴。因为此时的强智能机器人已具有独立的意识和意志，其行为不再是研发者或使用者行为的延伸，甚至从根本上违背研发者或使用者的目的，行为所产生的后果也不能当然地归责于研发者或使用者。在此状态下，强智能机器人完全可能在自主意识和意志的支配下独立作出决策并实施人类无法控制的严重危害社会的行为。尽管现行刑法尚未有规制，但是在应然层面，应将其作为刑事责任主体，并针对其特点增设特殊的刑罚处罚方式。

    三、人工智能时代对现行刑法理论冲击不可避免

    对于人工智能时代不同阶段的刑事风险应采取不同的刑法规制策略。

    在认定涉普通智能机器人犯罪的刑事责任时，需明确其与传统工具的不同，即人的意志通过程序在普通智能机器人身上得以体现，普通智能机器人所体现的意志就是人的意志，因此普通智能机器人可以成为诈骗类犯罪的对象。以ATM机为例，ATM机与真正意义上的业务人员相比，除了能完成一些简单的业务操作外，并不具有人脑的其他思维、辨别能力。就此而言，如果ATM机出现了机械故障，我们最多只能说这类似于人的精神出了问题，而决不能将此理解为是人的认识或理解错误。此观点最主要解决的是，如果行为人利用ATM机等普通智能机器人被电脑赋予的识别功能获取钱财，则应构成诈骗类的犯罪，人的意志通过程序在普通智能机器人身上得以体现，普通智能机器人所体现的意志就是人的意志，因此普通智能机器人可以成为诈骗类犯罪的对象。而行为人如果利用普通智能机器人本身所具有的机械故障获取钱财，就相当于从精神病人处获取钱财，则应构成盗窃类犯罪。

    对于弱智能机器人而言，一方面，要为弱智能机器人的研发者和使用者设立相应的风险防范义务。相关人员违反了相应的法律规范并对社会造成严重危害的，可以追究其刑事责任；另一方面，在将弱智能机器人当成犯罪工具，利用弱智能机器人进行犯罪的情况下，如果研发者与使用者并非同一人，且研发者与使用者之间没有通谋时，需要细分不同情况来明晰研发者与使用者之间的刑事责任分担方式。具体而言，其一，研发者故意设计并制造出专门实施犯罪行为的弱智能机器人。在这种情况下，如果使用者明知该弱智能机器人只能被用于实施犯罪行为而仍然使用，则可以认为，使用者也有利用该弱智能机器人实施犯罪的故意，也即应分别追究研发者和使用者利用弱智能机器人故意犯罪的刑事责任。如果使用者误以为该弱智能机器人是实施合法行为的工具而使用，则使用者对该弱智能机器人造成的损害不具有故意，不能追究使用者故意犯罪的刑事责任，而应根据使用者是否有预见到该弱智能机器人可能造成损害的义务，将使用者的行为认定为过失犯罪或意外事件。其二，研发者设计弱智能机器人时，仅具有让智能机器人实施合法行为的目的。在这种情况下，如果由于使用者的不当使用，使得弱智能机器人造成对社会或个人的严重损害，则应根据使用者是否存在造成损害的主观故意，追究使用者的故意或过失的刑事责任。如果研发者在设计过程中由于过失使得指导弱智能机器人实施行为的算法或编程存在缺陷，使用者明知这种缺陷的存在仍然故意利用弱智能机器人实施犯罪行为，可能构成间接正犯，研发者则构成过失犯罪。如果使用者在使用中也存在过失而使得弱智能机器人致损，应当分别追究研发者和使用者过失犯罪的刑事责任。其三，受制于技术发展的限制和难以预见的原因，出现了弱智能机器人致损的情况，研发者和使用者不应承担任何刑事责任。这种情况应被认定为意外事件。

    四、人工智能时代重构刑法理论体系应当未雨绸缪

    对于强智能机器人而言，将在设计和编制的程序范围外实施行为的强智能机器人作为行为主体与社会成员来看待，对其实施的严重危害社会的行为予以刑罚处罚，是强人工智能时代规制强智能机器人行为的必由之路。既然强智能机器人可能在自主意识和意志的支配下实施行为，就应该用刑法理论重新“审视”强智能机器人的本质，如果其具备刑事责任主体相关的各种必备要件，就应赋予其刑事责任主体的地位。应当看到，“智能”只有自然人才具有，其他任何动物和物品均不具有“智能”，智能机器人与一般机器的区别就在于其具有自然人才具有的“智能”，也即人工智能实际上就是自然人创造了只有自然人才具有的“智能”。而建立在“智能”基础之上的“自由意志”又决定了独立的辨认能力和控制能力的存在，那么智能机器人的“智能”一旦全面达到甚至超过自然人的智能，其具有自由意志似乎就是一个不言而喻的结论。强智能机器人具有自由意志，也就具有了独立的辨认能力和控制能力，应当被认定为刑事责任主体。

    应当看到，在人工智能时代，需要完善对涉人工智能犯罪的刑法规制的策略并逐渐重构刑法理论体系，而刑法理论的完善可以说是“任重而道远”。在促进人工智能技术发展，当好技术的“护航者”的同时，又时刻警惕人工智能技术可能对人类社会带来的威胁，从源头上遏止技术风险，既是刑法在人工智能这个“最好的时代”也是“最坏的时代”体现功能的应有趋向，也是发挥人工智能技术的最大效用、促进人类文明进步的必由之路。

文章来源：《人民法院报》