经济犯罪辩护网
京都律师事务所
13816613858
网站首页 > 熊秋红:人工智能在刑事证明中的应用
查看详细本站律师

杨佰林律师

       杨佰林律师,北京京都(上海)律师事务所合伙人、刑事部主任,上海市律师协会刑事业务研究委员会委员,上海山东商会法律顾问团团长。律师执业十八年,主攻经济犯罪、职务犯罪、金融证券领域犯罪的刑事辩护,承办过力拓案、安徽兴邦集资诈骗37亿案、武汉东风汽车公司挪用一亿元社保资金案、无锡国土局正副局长受贿案等社会广泛关注的大案要案,是国内经济犯罪领域的资深律师。

地址:上海市南京西路580号仲益大厦3903A室

Email: 13816613858@163.com    

电话:13816613858

扫码关注微信公众号

熊秋红:人工智能在刑事证明中的应用


来源:《当代法学》,2020年第3期。

作者: 熊秋红,中国社会科学院法学研究所研究员、博士生导师。

内容摘要:以审判为中心的刑事诉讼制度改革促进了“刑事案件智能辅助办案系统”的研发,人工智能在刑事司法领域尤其是刑事证明中得到深度应用。人工智能在刑事证明中的引入,以统一证据标准为核心,重点围绕证据标准指引、证据规则指引、单一证据校验、证据链和全案证据审查判断、要素式讯问指引和非法言词证据排除展开。该系统具有辅助性、开放性、有限性等特点。统一证据标准使得“证据标准”这一概念具有了理论创新意义,它既区别于证明标准、又与证明标准紧密关联,属于证明标准的下位概念。证据标准化不可避免地加剧了法定证据主义倾向,实质性地侵蚀了自由心证主义。尽管智能辅助办案系统具有规范办案行为、保证办案质量、提高诉讼效率等作用,但应注意防范它在道德性、有效性和程序性方面所存在的风险。

关键词:人工智能;刑事证明;司法标准化;证据标准

 

人工智能(Artificial Intelligence,简称AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。研究人工智能的目的是促使智能机器会听(语音识别、机器翻译等)、会看(图像识别、文字识别等)、会说(语音合成、人机对话等)、会思考(人机对弈、定理证明等)、会学习(机器学习、知识表示等)、会行动(机器人、自动驾驶汽车等)。人工智能自上个世纪50年代产生以来,经历了起步发展、反思发展、应用发展、低迷发展、稳步发展、蓬勃发展等不同阶段。当前人工智能的发展呈现出深度学习、跨界融合、人机协同、群智开放、自主操控等新特征,大数据驱动知识学习、跨媒体协同处理、人机协同增强智能、群体集成智能、自主智能系统成为人工智能的发展重点,受脑科学研究成果启发的类脑智能蓄势待发,芯片化硬件化平台化趋势更加明显,人工智能发展进入新的阶段。人工智能作为新一轮科技革命和产业变革的核心力量,正在推动传统产业升级换代,正在教育、医疗、养老、环境保护、城市运行、司法服务等领域发挥积极作用。为了把握人工智能发展的重大战略机遇,加快建设创新型国家和世界科技强国,我国制定了《新一代人工智能发展规划》,在其中的“推进社会治理智能化”部分提出要“建设集审判、人员、数据应用、司法公开和动态监控于一体的智慧法庭数据平台,促进人工智能在证据收集、案例分析、法律文件阅读与分析中的应用,实现法院审判体系和审判能力智能化”。党的十八大之后,在“互联网+”的浪潮下,我国的智慧法院建设全方位推进,从外部功能的运用到内部功能的挖掘、从重管理到重便民,智慧法院建设不断走向深化;另一方面,以司法责任制为核心的司法体制改革和以审判为中心的诉讼制度改革向纵深推进。智慧法院建设和司法改革被视为实现司法现代化的“车之两轮,鸟之两翼”。以审判为中心的诉讼制度改革促进了“刑事案件智能辅助办案系统”的研发,人工智能在刑事司法领域尤其是刑事证明活动中得到深度应用。刑事证明是刑事司法的核心区域,司法人员在办案过程中如何达至正确的证据评价和事实认定可谓千古难题。纵观刑事诉讼制度发展的历史,可以看到,试图为刑事证明制定统一标准的“法定证据制度”宣告失败,取而代之的是“自由心证制度”。“自由心证制度”又称为“情感证据制度”,是由证据自由、证据自由评价及内心确信等三大支柱所构建的证据证明制度。人工智能的应用在刑事证据制度发展过程中究竟能够起到怎样的作用,它构成了对自由心证原则的一种限制吗?它在何种意义上与法定证据制度发生勾连?人工智能如何促进证据标准抑或证明标准的统一?人工智能在刑事证明中的运用,其空间和限度何在?面对着司法实践先行的现状,学术界理应对上述问题进行深入的讨论,以发挥法学理论对于司法实践的解释和指导功能,促进刑事司法现代化朝着正确的方向发展。

 

一、人工智能及其发展战略

 

1956年,麦卡锡、明斯基等科学家在美国达特茅斯学院开会研讨“如何用机器模拟人的智能”,首次提出了“人工智能”的概念,人工智能学科由此诞生。人工智能的核心问题是建构能够与人相类似的甚至超越于人的推理、知识、规划、学习、交流、感知、使用工具和操控机器等方面的能力。美国人工智能发展协会将人工智能描述为“是对思维、智能行为及其在机器中所体现的机制的科学理解”,这就撒下了一张很宽的网,因为它包括了机器可以执行的所有智能行为。目前人工智能系统在诸如电视游戏节目、围棋、国际象棋等几项挑战中超越了人类技能,体现出广阔的发展前景。

(一)人工智能的分类

人工智能通常分为两类:一般人工智能(General AI)和狭义人工智能(Narrow AI)。一般人工智能又称强人工智能,是指一个计算机系统在所有领域都表现出人的或超人的智力,它能将一个领域的知识转移到另一个领域。已有一些试验来确定计算机系统是否表现出强大的人工智能,如图灵测试(Turing test),它让法官通过一个聊天界面判断他们是在同电脑说话还是同人说话;还有沃兹尼亚克咖啡测试(Wozniak Coffee test),它测试机器能否进入一座陌生的房子并且做一杯咖啡。一般人工智能会对人类产生巨大影响并且潜在地取代所有的人力劳动。然而,这可能还有很长的路要走。专家们对它是否会在我们的有生之年发生、当前的人工智能发展道路能否将我们带到那里意见不一。尽管阿尔法狗(AlphaGo)在围棋方面的表现令人惊叹,但是它仍然不能将这种卓越的知识转移到另一领域(甚至做一杯咖啡)。

迄今为止人类在人工智能方面取得的所有成就均属于狭义人工智能范畴。狭义人工智能不涉及全意识(即与人类相当的智力),但它能够通过提高工作效率和自动化,对社会产生巨大影响。狭义人工智能的历史演进可以分为三个阶段:基于规则的系统(20世纪5080年代);机器学习(20世纪80年代至21世纪的前十年);深度学习(21世纪10年代之后)。基于规则的系统(Rule-basedsystems)要求程序员必须精确地对通过计算机所欲解决的问题的知识进行编码。在这个专家系统中,在有限的领域能够自动化地提供专家帮助。该系统的局限性主要在于,它无法超越系统制作者的专业知识,并且我们在日常生活中使用的许多知识是隐性的,难以显性地转化成代码。如果所欲解决的问题与专家系统创建者的预设完全相同,该系统的运作将会产生良好的结果,然而,一旦输入处于指定的参数之外,该系统就无法产生一个确定的结果。在机器学习(Machine Learning)中,程序员不是将他的专业知识编码到系统之中,而是通过大量的例子和数据标签展示算法,然后机器将会自行找出这些算法的共同之处。展示的例子越多,算法就会变得越好,因为它能够自我改进。机器学习所关注的是怎样构建一个能够随着经验积累自动改进算法的计算机系统。深度学习(Deep Learning)属于机器学习的子项。深度学习系统通常被描述为有两个以上“隐藏层”的人工网络,传统的机器学习与深度学习的区别在于后者被组织成层次结构,程序工程师不是从数据中手工提取特征,而是直接提供数据给深度学习算法,由算法自动查找相关特征。深度学习在一些领域(如图像分类、语音识别、自然语言理解等)取得了巨大的进步。

机器学习的执行方法可分为监督式学习和非监督式学习。监督式学习是在训练阶段将正确答案提供给机器,算法最终将尝试提供可用的属性预测标签。其基本流程如下:(1)收集数据,程序员将提供一个带数据库的算法;(2)特征转化,在此阶段电脑尚不知如何处理数据,它必须变成一些特征或数据的数字表示,这被称为特征工程;它是一个更复杂的任务,需要大量的时间和知识;(3)算法分析,将特征输入算法,算法可有不同的目标——主要是回归或分类;在回归中,算法采用数据,并试图猜测一个数值;(4)评估,应当有一种方法用来评估算法,通常由计算机内部来决定当前运行的算法如何执行;(5)训练,一旦计算机学会如何执行,它会巧妙地调整算法以便下次执行得更好,这个过程被称为训练;(6)调整,训练结束后,工程师通常回头去调整所使用的特征或算法,以便提高系统模型的性能。无监督式学习不提供标签,取而代之的,是由计算机尝试查找数据的不同之处。无监督式学习的效果不如监督学习,然而,这是一个充满活力的研究领域,与监督式学习相比,它有如下优点:其一是由于不需要给数据贴上标签,这样可使大量的非结构化数据用于分析,因此,许多人认为无监督学习是机器学习未来的发展方向;其二是无监督学习可用于异常检测,在这里,一个网络被训练来学习结构和数据流的一般外观,然后它能分辨出某个数据点看起来与其他数据点不同,这被用来检测生产线上的问题或者大量的金融交易中的网络诈骗企图。

从可应用性方面看,人工智能大体可分为通用人工智能和专用人工智能。真正意义上的完备的人工智能系统应当是一个通用的智能系统,它能够举一反三、融会贯通,可处理视觉、听觉、判断、推理、学习、思考、规划、设计等各类问题,做到“一脑万用”。专用人工智能系统面向特定的任务(如下围棋),由于任务单一、需求明确、应用边界清晰、领域知识丰富、建模相对简单,通常能够很好地完成任务。当前通用人工智能尚处于起步阶段,但专用人工智能取得了重要突破,人工智能系统在信息感知、机器学习等“浅层智能”方面进步显著,但是在概念抽象和推理决策等“深层智能”方面的能力还很薄弱,有学者将其描述为“有智能没智慧、有智商没情商、会计算不会‘算计’、有专才而无通才”,与人类智慧相差甚远。至于说,人工智能的发展是否最终会导致智能机器取代人类成为地球上最聪明的“生物”,尚是一个较为遥远的话题。人工智能在算料(数据)、算法(计算方法)、算力(计算能力)等方面取得的突破使得它走向了从“不能用”到“可以用”的技术拐点,但是距离“很好用”还有不少瓶颈。

(二)人工智能发展战略

人工智能技术引领了一个新的时代。信息技术和信息产业蓬勃发展,成为全球产业变革的重要引擎,“无人经济”快速发展。与此同时,人工智能也带来了社会建设的新机遇,其应用领域不断拓展,在公共行政、医疗卫生、公用事业、交通服务、金融监管等领域均得到应用,尤其是在医疗和交通领域,人工智能技术已经相当成熟。世界主要发达国家均将人工智能作为提升国家竞争力、维护国家安全的重大战略,力图在新一轮国际科技竞争中掌握主导权。我国于2017年出台了《新一代人工智能发展规划》和《促进新一代人工智能产业发展三年行动计划》等政策文件。2020219日欧盟发布了《人工智能白皮书》,该白皮书指出:“人工智能是一项战略技术,只要它以人为本、合乎道德、可持续发展,并尊重基本权利和价值观,就能为公民、企业和整个社会带来诸多好处。欧盟打算充分抓住人工智能带来的机遇,发展和加强必要的工业和技术能力。欧洲的人工智能方法旨在促进欧洲在人工智能领域的创新能力,同时支持在整个欧盟经济中发展和采用道德和可信的人工智能。”

与其他国家和地区相比,我国的智慧法院建设引人瞩目。201611月,最高人民法院建成了大数据管理与服务平台,实现了从人工司法统计模式到自动司法统计模式的转变。近年来,全国法院开展司法大数据的深度开发和应用,形成了诉讼风险评估、相似案例推送、量刑规范支持、诉讼结果预判等数据服务。全国法院推广远程视频作证和证人、鉴定人隐蔽作证系统,探索推广电子送达方式,智能转换庭审笔录;完善审判流程智能管理平台,建立健全审判执行监督预警系统,运用图像识别、语音识别、视频识别、动态人脸识别等智能化、可视化手段,及时发现审判过程中的不规范因素,强化立案管理、审限管理、案件质量管理等;构建公检法司等机关互联互通、信息共享的大数据办案统一网络平台,推进司法数据资源与国家人口基础信息库、法人单位信息资源库、社会经济和空间地理信息库等国家基础数据资源的对接利用,推进司法数据资源与各类社会组织数据资源的互通共享;研发刑事、民事、行政办案智能辅助系统,为法官办案提供智能分析,智能辅助法律文书处理;建立全媒体舆情智能管理系统,进行舆情采集、分析和预警。最高人民法院院长周强认为,“经济学之所以能够快速发展,是由于将数学的模型、算法引入,相比较而言,法学之所以落后,就是因为没有把现代科学技术,包括智能的算法引入。把机器深度学习、证据模型、算法等引入司法领域,使得司法活动更加科学、精准,可以为司法办案发挥更好的作用”。 

 

二、人工智能在刑事诉讼中的应用

 

科学技术在刑事司法中的运用由来已久,但人工智能的使用带来了前所未有的冲击。在刑事司法中,基于大数据模型进行自动化的经验分析,可用来促进人们的决策或者潜在地为人们做出决策。从世界范围来看,人工智能被用来预测犯罪、侦查犯罪和预防犯罪,所使用的技术包括人脸识别、语音识别、枪支检测、DNA和数字化的法医分析等。在个别国家的刑事诉讼中,人工智能还被应用于保释和量刑程序,用来进行再犯风险评估。而在我国,以审判为中心的诉讼制度改革促进了人工智能在刑事诉讼中的广泛和深度应用。

(一)人工智能在美国保释和量刑程序中的应用

在美国,许多州将人工智能作为保释程序中的风险评估工具,包括对公共安全的风险和不出庭的可能性,而非被告人是否有能力缴纳一定数量的保释金。新泽西州的公共安全风险评估工具,使用了9个因素来确定再犯可能性,这些因素包括:逮捕时的年龄;暴力犯罪;犯重罪时还面临另一指控;被告人被指控行为不检点或犯有其他轻罪;被告人曾经犯重罪;被告人曾犯扰乱治安的犯罪;以前的暴力犯罪;过去两年曾缺席审前程序;过去两年以上曾缺席审前程序;曾被判处监禁刑。在量刑程序中,美国于1998年开发了一款名为“COMPAS“的软件,基于被告人或罪犯对137个问题的回答进行预测,以此评估其再犯风险。该软件被美国不少州采用。有研究表明,该软件的总体再犯预测准确率为65.1%。在威斯康星州诉卢米斯案中,威斯康星州惩戒署提供了一份包括“COMPAS风险评估”在内的判刑前调查报告,法庭在量刑判决中提到了“COMPAS评估”,并部分地依据这一评估判处卢米斯6年有期徒刑和5年的延期监督。卢米斯向初审法院提出了动议,认为法院依据“COMPAS评估”对其加以判处侵犯了其正当程序权利。初审法院驳回了卢米斯的动议;威斯康星州上诉法院和最高法院维持了原判。法院所持理由主要包括:在评测中所用信息的准确性已经得到了验证;评估报告不是作出决定的唯一依据;法院即使考虑了“COMPAS评估”的因素,仍然足以进行个别化裁判,因为法官有相应的辨别力和必要的信息。

对于美国刑事司法实践中所使用的上述风险评估工具,目前尚不清楚其评估准确率是否超过了刑事法官的平均准确率。有学者对此提出质疑:在保释和量刑程序中需要人工智能技术来帮助法官吗?如果说法官所做出的保释和量刑决策存在着一定程度的不准确现象,那么,这种不准确是否造成了对刑事司法制度或者对社会公众的伤害?由于对这些问题无法做出具体的、可测量的回答,因此,难以评估刑事司法中使用人工智能是否具有迫切性。人工智能对于刑事政策的制定者、对于计算机和数据科学家而言,无疑是一个具有吸引力的工具,但是,人工智能技术介入和引导刑事司法可能因为使用了不可靠的数据,从而给刑事司法中的当事人造成伤害。除非保释程序和量刑程序存在明显缺陷、除非能够肯定使用这些风险评估工具的效率和准确性超过了其潜在的危害,方可考虑使用这些工具,否则,应当限制使用这些工具。

(二)人工智能在我国刑事诉讼中的应用

在我国,早在上个世纪80年代末,就有学者开始研究量刑公正与人工智能的结合问题,并于1993年完成了人工智能软件“辅助量刑系统”的研制。其基本做法是:对量刑情节进行两次评价——情节份量等级评价和处罚程度轻重评价;将每个情节划分为14种不同情况,进行定量分析;将全案所有情节的轻、重积分,分别逆向表示在法定刑幅度内,幅度空间内的一定刻度,反映不同的刑种和刑期,从而使较宽的量刑幅度压缩为相对较窄的幅度,将中间线作为量刑的最佳适度。在该系统中,只要输入以下案情信息:(1)量刑情节的个数;(2)是法定情节还是酌定情节;(3)是加重、从重处罚情节还是从轻、减轻或者免除处罚情节;(4)各量刑情节的权值评价为几档;(5)其轻罪处罚程度确定为几档,系统就会提供出量刑参考意见。还有学者认为,鉴于我国司法实践中量刑偏轻偏重、畸轻畸重现象比较普遍,而完善刑事立法中的量刑制度与迅速提高执法人员素质并非一朝一夕所能办到,因此应当在全国范围内建立统一的电脑辅助量刑专家系统。20063月,山东省淄博市淄川区人民法院在量刑规范化改革中推出了与高科技公司联合研制的电脑量刑软件,实现了对人工智能在法院量刑中的运用。淄川区法院的做法在山东各级法院中得到了推广。

学术界对于电脑量刑问题存在较大争议。在电脑量刑实施之初,就有学者发表了反对意见,认为淄川区法院的做法很大程度上认为量刑就是刑的量化,忽略了量刑的社会性功能,并且简单地假定描述性的考量因素——“情节严重”、“影响巨大”、“主观恶性”、“显著轻微”等可以进行量化,可以由电脑程序机械加以确定和运算,但实际上在辅助量刑系统中,对上述描述性的量刑考量因素还需要人脑(法官)加以确认,这样电脑的功能只是一个算术的简单运算而已。量刑真正需要解决的问题主要不是解决刑的计算问题,而是如何通过对影响刑罚的所有因素(包括个人的和社会的因素)进行综合考量与平衡,最后得出对犯罪人最适当的刑罚。通过这个程序得出的刑罚应当是反映了社会对犯罪报应、预防与制止、矫治与需求等诸需求的综合平衡。如此复杂的综合平衡过程是电脑这样的程式化机器无法承担的,理应由人脑——即法官来承担。

尽管存在争议,但我国司法机关并未放弃利用人工智能推进量刑规范化改革的努力。20179月,最高人民法院正式启动开发建设量刑智能辅助系统工作,计划用两至三年时间构建一个完善的全国法院量刑智能辅助系统。此前,海南等地方法院已经开发了量刑规范化智能辅助系统。最高人民检察院提出,为了有效提升量刑建议的精准度,将参考学习法院系统和专家学者开发的量刑辅助系统,在充分论证的基础上,适时组织研发可以普遍适用的量刑建议辅助系统。一些地方检察院自主开发了量刑建议辅助系统,如江苏省苏州工业园区检察院早在20129月就研发了一套量刑建议辅助系统,该系统将江苏省高级法院《量刑指导细则》中15个罪名的量刑事实、情节进行数字化处理,便于量刑操作。重庆市检察机关应用的量刑建议辅助系统具备25种罪名的量刑建议、类案推送、统计查询等功能。

201410月,党的十八届四中全会提出了“推进以审判为中心的诉讼制度改革”的任务。为了推进以审判为中心的刑事诉讼制度改革,2017年上海市高级人民法院牵头研发了“上海刑事案件智能辅助办案系统”(简称“206工程”或“206系统”)。该系统设计了24项功能,包括:(1)证据标准、证据规则指引;(2)单一证据校验;(3)逮捕条件审查;(4)证据链和全案证据审查判断;(5)社会危险性评估;(6)电子卷宗移送;(7)庭前会议;(8)类案推送;(9)量刑参考;(10)知识索引;(11)文书生成;(12)办案程序监督;(13)非法言词证据排除;(14)庭审实质化;(15)案件评议;(16)减刑假释案件办理;(17)刑罚执行状况监督;(18)简易速裁案件办理;(19)赃款、赃物管理;(20)要素式讯问;(21)全程录音录像;(22)法律服务办案辅助;(23)刑罚执行衔接;(24)特殊人群衔接。该系统包括以下大数据资源库:证据标准库1039项、案例库25635个、裁判文书库2210万篇、法律法规库146万条、办案业务文件库1107件。该系统的研发实现了公检法司办理刑事案件网上运行、互联互通、数据共享,并且以大数据为依托、多项功能集成,全面地推进了人工智能在刑事诉讼中的应用,在“逮捕条件审查”、“社会危险性评估”、“量刑参考”、“类案推送”、“文书生成”等功能中均涉及人工智能的应用.更令人关注的是,该系统将人工智能的应用推向了刑事证明领域,并且将“统一证据标准”作为核心目标。

 

三、人工智能在刑事证明中的引入

 

以审判为中心的诉讼制度改革的目的是“促使办案人员树立办案必须经得起法律检验的理念,确保侦查、审查起诉的案件事实证据经得起法律检验……有效防范冤假错案产生。”以审判为中心的刑事诉讼制度改革启动之初,最高人民法院常务副院长沈德咏撰文指出,“以审判为中心,其实质是在刑事诉讼的全过程实行以司法审判标准为中心,核心是统一刑事诉讼证明标准”。“统一证明标准”的提法后来被中央政法委改为了“统一证据标准”。中央政法委书记孟建柱20169月在贵州调研时指出:“要把科技创新与司法体制改革融合起来,特别是在推进以审判为中心的诉讼制度改革中,通过强化大数据深度应用,把统一的证据标准镶嵌到数据化的程序之中,减少司法任意性,既提高审判效率,又促进司法公正”。

(一)“统一证据标准”的主要内容

上海高院在牵头研发“206系统”时,将“统一证据标准”的理念贯穿其中,试图以人工智能为手段,实现对刑事案件证据的统一指引、校验、提示、把关、监督。具体而言,包括以下主要内容:

第一,证据标准指引。提供证据标准指引是该系统的首要功能,这一功能大体通过以下步骤实现:一是分类指引。对刑事案件根据罪名进行分类,将常涉罪名(如故意杀人罪、故意伤害罪、抢劫罪、盗窃罪、诈骗罪、非法吸收公众存款罪、集资诈骗罪等)案件中的证据标准作为关注的重点。通过对近年来(2012-2016年)上海法院和全国其他地区法院审理相关案件的侦查卷宗、审理报告、裁判文书的综合分析,从中统计出某类案件中各种证据出现的次数和频率,以此为基础梳理出待查证事项下的高频证据,作为证明某个待查证事实的基本证据,还根据犯罪活动的特殊样态归纳出相应的辅助证据。目前已制定102个常涉罪名案件的证据标准,其中71个以上海为样本,31个涉及全国其他地区。对于命案,进一步细分为现场目击型、现场留痕型、认罪供述得到印证型、拒不认罪型等四种不同类型,分别列出所需收集的证据。二是分段指引。在刑事案件分类的基础上,制定立案、逮捕、侦查终结、审查起诉、审判等不同诉讼阶段的证据标准。如制定《命案逮捕基本证据标准(试行)》和《盗窃案件逮捕基本证据标准(试行)》。

第二,证据规则指引。证据规则是指公安司法机关收集、固定、保存、运用证据应当遵循的规范。关于提供证据规则指引,具体做法是全面梳理法律法规和司法解释等规范性文件中的相关规定,制定《上海刑事案件证据收集、固定、审查判断规则》,根据刑事诉讼法关于证据种类的规定,分别列出每类证据的收集程序、形式要件和审查判断要点;此外,还明确了量刑证据、程序性证据的收集、固定、保存、运用要点,为办案人员提供清单式指引。例如,收集电子数据,在程序上的要求包括:应当由两名以上侦查人员进行;取证方法应当符合相关技术标准;应当扣押、封存原始存储介质;应当制作笔录;应当记录原始存储介质的封存状态等。对电子数据的审查判断从真实性、完整性、合法性三方面进行,细化为17项具体规则,如对未以封存状态移送的,对电子数据的名称、类别、格式等注明不清的,应当补正或者作出合理解释;电子证据有增、删、改等情形,影响电子数据真实性的,不得作为定案的依据。

第三,单一证据校验。制定常涉罪名案件中的单一证据校验规则和校验标准,采取“海量数据挖掘+办案专家总结”的方式,总结出一万多个校验点。当一份证据材料录入系统后,系统即会对该份证据材料进行识别,确认其属于哪一种类型的证据,并自动适用相应的规则进行校验。对每一个证据从程序、形式、内容三个方面进行比对校验,自动生成审查结论,提示办案人员对证据瑕疵进行补正或说明。例如,对于讯问笔录,系统通过自动审查发现,犯罪嫌疑人送看守所后,侦查人员对其讯问的地点仍为派出所,未在规定的办案场所内讯问,系统将该证据存在的瑕疵提示给办案人员。

第四,证据链和全案证据审查判断。围绕刑事案件的“七何”要素(何人、何种动机和目的、何时、何地、何种手段、何种犯罪行为、何种危害后果),构建由“案件线索来源、锁定犯罪嫌疑人及到案经过、查证犯罪事实、证据充实性及排他性说明、罪前罪后表现及其他量刑情节、涉嫌罪名”等六个环节组成的证据链体系(又称证据模型)。还根据各类案件的特点,对设置环节的数量进行增减或者对各个环节的排列顺序进行调整,如命案中增加“查找被害人确认死者身份”、非法集资案件中增加“集资活动的行政违法性”。以证据链为基础,将各个环节所需的要素,分解成若干个信息点,赋予各个信息点固定的标签名称(如作案时间、作案地点、作案人员、作案手段及经过、作案动机及预谋、作案后果、赃物去向等),通过对证据材料打标签的方式,为系统提取查证犯罪所需的信息点,并将提取到的信息点在证据链条页面中予以统一展示,让办案人员能够直观地看到某个案件的证据收集情况,并进一步判断是否能够形成完整的证据链条。该系统还能对同一查证事项下证据印证关系、不同查证事项间逻辑符合性、犯罪嫌疑人或被告人多次供述间矛盾事实等进行审查判断。

第五,要素式讯问指引。通过对海量讯问笔录的机器学习,根据案件类型建立讯问模型,列明讯问要点,为办案人员提供讯问指引,避免办案人员因经验不足造成案件讯问细节缺失,确保笔录证据的全面性和合法性。

第六,非法言词证据排除。利用音字转换技术将录音转换为文字,利用自然语音处理技术实现言词证据内容相似性类聚,以便快速比对出被追诉人供述与辩解、被害人陈述、证人证言之间的矛盾点;运用音字转换及智能检索技术,实现对言词证据与音像资料的快速比对,发现讯问、询问过程中是否存在违法现象。

(二)“206系统”所运用的人工智能技术

206系统”是上海高院与科大讯飞公司合作研发的产品。近些年来的智慧司法和司法大数据建设为“206系统”的研发提供了强大的信息数据资源支撑。由上海市的220余位资深法官、80余位资深检察官、100余位资深警官组成的司法专家团队还收集了公安司法机关退查退捕、罪轻不起诉、无罪释放等案件的说明、电子卷宗、裁判文书、庭审笔录、审理报告等资料30余万份,系统梳理了侦查、审查起诉、审判阶段在收集、固定、审查判断证据中存在的问题,初步形成了从待证事实、基本证据、开放结构到问题提示的研发思路。

206系统”运用光学字符识别、自然语言理解、智能语音识别、要素提取、机器学习等人工智能技术,实现了对各种证据(包括印刷体文字、部分手写体文字、签名、手印、签章、表格、图片等)的智能识别、信息提取。此外,还针对刑事司法活动的特殊性和以审判为中心的诉讼制度改革要求,进行了大量的技术创新。截至201810月底,共开发创新了9项人工智能应用型技术,实现了图文识别、图文分析、逻辑推理、规则模型生成、自动编目、要素分析、智能搜索、语义理解、量刑模型分析等特定功能。

刑事证据材料大多属于非结构化文本,只有通过自然言语处理解析并转化为结构化数据,才能被计算机高效处理。在此方面,首先是通过大量的文书标注打磨刑事司法知识的机器自主学习;其次是通过海量裁判文书、卷宗笔录的特征标注实现待证要素、证据要素的自动提取;再次是通过语义分析实现待证要素、证据要素的准确抽取。研发团队根据刑事罪名、罪状等内容构建了多层级的数据标注体系,以保证数据标注过程的可解释性,同时尽力消除数据标注表述中的语义分歧。

在证据规则指引数据化方面,主要将办案过程中的常见证据,分为形式要件和程序要件,设定规则、识别字段、检验类型、关键词、识别位置、瑕疵信息字段、提示信息字段,由研发人员编写程序,交付电脑识别和提示。对于具有关联关系的证据,还设定了完整性校验规则。以现场勘验笔录为例,形式要件包括具备勘验事由、时间、地点、现场条件、勘验情况、勘验人员签名、见证人签名、印章;程序要件包括应当附勘验照片、绘制现场图、见证人资格说明;完整性校验方面要求现场勘验笔录与《提取痕迹、物证登记表》这一关联证据进行捆绑校验。

对于刑事案件材料中出现的人物、地点、时间、物品等,运用命名实体识别技术定位,然后运用实体关系分析技术挖掘它们之间的关系;运用语音识别技术将音视频资料中的音频信息转换为文字,为后续通过文字对音视频中的相关内容进行准确定位,快速查找各个证据中的作案时间、地点、人物、工具、手段、后果等证明事项信息以及深度挖掘证据之间的印证、关联、矛盾等逻辑关系提供了基础技术支持。

构建证据模型,将影响定罪量刑的因素以及证据规范性的判断要素,拆分到不同的证据链环节项下,并通过智能化的机器辅助识别、检验、评测、审查判断,然后将全案证据和查证事实的分析结果最终以知识图谱的形式展现出来。

尽管“206系统”实现了人工智能与刑事证明的深度融合,但人工智能技术在刑事证明中的应用仍然存在着一些瓶颈问题。例如,虽然证据规则中的大部分内容都可以转化为电脑可识别的校验规则和校验点,但是单一证据校验功能尚不能完全覆盖证据规则,还需要人工进行复核。这主要是基于以下原因:一是目前的技术能力尚不能完全达到人工校验的标准,如电脑对手写体或签名捺印的识别率不高;二是存在一些需要结合其他情形判断的要素,如辨认物品时,同类物品不得少于5件,照片不得少于5张。但目前的技术水平仅能识别照片的数量,对于照片本身是否符合“同类”尚不能识别,需要进行人工审查。在“206系统”的研发过程中,虽然通过技术攻关,提高了手写识别技术和图像识别转换技术的精确度,但由于刑事证据材料复杂多样,在内容、类别、格式、排版等方面存在差异,有时中文、数字混杂,有时证据材料中还有下划线、印章等,影响了识别的准确率。

(三)“统一证据标准”所欲达到的效果

在以审判为中心的刑事诉讼制度改革中,司法实务部门聚焦于“统一证据标准”,这是因为:证据是诉讼的灵魂和裁判的基石,正确收集和运用证据,对于保证办案质量、实现司法公正具有关键性的作用。但是,长期以来,司法人员在日常办案时主要凭借个人的经验、感觉来收集证据,而不同的司法人员往往对证据标准的理解和认识不尽相同,对证据标准的具体把握存在差异,这不仅造成了“退侦、退查”等刑事程序回流现象,而且成为导致冤假错案的重要原因。借助人工智能实现证据标准的统一化、具体化、清单化,明确告知司法人员办理不同类型刑事案件应当收集哪些证据以及如何收集证据、如何审查判断证据,是为了破解刑事证明中的难题。“统一证据标准”所欲达到的效果主要包括:

第一,规范办案行为。通过制定证据标准指引,明确各类案件的证据规则,对于单一证据,从程序、形式、内容等方面提供校验标准,明确办理某类案件在各个诉讼阶段需要查证的事项(待证事实)以及需要收集的证据(基本证据和辅助证据),为侦查、审查起诉以及审判等不同阶段的司法人员提供清单化的办案指引,让司法人员做到依法收集、固定、保存、审查、采信证据,减少刑事证明活动的主观性和任意性。

第二,保证办案质量。通过构建证据模型,清晰地将某类案件需要查证的事项予以罗列,并且各个待证事项下均有若干基本证据提示。办案人员完成证据收集并上传证据材料,系统对证据材料的内容进行语义识别后,会以标签为逻辑连接点,将各个预设的信息点自动匹配到相应的待证事项下,司法人员可以据此对本案的证据链条是否完整进行初步判断。系统所设定的单一证据校验、全案证据审查判断等功能,可以揭示证据是否存在瑕疵,并且对证据之间的印证或矛盾关系进行识别。

第三,提高办案效率。通过对证据标准指引、证据规则指引、单一证据校验、证据链和全案证据审查判断、要素式讯问指引、非法言词证据排除等多项功能的综合运用,侦查人员在立案、勘验检查、取证、制作笔录以及案卷时,对于需要做什么、怎么做,哪些属于办案重点,一目了然。人工智能技术辅助办案,可以大大减少检察官和法官阅卷和梳理证据的时间,案卷越多、证据越复杂的案件,运用“206系统”办案的优势会体现得越发明显。 

 

四、“206系统的研发背景、特点及其定位

 

206系统”的研发以及运行引起了学术界的高度关注。如果说十年前学术界对于电脑量刑基本上持否定态度,那么时至今日对于司法实务部门推进的智慧司法建设以及人工智能在刑事司法中的应用,则大多认为是一种有益的尝试,基本上持肯定态度。同时,由于身处“局外”,对于该系统的了解尚不够深入,导致了在一些问题上的误读或误判,因此,在介绍该系统的主要内容和目标的基础上,还需要对该系统的研发背景、特点及其定位等,作较为细致的分析。

(一)“206系统”的研发背景

206系统”的研发有着较为明确的问题导向。其一是将其作为防范冤假错案的一种手段。在刑事司法实践中,存在着办案粗糙、办案程序违法、滥用自由裁量权等现象,导致冤假错案时有发生。这种状况助长了对“机器办案”的客观性、中立性以及确定性的期待。其二是在司法责任制改革背景下将其作为控制案件质量的一种方式。随着“审理者裁判,裁判者负责”、“谁办案谁负责,谁决定谁负责”的司法责任制改革,传统的自下而上层层把关的案件质量控制模式基本失灵,需要以新的质量控制模式加以替代。在此背景下,司法标准化建设受到了法院系统的青睐。“司法标准化是立足司法活动的价值追求和基本规律,通过对长期司法经验的总结和提炼,统一制定、发布、实施某一类司法行为标准,以指导、规范和评价法官的各项司法活动,保障法官严格公正司法;并运用该标准对案件进行检验,以提高案件质效、提升司法水平的活动过程”。借助人工智能手段“统一证据标准”,是为了帮助司法人员克服认识局限性和主观随意性,促进对案件事实证据的认定符合客观事实,使刑事证明更加符合统一的专业化标准,最终保障司法公正。

(二)“206系统”的特点

从上文中关于“206系统”的主要内容、所运用的人工智能技术以及所欲达到的效果的介绍,可以总结出该系统具有如下几个特点:

一是化繁为简。基于“证据是诉讼的灵魂”这一认识,“206 系统”重点围绕“证据”这个灵魂来开发。既有关于某一类型犯罪案件所需基本证据和辅助证据的归纳,也有对单个证据在程序、形式、内容上的要求,旨在让办案人员在办理不同类型刑事案件过程中,对于应当收集哪些证据及如何收集证据,做到心中有数。该系统采取提炼司法人员集体智慧的方式,让已经形成“共识”的司法经验反哺于刑事证明实践。有学者认为,“证据标准并不直接解决证据合法性和真实性的问题”。这种说法不太准确,因为该系统将“证据规则”嵌入其中,直接针对的就是证据的合法性问题,真正值得讨论的是人工智能在何种程度上能够解决证据合法性的判断问题;至于证据的真实性,也可在一定程度上加以鉴别,如通过图文识别技术发现伪造的签名、印章等。

二是全程贯通。该系统通过建立办案平台,使得整个刑事证明活动全程可视、全程可控、全程留痕、全程监督。从立案开始至审判结束,对案件办理的全过程中的每一个环节,均能适时对录入的证据进行检验、把关、提示、监督。对办案证据由事后审查变为事前指引、事中把关。同时,根据刑事诉讼法关于办案流程的不同要求,在追求证据标准统一的同时,兼顾诉讼的阶段性,对于不同的诉讼阶段,提供差异化的证据标准指引。

三是人机互补。该系统所使用的人工智能技术属于狭义人工智能的范畴,机器学习的执行方法则为监督式学习,其在概念抽象和推理决策等“深层智能”方面的能力还很薄弱,在“知识挪用”方面与人类智慧相去甚远。系统设定用它来对要件事实是否明显缺乏证据证明、证据是否符合法定要求、证据之间是否存在矛盾等进行判断,这是因为,在这些方面,主要的判断方式是对比、列举、校验,而不需要运用人类经验或复杂的证据推理,人工智能可以比人类更有效地发现证据缺失或者矛盾。而在刑事证明的核心领域——综合全案证据认定犯罪嫌疑人、被告人是否有罪,则只能由司法人员加以判断。

(三)“206系统”的定位

对于人工智能在刑事证明中的运用,学术界出现了两种倾向:一种是认为数据化的统一证据标准代表了证据标准改革的方向,丰富了相关的理论体系,提供了针对司法决策的纠偏机制。然而,当前我国实践中探索形成的此类标准,还不是真正意义上的证明标准,不是刑事诉讼各环节真正统一的标准,亦不完全是基于大数据技术产生的标准。我国应当继续证据标准数据化的改进,并推出配套制度。更有甚者,有学者认为,运用人工智能认定案件事实,是现阶段及未来的努力方向,并且探讨了如何克服人工智能融入案件事实认定所面临的主要难题。另一种是认为人工智能在刑事证明中发挥作用的空间有限,如不能对证据能力进行实质性的审查判断,但可以进行形式上的筛选和把关;不能单独承担判断证明力的任务,但在某些方面可以发挥辅助和参考作用;难以单独承担事实认定及证明标准判断的重任,但可以对证据规格进行判断。还有学者认为,人工智能法律系统存在两个难题(证据推理模拟和法律解释模拟)和一个悖论(该系统的研发旨在代替法官,其应用的界限却是不能独立担任法官,因此构成一个“旨在代替/不能代替”的悖论)。

206系统”由司法实务部门牵头研发,立足我国的刑事司法实际,秉持“有所为有所不为”的立场,该系统的研发并未将“代替法官”作为宗旨,也未将证明标准的判断作为核心,更谈不上让人工智能贯穿从证据采信、事实认定到法律适用的整个司法裁判过程。该系统的基本定位可从以下几个方面加以体现:

其一是辅助性。从该系统的名称看,“上海刑事案件智能辅助办案系统”直接表明了该系统在办案过程中仅起辅助作用。该系统的研发者指出:根据司法规律及其特点、刑事诉讼有关法律规定和人工智能现阶段发展的特征,我们将系统定位为“智能辅助办案”,起到的是“智能助理”的作用,等于为法官、检察官、侦查员配备了一个“AI侦查员助理”、“AI检察官助理”“AI法官助理”。

其二是开放性。有学者认为,证据标准主要是围绕案件的实体法构成要件设定的证据要求,建议保持证据标准适度的开放性,将其他方面的证据,如量刑证据、程序性证据也纳入证据标准的范畴。实际上,除了定罪证据,“206系统”还明确规定了量刑证据、程序性证据的收集、固定、保存、运用要点,为办案人员提供清单式指引。该系统的开放性还体现在证据模型的开放性以及对于某种类型刑事案件应当收集的基本证据指引中除了逐一列举证据名称之外,还加上了“其他有关定罪量刑的证据”的兜底规定。

其三是有限性。人工智能技术在刑事证明中的应用存在着一些难题,如部分信息难以转化为结构性数据,识别技术在识别对象复杂混乱的情形下识别的准确率相应降低,还有所有证据是否能够形成一个完整闭合的证据链,也非系统能够独立完成。该系统的核心功能——统一证据标准也存在明显的有限性。该系统是以特定罪名及其类型,分别确定证据标准指引,如侦查时公安机关认定为A罪,检察机关以B罪起诉,法院判决构成C罪,那么系统将难以实现实体判断与证据标准指引的有效对接;此外,公检法三机关在不同诉讼阶段所认定的罪数未必完全相同,这种情况下也难以实现实体判断与证据标准指引的有效对接。 

 

五、统一证据标准引起的理论争议

 

206系统”的核心是统一证据标准,在具体设计上旨在促进执法规范化、规则系统化、信息充分化。统一证据标准是司法标准化的重要组成部分。司法标准化是运用司法标准对案件质效进行检验的活动过程,司法标准具有事前指引预测、事后评价检验两方面的作用,司法标准为自由裁量设置了合理区间。如何处理好标准化与多元化、标准化与科学化、标准化与规范化、标准化与体系化、标准化与科技化、标准化与信息化、标准化与智能化、标准化与开放性之间的关系,是司法标准化建设所面临的主要理论争议。除了上述带有共性的争议之外,刑事证明领域的标准化还存在统一证据标准与统一证明标准之争,以及这种标准化是否会导致走向法定证据主义的疑虑。

(一)统一证据标准与统一证明标准

司法实务部门在统一证据标准还是统一证明标准的问题上,认识较为模糊,存在二者混用的现象。如“206系统”的研发者认为,“系统设计的证据标准、证据规则指引等功能,为办案人员提供了证据标准、证据规则指引清单,把法律规定的犯罪构成要件、证据认定标准、刑事证明标准具体化、数据化、标准化、规范化,实现证据标准、证据规则‘看得见、摸得着、可操作’”。

证明标准是证据法学中的通用概念,具有较为明确的内涵,是指“法律规定的运用证据证明待证事实所要达到的程度的要求”。我国刑事诉讼法规定的有罪的证明标准是“案件事实清楚,证据确实、充分”;刑事诉讼法第55条将“证据确实、充分”细化为三项具体要求:(1)定罪量刑的事实都有证据证明;(2)据以定案的证据均经法定程序查证属实;(3)综合全案证据,对所认定事实已排除合理怀疑。学术界之所以反对“统一证明标准”的提法,是因为:虽然根据我国刑事诉讼法的规定,侦查终结、提起公诉、审判定罪都应当达到“案件事实清楚,证据确实、充分”的证明标准,但是从其他国家和地区的情况看,存在证明标准在不同诉讼阶段的层次化问题,刑事诉讼三阶段的证明标准实际上难以统一。

证据标准是我国司法实践中的一个衍生性概念,有时与证明标准混同使用,有时用来区分审前阶段的证明标准(证据标准)与审判阶段的证明标准。但这种人为的概念区分缺乏实质性的理论内涵,且与国际社会对证明标准的通行理解不符。我国新一轮司法体制改革中提出要“统一证据标准”,使得“证据标准”这一概念具有了理论创新意义。它成为既区别于证明标准、又与证明标准紧密关联的一个概念。从“206系统”中围绕证据标准所采取的一系列举措看,证据标准属于证明标准的下位概念,它紧紧围绕刑事诉讼法第55条规定中的前两项展开,即主要满足证据“量”和“质”的要求,关于“量”的实现方式,主要有:列出基本证据和辅助证据、构建证据模型、进行证据链审查等;关于“质”的实现方式,主要有:证据规则指引、单一证据校验、发现证据瑕疵或矛盾等。刑事诉讼法第55条规定中的第三项“综合全案证据,对所认定事实已排除合理怀疑”则体现了证明标准判断的决定性要素。

(二)自由心证主义与法定证据主义

统一证据标准还引起了关于刑事证据制度发展走向的争议。关于刑事证据制度奉行的基本原则,有法定证据主义与自由心证主义之分。法定证据主义又称形式证据主义,是指法律预先规定各种证据的证明力和意义,法官只能机械地按照法律规定的条件来衡量证据的可靠程度,并作出判断结论,而不能按照证据的认识来分析和判断证据。自由心证主义是指证据的取舍及其证明力,由法官根据自己的理性和良心自由判断,形成确信并依此认定案情。法定证据主义与自由心证主义的分野主要在于法律是否预先规定证据的证明力。

现代证据法的核心内容发源并壮大于英美法系的证据可采性规则。而证据的可采性又被称为证据能力或证据资格。证据能力是指一个证据能够作为证明案件真实情况的材料。英美法系中的证据可采性规则主要包括关联性法则、品格证据规则、证人作证规则、特免权规则、意见证据规则、传闻证据规则、验真规则、最佳证据规则等。从法律的角度来规范证据的收集、取得与固定是现代刑事诉讼法的必要内容。证明力就是证据对于待证事实存在的可能性所具有的一种量化的评价。现代证据法基本上不规范证明力的审查判断。但我国的一些司法解释和地方性证据立法不仅对单个证据的证明力大小强弱确立了一些限制性规则,而且对认定案件事实确立了一些客观化的证明标准。这种现象被有的学者称为“新法定证据主义”,以区别于封建纠问式诉讼模式下的法定证据主义。

从表面上看,证据标准指引侧重于定罪量刑所需要的基本证据,以及各类证据的基本形式及取证要求,并未直接对证据的证明力作出要求,因此,不能认为其体现了法定证据主义的理念。但是,证据标准指引建立在证据规则(包括国家层面的证据规则和地方性证据规则)的基础上,由于证据规则受法定证据主义影响,因此,证据标准化的推进不可避免地会加剧法定证据主义的倾向。同时,过分精细化的证据标准也会导致证明标准的客观化,实质性地侵蚀自由心证主义。

 

六、在刑事证明中运用人工智能面临的挑战

 

与世界上其他国家和地区相比,人工智能在我国刑事证明中的运用远远走在前列。但是,我国在人工智能前沿理论创新方面总体上尚处于“跟跑”地位,大部分创新偏重于技术应用,在基础研究、原创成果、顶尖人才、技术生态、基础平台、标准规范等方面距离世界领先水平还存在明显差距。这不禁让我们深思:在人工智能研发水平高于我国的一些国家和地区,为什么对人工智能在刑事证明中的运用持保守态度?这恐怕与刑事证明的特殊性相关。刑事证明是一个主客观要素交叉融合的过程,也是一个充满价值判断和选择的过程,人工智能的介入可能带来弱化各种因素综合考量、各种利益综合平衡的风险。

(一)道德性方面的挑战

刑事诉讼事关人命、自由、国家目标以及社会正义,刑事证明涉及基于良知和理性的心证,因此,在使用人工智能作为技术工具时,应当对该工具的准确性持普遍怀疑的态度。司法技术操作规则应当“具有明显的道德指向、人权理念以及政策思维方式,并受到合宪性审查的制约”。对于以人工智能技术为支撑的证据标准化建设,应当系统审视它对平等原则和公正原则的影响。目前“206系统”仅为公检法三机关使用,它是否忽视了犯罪嫌疑人、被告人及其辩护律师的需求?它作为侦查员、检察官、法官的助手而存在,是否不利于维护被追诉方的合法权益?人工智能技术引导证据收集和运用,是否会影响刑事证明的透明度?未来应当如何让辩护律师有效参与系统运作?这些问题值得认真考虑。

(二)有效性方面的挑战

人工智能在刑事证明中的应用所带来的好处似乎是显而易见的,但是,机器学习这种前沿技术的适用仍然存在不确定性,因为它从动态环境下收集的有限数据中归纳出结论。“206系统”所依据的主要是上海市2012-2016年审结的刑事案件数据,5年的时间段明显偏短;将命案分为四种类型,并且分别制定证据标准指引,仅建立在591件命案的基础上,难以称之为“大数据”。机器学习模型需要庞大的能够产生可靠决策的数据量,如果提供的数据量不充分,将难以产生稳健的预测。在刑事证明领域运用人工智能,是在一个高度非结构化的情况下,试图通过应用程序作出预测,这种预测是否具有可靠性,值得警惕。深度学习工具总是与开放的结果推断进行博弈,侦查员、检察官、法官可能选择依靠直觉毫不费力地得出结论。人工智能的“黑箱”特征使其能够基于成千上万甚至上百万的变量作出推断,变量之间交互作用,这种复杂性导致难以对推断的结果进行解释。人工智能系统很难从相互关系中区分因果关系,这对于需要保持高度责任性的刑事证明制度而言是有疑问的。脆弱性是人工智能系统的一个关键特征,在大多数情况下人工智能系统能够在非常狭窄的任务上胜过人类,但是,也可能在看似微小的细节上轰然失败,因为分析的某个数据细节干扰了其内在逻辑。人工智能系统发生故障可能造成对犯罪嫌疑人、被告人、被害人的伤害。刑事司法系统需要稳健、可靠、失败率极低的技术工具,这解释了为什么长期以来刑事司法领域比其他领域更慢地采用人工智能技术。

(三)程序性方面的挑战

程序性方面的挑战主要包括算法公开、算法评估和系统使用者培训三个方面。人工智能系统由司法机构和掌握人工智能技术的公司合作开发,负责研发的公司可能因为市场原因,希望对算法保密。但是,在刑事证明活动中,为了防止侵犯人权,应当保持司法的透明度。如此一来,不愿公开算法与要求公开算法之间就产生了严重冲突。对此冲突的处理,应当以保障人权为重,要求研发公司承担公开算法的义务。在使用人工智能系统之前,应当进行综合性的算法评估,以便预测它对决策的潜在影响;还应对变量进行彻底审查,因为一些变量可能与被告人、被害人的身份、社会经济地位相关,容易导致偏见的产生;应当对各种变量的影响进行评估,确保因果关系能够被很好地理解。当使用本地数据开发人工智能系统时,侦查员、检察官、法官更容易对算法的科学性作出评估。在使用人工智能系统一段时间之后,还需要对人工智能系统的实际效果进行第三方评估。在正式使用人工智能系统之前,应当对使用者进行培训,以便使他们了解该系统的运作原理以及所使用的人工智能技术对公民权利的影响,减少使用过程中可能产生的偏见,促进司法公正原则的实现。


信息发布时间:2020-5-27 11:04:27 浏览: