施立栋 自动化行政中的人工干预机制:以公安领域为例

发布时间:2022-09-21 11:44:08 来源:欧宝APP下载地址 作者:欧宝app官网下载

内容简介:  自动化行政的广泛应用在提升行政效能和公平的同时,正在演绎成一幅“技术专制”图景。对公安机关的自动化行政实践的考察表明,无论是公务人员还是行政相对人,均已陷入被自动化设备支配的境地之中。要走出这一困境,应在自动化行政中嵌入人工干预机制。人工干预机制作为人工智能系统中与大数据、算法相并列的三大要素之一,有助于维护人作为智能化法律秩序主体的地位,它在现代科技与行政活动深度融合的进程中不应被忽略。为此,应从理念重塑、技术优化和规则完善三个维度,展开对人工干预机制的具体配置。  随着计算机、互联网、大数据、人工智能等现代科技与行政活动的不断...

  自动化行政的广泛应用在提升行政效能和公平的同时,正在演绎成一幅“技术专制”图景。对公安机关的自动化行政实践的考察表明,无论是公务人员还是行政相对人,均已陷入被自动化设备支配的境地之中。要走出这一困境,应在自动化行政中嵌入人工干预机制。人工干预机制作为人工智能系统中与大数据、算法相并列的三大要素之一,有助于维护人作为智能化法律秩序主体的地位,它在现代科技与行政活动深度融合的进程中不应被忽略。为此,应从理念重塑、技术优化和规则完善三个维度,展开对人工干预机制的具体配置。

  随着计算机、互联网、大数据、人工智能等现代科技与行政活动的不断融合,行政机关借助自动化设备完成行政任务的趋势日益明显,由此诞生了自动化行政这一类新型行政活动。所谓自动化行政,是指在一定程度上可以免于人工介入,利用自动化设备来承担原本由公务人员完成的部分或者全部工作的行政管理活动。以作出行政决定是否需要人工参与为标准,可将自动化行政划分为部分自动化行政与完全自动化行政两个级别。自动化行政的出现,不仅缓解了行政管理过程中人力不足、选择性执法等传统难题,整体提升了执法监管的效能和公平性,而且还推动了政府自身的改革以及官民关系的重塑。因此,自动化行政被评价为实现了行政活动的一种“量子飞跃”。

  然而,围绕自动化行政也产生了不小的争议。自动化行政的开展是以人类丧失对行政活动的部分控制权为代价的,由此引发了人们对受到机器支配的忧虑,同时对建立在人的尊严基点之上的传统公法秩序提出了挑战。可以说,人与自动化设备的关系定位问题,成为在自动化行政推广应用过程中科技伦理与法治的焦点议题。

  学界对于自动化行政中的人工干预问题,已经给予了一定关注。但总体而言,现有研究多聚焦于展望未来完全自动化行政场景下的人工干预机制设计问题,而对于部分自动化行政场景下的人工干预这一更为现实的问题却殊少关注。在不少学者看来,部分自动化行政场景中对自动化设备的人工干预是不言自明的,因为此时人工审核、监督的通道依然保留,人类受到机器设备控制支配的风险并不大。但是,这种判断未必准确。

  由于在当前的行政实践中部分自动化行政的应用仍然占据绝对主导地位,本文将研究聚焦于这一弱人工智能行政场景之中。下文的分析将展示,在部分自动化行政之中,无论是公务人员还是行政相对人,他们受到自动化设备控制支配的问题已经显得十分突出,为此有必要关注、引入和构建人工干预机制。值得追问的是,作为行政辅助性工具的自动化设备是如何跃升至控制人类的地位的?哪些观念性和制度性因素导致了这一现象的发生?人工干预机制在整个智能化法律秩序中应作何种定位?对于自动化行政中人工干预机制的配置应从哪些方面展开?在自动化设备的实践应用仍以部分自动化形态为主的当下,这些问题无疑是更为迫切需要解决的,对于由此带来的经验教训,在未来完全自动化行政时代构建相应制度时值得予以借鉴。

  目前在我国,自动化行政在公安、税务、市场监管等领域中有着较为广泛的运用。为了便于聚焦讨论,本文仅以公安领域为例,考察在自动化设备被引入后其技术性统治人类的状况。之所以选择公安领域展开分析,是因为公安系统启动信息化建设工作的时间较早。早在1998年,公安部就开始部署“”,开启了公安系统大规模的信息化与电子政务建设。在此后的一段时间内,这成为公安机关打造现代警务的重要着力点。2008年,公安部发布《关于大力加强公安机关执法规范化建设的指导意见》(公通字[2008]49号),明确提出要“积极推行执法办案的网上流程管理、网上审批、网上监督和网上考评,把信息化手段渗透到执法办案的各个环节”。历经二十多年的发展,基于计算机的各类办案系统、基于手机的各类应用软件、移动警务终端设备、监控装置等各类自动化行政设备,已经嵌入公安机关执法办案的各个方面,其应用程度之深、影响之大,是其他行政管理领域难以企及的,适宜作为检视自动化行政所衍生问题的一个剖面。

  随着各类自动化设备被导入行政过程,公安行政活动由传统的“公务人员—行政相对人”关系,被改造为“公务人员—自动化设备—行政相对人”甚至“自动化设备—行政相对人”的新型关系。大量个案显示,无论是公务人员还是行政相对人,均已陷入被机器控制支配的境地之中。技术的运用正在演绎成为一种新的专制,并挑战既有的法治框架与权利保障水平。

  由于基层公务人员被要求全面使用自动化设备办案,公安机关依法行政的水平在相当程度上受这些自动化设备的运行表现影响。但从实践来看,这些自动化设备的运行还远未能达到提升人工办案水准的预期目标。

  美国网络与科技法学界知名学者西特伦在系统考察了该国的自动化行政实践后曾感叹道,引入自动化设备的初衷在于减少人工执法所存在的偏差,然而现实情况是,这些设备在减少执法偏差方面的功能尚未得到充分发挥,自身却已存在不少衍生问题。我国公安机关的实践同样存在着类似的问题。

  首先,在自动化设备运行的过程中,由于系统设计缺陷或者受制于技术本身,各类故障频发,包括办案系统因故停止运行影响正常办案,系统在升级过程中自动丢失数据或变更信息,在自动生成的决定文书中案件编号发生重号、落款单位与实际情况不符等问题。这些在人工行政中难以发生的情形,在自动化行政时代却成为司空见惯的场景。

  其次,当前自动化行政仍处在弱人工智能的阶段,在实际运用中存在着机械适用法律、无法实现个案正义的问题。例如,在2018年的“陆雅芳诉上海市公安局交通警察总队强制报废机动车案”中,原告陆雅芳所有的机动车由于在连续3个机动车检验周期内未进行年检,公安交通管理信息系统自动将车辆状态判定为达到报废标准。但实际上,陆雅芳之所以未进行车辆年检,是因其与第三人产生民事纠纷,车辆被非法扣留。对此,公安交通管理信息系统在生成自动化决定时未能予以全面考虑。可见,在面对复杂的个案情境时,现有的自动化行政设备表现尚显平庸,远没有达到人工办案那样的准确度和灵活性。

  最后,部分自动化行政设备还展现出技术性改写法律的倾向,使得依法行政的基本要求遭遇挑战。例如,在发生交通事故后,对于未及时撤离机动车导致影响过往车辆通行的行为,《珠海经济特区道路交通安全管理条例》(2016年修订)第71条规定了处以200元至500元的罚款。但广东省公安交通管理综合应用平台将此类违法行为的罚款金额自动设定为500元罚款,由于珠海交警必须通过该平台才能出具处罚决定书,故在个案中只能一律作出顶格罚款。可见,立法上所设定的罚款区间已被自动化设备更改,执法人员无法根据个案情况作出调整,这在根本上背离了立法机关授予行政机关裁量权的宗旨。依法行政有被更改为“依机器设备行政”的趋势。

  从理论上讲,既然当前仍处在将自动化设备视作行政辅助工具的时代,面对上述自动化行政过程中出现的种种问题,公务人员应有权对其施加控制和矫正。但从实际情况来看,公务人员在面对这些问题时几乎束手无策,原因有以下两点。

  第一,公安机关在执法办案中普遍被要求在自动化设备上操作。在实践中,已经形成了办案人员离开自动化设备就无法正常办案,或者如果自动化设备操作中的前一个环节出现问题就无法推进下一步操作的局面。面对自动化设备存在的缺陷,公务人员要么停止办案,要么只能选择与事实不相符的操作。无论如何抉择,行政相对人都难以满意,极易引发争讼。

  第二,目前公安机关应用的各类自动化办案系统,绝大多数并不是由基层公安机关建设的。这些由高级别主体开发的系统,在操作权限的纵向配置上实行基层公安机关以录入信息和终端应用为主,地级市以上机关负责对系统进行管理与维护。一旦自动化行政设备出现问题,基层并无更改系统设定的权限,只能选择层层上报至有权机关解决。从实践来看,这种向上反馈及寻求解决问题的渠道并不畅通。这在机动车因未消除交通违法记录而无法办理年检的系列案件中表现得十分明显。《中华人民共和国道路交通安全法》(2021年修订)第13条第1款规定:“对提供机动车行驶证和机动车第三者责任强制保险单的,机动车安全技术检验机构应当予以检验,任何单位不得附加其他条件。对符合机动车国家安全技术标准的,公安机关交通管理部门应当发给检验合格标志。”由此,消除交通违法记录并不是公安机关交通管理部门颁发机动车检验合格标志的条件。但是,由公安部开发的公安交通管理信息系统却将消除交通违法记录设定为颁发检验合格标志的前置条件,若未消除违法记录,基层公安民警便无法在办案系统上打印出检验合格标志。长期以来,基层公安交通管理部门在此类案件中大量地被法院判决败诉,也通过各种形式层层上报至公安部,但均未果。在上述系统设置未获更改之前,基层公务人员对于有交通违法记录的年检申请显然无能为力,甚至面对法院判决也无法配合执行,其受困于自动化设备的状况可见一斑。

  现代行政法学认为,行政相对人是行政法律关系的主体之一,而非受行政权被动支配的客体。但是,在自动化行政背景下,行政法学上的这一“公理”有被撼动之势。公安领域的大量争讼案件表明,在自动化设备被植入行政过程之后,行政相对人受其支配的趋势表现得愈发明显。

  与人工执法办案场景相比,自动化行政设备具有更为鲜明的目标导向与效率追求。在此背景下,既有旨在控制行政权力的程序制度经常被架空。一方面,行政决定作出前的告知、听取意见等防御性程序机制往往会被自动化设备自动规避。例如,公安交通管理信息系统在注销机动车驾驶证之前,没有给予行政相对人陈述和申辩的机会。另一方面,在履行说明理由、通知处理结果等程序义务方面,自动化行政的表现也令人堪忧。例如,机器设备在自动生成决定后,长期不告知行政相对人。不少自动生成的行政决定文书还惜墨如金,仅标示违法行为或者处理机关的数字代码,降低了行政决定的可理解性。有的决定甚至不标示任何理由,需要行政相对人经多方了解之后才能搞清其中的缘由。凡此种种,均印证了学者所担忧的情况,即随着自动化设备的运用,行政相对人的程序权利将受到大幅克减。

  自动化行政的本质是将人工智能运用于行政活动之中,改变传统行政活动中必须依靠人力办案的局面。而人工智能的有效运作,离不开对海量数据的掌握和分析。正如学者所指出的:“我们不应该忘记机器人和人工智能的核心问题之一是数据处理,特别是大数据。没有数据,机器人什么都不是。”这一机理决定了自动化行政活动将处理大量有关行政相对人的数据。数据保护也因此成为自动化行政法律控制框架中最为核心的内容。遗憾的是,行政相对人的个人信息事实上已经全面处于行政机关的支配之下。

  首先,随着“天网工程”“雪亮工程”的实施,公共监控设施已遍布全国各个城市和农村,这些设施具有自动抓拍、智能识别、大数据分析等多重功能,使得公安机关的信息收集能力有了质的飞跃。同时,为了享受诸如“交管12123”等自助App提供的便捷公共服务,行政相对人需要填写个人注册信息、同意隐私政策。行政相对人事实上已处于被这些设备全天候、不疲惫、不眨眼地监视和分析的状态之中,其个人信息源源不断地被公安机关获取。

  其次,行政相对人的信息一旦被录入系统,在公安机关内部的各个子系统中会被迅速共享。此时,该信息对行政相对人造成的影响会被成倍放大。这些系统多在政府内网运行,行政相对人除非在具体个案中遇到政务服务方面的障碍,否则很难知晓和评估对其造成的影响究竟有多大。而信息在被共享之后,事实上已经脱离原录入单位的控制,极易造成对行政相对人救济上的困难。在2019年的“王莉与昭通市公安局昭阳分局不履行法定职责纠纷上诉案”中,原告王莉因其身份信息被案外人冒用,昭阳公安分局误将其当作吸毒人员录入公安机关的吸毒人员信息库之中。在接到王莉的投诉后,昭阳公安分局将其信息从吸毒人员信息库中删除,并为其出具了相关证明。但由于信息已被共享至户政、交通等公安子系统中,此后王莉在申请办理居住证时被拒绝,其持有的驾驶证被注销。在该案中,被告先后三次按照内部程序提请上级公安机关删除上述错误信息,但均未果。

  最后,行政相对人的信息在被自动化设备记录后,对其后期删除将变得极为困难。在大数据时代,为保障公民免受不良信息困扰、维护生活安宁秩序,“被遗忘权”成为一项重要的公民基本权利。但是,就公安机关使用自动化行政系统的实践来看,对这一权利的保障状况十分堪忧。在公安机关办理案件的过程中,一旦信息被输入系统,即便后续治安案件被调解结案、吸毒人员管控期结束或者刑事案件检察机关作出不起诉决定,案件相关信息仍会留存于相关公安系统之中。甚至在案件信息因错误被删除的情况下,系统中仍会留下操作日志等痕迹。由此产生的后果是,“AI若是不注意其操作,就可能会导致一个固定的社会,在这个社会中,个人因为那些自身并不负有责任的属性,或是因为只是一度的过失,就在生活方式上受到了极大的限制”。在不少个案中,行政相对人尝试以提起行政诉讼的方式进行维权,但法院多以在公安系统内部记录信息的行为属于内部行政行为、案件本身属于刑事司法案件等程序性事由,拒绝为他们提供司法救济。

  自动化行政中的“技术专制”图景,并非仅存在于公安领域之中。近年来,从交通运输领域的“北斗导航掉线案”,到大数据防疫中受困于错误的健康码或行程卡中的人,无不在显示着自动化设备被应用于行政实践后已成为一种统治性的力量。对此,无论是从事行政管理工作的公务人员还是作为行政权作用对象的行政相对人,皆难逃脱被支配的命运。这其实是技术被运用于现代生活之后人类被物化的结果,这一点在数字化时代表现得尤为突出。要走出这一困境,需要重新思考现代文明中技术和人的关系,对存在失控倾向的自动化设备施加有效的人为控制与约束,并由此提出在自动化行政中配置人工干预机制这一课题。

  如前文所指出的,自动化行政存在着部分自动化行政与完全自动化行政两个级别。其中,在部分自动化行政中存在人工干预自不待言。即便是完全自动化行政,实际上也仅仅意味着作出行政决定的过程免于公务人员的直接参与,并不排斥在决定过程中实施人工监督以及在决定作出后进行人工矫正。换言之,人工干预是贯穿于所有自动化行政阶段的一种必要机制。所谓人工干预机制,泛指一切用来对自动化行政设备的运行施加控制约束的制度,既包括在弱人工智能场景下公务人员对自动化设备的直接干预(典型例子如对监控设备收集的证据的人工审核),也包括在强人工智能场景下公务人员监督、中断自动化设备的运行过程以及对自动化设备输出的行政决定展开事后矫正。德国学者维施迈尔(Thomas Wischmeyer)在分析人工智能的技术架构时指出,大数据、算法和人工干预共同构成了人工智能系统中三个不可或缺的要素。作为将人工智能技术应用于行政活动的产物,自动化行政中的架构自然也应秉承这三个要素。其中,大数据可视为自动化行政机器的“燃料”,算法是驱动这台机器的“引擎”,而人工干预是对这台机器设置的必要监督控制机制。脱离了其中任何一个要素,自动化行政都难以有效运行。

  之所以要在自动化行政中嵌入人工干预机制,首先源自树立正确科技伦理的需要。在人工智能发展史上,设计合乎人类需要的机器运行伦理准则一直是各界关注的焦点。早在1942年,美国科幻作家阿西莫夫(Isaac Asimov)就提出了著名的机器人运行三项定律,其中贯穿始终的是“机器人要让位于人类”这一主题。近年来,在欧盟密集出台的关于人工智能的系列文件中,这一规则也被一再强调。2018年3月,欧洲科学和新技术伦理工作组发布的《关于人工智能、机器人与自动化系统的声明》明确指出:“人的尊严作为人权的基石,意味着在关涉人类及其环境的事务中,有意义的人工干预和参与机制必须被保留……(对自动化系统)掌握终极控制权的,应当是人类,而不是电脑和算法。2019年4月,欧洲委员会设立的人工智能高级别独立专家组起草并发布了《可信赖的人工智能伦理指引》,其中列举了可信赖的人工智能系统的七项关键要求,位居首位的便是保持人类主体性与监督(human agency and oversight)。这些文件都强调了同一个主题:在人工智能时代,人类依然应是法律秩序的主体。设置人工干预机制,能为当前处于自动化瑕疵指令包围的公务人员和行政相对人提供一种解困之路。

  此外,引入人工干预机制,还能为化解电子政务运行中的同意困境提供一种出路。在自动化行政系统的应用过程中,实际上暗含着一种张力。一方面,自动化行政系统迄今为止仍存在着技术上的不成熟,再加上普通民众面临着数字鸿沟的问题,因而除非行政相对人同意,否则不应强迫行政相对人使用自动化系统。尽管前文的梳理表明,公安机关已经被普遍要求运用自动化系统办案,但在理论上这一要求仅能约束公务人员,而不能扩展至行政相对人。但另一方面,运行电子政务需要建立在用户普遍接入、使用的基础之上,如果一概以个人同意作为运用自动化行政的前提,支持电子政务运行的大数据基础将无从得到保证,民众也难以真正享受基于电子政务的便捷高效服务。想要走出上述悖论式困境,需要重新省思个人同意规则作为自动化行政运行前提之正当性。事实上,在大数据和人工智能时代,建立在传统隐私权保护框架之上的个人同意规则已需要作出修正,规制的重心应当从事先征得数据主体同意转向对数据处理者的使用规制之上。同样地,在自动化行政中,制度设计的重点也应当转移至对自动化设备的使用控制之上,以此去消解其在使用过程中给行政相对人带来的风险,而人工干预机制的引入恰能满足这种要求。在这方面,欧盟《通用数据保护条例》(GDPR)已经体现了这种思维转向。该条例第22条尽管一般性地规定了对于会对个人产生法律效果或类似重大影响的决定,数据主体享有免受完全自动化决策的权利,但又设置了三种例外情形,分别是:(1)为签订或履行合同所必需;(2)欧盟或成员国法律作出授权;(3)数据主体明示同意。正如有学者指出的,由于这三种例外情形包含的内容十分广泛,实际上数据主体免受自动化决策是一种例外,而非原则。其中,在构成上述(1)和(3)这两种情形的场合,该条例还进一步规定,数据控制者须采取包括人工干预在内的措施,以维护数据主体的权利、自由和正当利益。这一规定意味着自动化决策须事先征得相对人同意的严格立场已经松动,同时体现了以设置人工干预机制去对冲未经行政相对人同意的自动化决策风险之思路。可见,人工干预机制的配置有助于平衡电子政务普及与行政相对人权益保护之间的关系,为解决自动化行政推广中的同意困境提供了一种新的思路。

  将人工干预机制导入自动化行政中,自动化行政设备与公务人员、行政相对人的关系相应地呈现出新的面貌。

  在人工干预机制之下,公务人员在行政管理过程中有权介入对自动化设备的事中、事后控制,其面对有瑕疵的自动化设备束手无策的状况因此得到纠正。由此,自动化设备可以回归至作为公务人员的辅助性管理工具的定位之上。实施自动化行政的目的是让自动化设备在证据收集、法条匹配、裁量指引、办案风险提示等方面发挥辅助性的角色,使得公务人员能够从纯粹事务性的工作中解脱出来,真正将精力投入更为复杂的管理工作之中。有学者形象地指出,自动化设备与公务人员之间呈现的关系就好比诊疗领域中检验设备与医生的关系,正如检验设备难以完全取代医生的角色,在自动化行政场景下,公务人员的角色也不应完全被自动化设备取代。

  在使用自动化行政设备的过程中,需要警惕的是公务人员对自动化设备过度依赖这一问题。与受困于系统中无法办公的情形相比,这是一种更为隐性的受自动化设备支配的情形,也是一种在技术伪装之下的“懒政”。例如,依据《中华人民共和国行政处罚法》(2021年修订)第41条的规定,对于电子技术监控设备所记录的证据,应当经人工审核后方可作为定案证据,同时,在证据采信过程中应当注重听取行政相对人的陈述和申辩意见。这一规定虽然明确赋予了执法人员对监控取得证据的人工干预权,但在实践中,比如在交警执法领域,执法人员实际上仍高度依赖监控设备来认定案件事实,对于当事人提出的辩解通常会选择无视或者对其审核流于形式。可见,随着技术的进步,公务人员对于先进设备的依赖性在加深。要走出这一困境,需要确立公务人员的全面调查义务,即自动化设备的运用并不能免除公务人员的调查义务。在德国,《社会法典(第十卷)》第31a条以及《行政程序法》第24条已相继作出规定,行政机关应当对自动化设备记录以外的重要事实展开调查和考虑。在我国,尽管尚未出台类似的法律,但《中华人民共和国公务员法》(2018年修订)第14条所规定的公务员勤勉尽责义务,也可以解释为履行全面调查义务的规范基础。

  综上,在人工干预机制被嵌入之后,公务人员与自动化设备之间的关系定位准则应为:替代而非取代、依靠而非依赖。

  在引入人工干预机制后,自动化设备的运行开始受到公务人员指令的控制。此时,自动化行政运行中对行政相对人程序保障不足的问题,就可以通过对机器施加人为介入而得到补正。在人工介入以后,呈现在行政相对人面前的自动化行政活动也不再仅仅是一台冷冰冰的机器,这为行政相对人享受到个性化的行政服务以及获取富有同理心的行政程序体验提供了制度性契机。在此背景下,行政相对人可以免于成为行政机关追求行政目标与效率的牺牲品,由此为在自动化行政场景下维持不低于人工执法情景中的基本权利保障水准提供了一种可能。

  与此同时,随着人工干预机制的设置,存在于自动化系统中的个人数据也有望走出被过度共享、被无限期留存等困境,使其摆脱受机器设备客体式支配的命运。这契合宪法上人的尊严之基本原理,因为该原理要求,“最终由人来面对每一位被评价者,侧耳倾听他们发出的声音”。

  在自动化行政活动中,人工干预机制的具体配置需要从理念、技术和规则这三个维度同时展开。

  理念是行动的先导。在我国自动化行政运行的过程中人工干预机制之所以长期缺位,与对待自动化行政的理念存有偏差不无关系。长期以来,我们对于自动化行政功能的认识主要停留在加强用户控制这一层面。这种控制具体表现在两个方面。第一,对行政相对人加强管理,即将自动化行政作为强化社会控制的一种新型工具。例如,国务院发布的《新一代人工智能发展规划》(国发〔2017〕35号)指出,“人工智能技术可准确感知、预测、预警基础设施和社会安全运行的重大态势,及时把握群体认知及心理变化,主动决策反应,将显著提高社会治理的能力和水平,对有效维护社会稳定具有不可替代的作用”,进而提出在行政管理领域推广应用人工智能技术,以推动社会治理现代化。第二,对公务人员强化监督,即以自动化设备的运用作为加强基层行政活动监督的重要抓手。例如,国务院办公厅发布的《关于全面推行行政执法公示制度执法全过程记录制度重大执法决定法制审核制度的指导意见》(〔2018〕118号)提出,积极推进人工智能技术在行政执法实践中的运用,目的在于“有效约束规范行政自由裁量权,确保执法尺度统一”。公安领域发布的一系列文件,也一直将信息化建设与强化对执法的监督制约、推动执法规范化联系在一起。

  然而,上述文件对于自动化行政的认识与电子政务建设的基本理念是相悖的。一般在理论上认为,引入电子政务、数字政府,其核心价值不在于利用现代科技提升行政监管的效能,而是推动政府自身的变革。这种变革表现在:第一,由传统的管理者中心主义转至用户中心主义之上,用服务思维代替传统的管理思维;第二,实现行政组织的扁平化,减少传统科层制中的管理层级。遗憾的是,我国的自动化行政实践并未真正贯彻以上要求。一方面,将行政相对人作为管理对象的传统观念并未得到纠正,甚至随着大数据、人工智能等现代技术的运用,行政相对人受到的管控有日益固化的倾向;另一方面,由于当前自动化系统普遍由高级别的机关开发、维护和运营,当自动化设备出现问题时,基层公务人员须提交至高级别主体寻求解决,使得行政活动的运行层级非但没有减少反而有增加趋势。可以说,从物理外观来看,电子化行政手段在我国行政实践中已有较为广泛的运用,但就内在设计理念而言,与真正的电子政务要求之间仍有着较大差距。

  因此,在构建自动化行政人工干预机制之前,有必要更新对自动化行政的认识,重申电子政务建设的基本理念,即组织架构扁平化、以用户为中心、贯彻服务理念,并将其融入人工干预机制的架构之中。具体要求包括:对基层公务人员充分赋权,不因自动化设备的运用而上收其权限;不应将公务人员仅作为自动化行政“流水线”上的操作工来对待,而是要赋予其对自动化设备的介入、撤回、修正权限;在自动化设备的系统设计以及运行过程中,要注重收集基层公务人员和行政相对人的需求及反馈意见,推动自动化系统优化等。否则,人工干预机制将难以真正嵌入自动化行政活动之中。

  在数字化时代,技术的地位在日益上升,其重要性不亚于传统的法律规则构建。这是因为,首先,在自动化行政中,行政机关的意思表示要素被提前到技术准备阶段。借助技术本身的运用,行政决定中可能发生的问题获得前置性解决。其次,面对自动化行政中的“技术专制”状况,置身其中的基层公务人员甚至法院均无能为力。对此,也只能回归到技术架构之上才能予以妥善解决。最后,在互联网、人工智能等场景中,技术受到代码的规范和约束,而代码本身就是一种规则。因此,技术本身也带有规则属性,关注自动化行政中的技术问题实际上也是在推动规则之治。

  第一,人工处理通道的保留。电子化处理不应作为行政机关实施特定领域行政管理的唯一方式。当出现如下情形时,应当触发人工干预机制。其一,行政相对人对自动化程序提出异议。这是为确保行政相对人拥有选择差异化政务服务的权利所设置的干预方式,在德国税务行政领域已有相关实践。其二,电子化设备运行发生故障。这一介入情形可以使公共服务免于因自动化系统故障而中断提供,在我国实践中往往在应急处置方案中被考虑。其三,公务人员认为有介入必要。由于当前自动化行政整体上仍处于弱人工智能的水平,为了输出更贴合个案正义情况的行政决定,应当赋予公务员这一程序裁量权,在其认为必要时转换成人工处理方式。

  第二,开放性处理选项的设置。自动化系统的开发设计者往往难以预见系统运行中将要面临的所有情况,对此,应在系统的相应模块中普遍设置像“其他”这样的兜底选项,作为确定性选项无法涵摄事实时的选择。与此同时,还应当为公务人员预留手工输入填写的空间,便于其补充填写相应情况,以保证说明理由的程序保障水准不被降低。

  第三,系统操作权限配置的重心下沉。为解决当前自动化行政中基层机关的法定权力被不当地上收后产生的权责不相称问题,同时走出信息初始录入易、后期删改难的困境,在自动化系统的设计上应突出以满足基层公务人员应用为主、方便上级机关管理监督为辅的原则,推动系统操作权限配置的重心下沉。至于基层公务人员可能出现的违规操作问题,可以通过在系统中留存操作日志、所作决定事后向上一级机关备案等方式加以应对。

  技术的进步对法治建设提出了新的要求。随着互联网、大数据、人工智能等新技术在行政管理领域中的应用,引入与之相适应的新规则成为迫切需要。就自动化行政中人工干预的制度建设,学术界也有一些探讨,尤其是围绕自动化行政中的算法黑箱问题,不少学者提出了以行政程序改革为基点的规则完善方案,包括引入算法解释权、影响评估、审计追踪等制度。这些研究多为聚焦于未来完全自动化行政场景之下对人工干预机制的前瞻性思考,随着人工智能技术不断地迭代发展,会日益凸显其价值。而立足于当下我国所处的自动化行政阶段,对以下两点需要格外给予关注。

  第一,确立人工干预决定的优先效力及配套制度。在以往的实践中,考虑到机器运作具有非人格化特征且为监督公务人员依法行政,当自动化设备生成的行政决定与人工决定不一致时,往往会认为前者具有更高的效力。但在全面引入人工干预机制之后,应当改变上述规则,赋予人工决定更高的效力,以防出现人工决定依然难以撼动机器决定的局面。与此同时,还需要设立如下两项配套性制度。其一,自动化行政信息的共享应有边界,不可无限度地将机器生成的决定信息共享至其他政务网络之中。这可以在信息被错误共享后降低施加人工干预的难度,同时减少对行政相对人带来的不利影响。其二,一旦机器决定被人工决定取代,作出人工决定的公务人员应及时将新的决定录入自动化设备,并同与之共享的所有信息系统进行数据交换,确保新的决定数据全面、准确地更新至其他系统中。自动化设备的运行、维护机关也应履行动态更新该信息的附随义务。

  第二,确保司法权的终局性介入。在自动化行政时代下,尽管对机器设备的各种瑕疵指令的监督重心已转移至事前与事中环节,但仍应将确保法院对自动化行政的有效介入和审查作为一项兜底的保障机制。在面对自动化设备篡改法律或者拒绝设置人工干预模块、公务人员怠于行使人工干预权或者行使干预权不充分等情形时,司法权肩负着维护法治、确保实现个案正义的重任,其本身也是摆脱机器支配命运的最终一道人工干预机制。从现阶段的司法运行状况看,法院对自动化行政的审查介入还十分有限,解纷效果也不尽理想。应当从如下两个方面对现行行政诉讼制度作出适应性调整。一方面,在被告认定规则上,应将负责自动化系统的开发设计、运行维护职责的行政机关纳入被告范围之内,改变目前司法实践中这些主体责任遁形、纠纷无法获得实质性化解的局面。在有瑕疵的自动化行政的责任承担方面,应贯彻“权责一致”的法治原则。对于单纯因自动化设备原因侵害了行政相对人的权利,如果原告仅起诉基层行政机关的,法官应当行使释明权,指导原告变更被告;原告不变更的,应当裁定驳回起诉。而对于自动化设备本身不存在问题,仅因基层公务人员操作不当侵犯行政相对人权利的,应当由基层行政机关承担责任。另一方面,在判决方式上,应拓展行政诉讼变更判决的适用范围。依据《中华人民共和国行政诉讼法》(2017年修订)第77条第1款的规定,变更判决目前仅限于在行政处罚明显不当、其他行政行为的款额确定或认定确有错误之时适用,应将其拓展至所有自动化行政决定之上,以确保在公务人员的人工干预机制运行缺位之时司法权能进行补位。

  当前,自动化行政在各个领域正全方位地席卷而来,成为一种不可逆的趋势。吊诡的是,作为一种旨在解放人力的手段,自动化行政在实践过程中已经显现出反过来支配人类的种种迹象。本文立足于我国当前所处的部分自动化行政场景,以公安机关的实践为例进行考察表明:无论是公务人员还是行政相对人,均已深深被自动化设备所困,受其客体式地支配和摆布。基于此,本文提出将配置人工干预机制作为上述悖反困境的解决方案,并从理念、技术和规则三个方面对其制度构建作了初步探讨。需要指出的是,主张在自动化行政中嵌入人工干预机制,并非要让行政活动退却到完全依赖人力的传统行政时代,而是让置身于自动化洪流中的行政法对此保持冷静和警惕,并提前谋划解困之道。随着技术的不断进步,我们接下来还可能要面对完全自动化时代。届时,人受自动化设备支配的状况将会变得愈加严重,对自动化设备施加人工干预的需求只会增强而不会减弱。正如德国著名法哲学家考夫曼(Arthur Kaufmann)所指出的:“人可能将技术理性发展得非常完美,但其总会有所保留,而这个保留的东西就是人文。”人工干预正是这样一种保留在自动化行政中的人文机制,在狂热拥抱自动化的时代,它有助于确保符合个案正义的行政决定依然能够输出、人的尊严始终得到捍卫。

  特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

  靳东成毅的新剧底线,讲述的竟然是个湖南法院故事。一口塑普太接地气了叭!!!本i湘菜一整个觉得非常亲切