人工智能在侦查中的应用风险及其防范
人工智能在侦查中的应用风险及其防范摘要：人工智能技术的广泛运用，使传统侦查处于发展机遇与风险挑战并存的情境之中。分析人工智能在侦查中的应用风险，加强前瞻预防与约束引导，以提升人工智能在侦查应用中的效益。通过系统梳理人工智能在侦查中的应用现状，预判各种可能的具体表现形式分析人工智能在立案、侦查、侦查终结各阶段存在的应用风险，以及始终存在的隐性应用风险。据此，应结合我国侦查发展实际，针对不同应用阶段的风险提出相应的立法、完善 相关规范等规制措施，充分发挥人工智能在辅助侦查方面的潜能，有力提升公安工作效能。1 引言国务院于2017年7 月印发的新一代人工智能发展规划（以下简称规划）明确指出 “目前人工智能已经成为国际竞争的新焦点，很多发达国家将发展人工智能技术作为提升 国家竞争力，维护国家安全的重大战略，我国应当抓住机遇，构筑发展的先发优势。”面 对国际社会日益复杂的安全形势与局面，传统侦查措施及手段已显得左支右绌，在国家安 全建设中，侦查工作面临着诸多新的挑战。人工智能经过几十年的技术发展已进入全新阶 段，其在侦查领域的广泛应用无疑给国家安全建设带来了巨大机遇，对维护社会稳定发挥 着不可替代的作用。但侦查机关在享受人工智能所带来红利的同时，也要清醒地认识到人 工智能可能给侦查工作带来的风险挑战，据此要加强前瞻预防与约束引导，最大限度地发 挥人工智能在侦查应用中的效益。2 人工智能在侦查中的应用及价值2.1 人工智能在侦查中的应用人工智能作为大数据与智能算法耦合下的技术升级，是一个开放的智能体。人工智能在侦 查领域的应用并非单纯技术手段的叠加，而应是在符合侦查原理和逻辑基础上的应用场景 智能化，以推动实现智慧侦查。2.1.1 智能检索与研判犯罪情报 情报分析是犯罪情报工作的核心内容之一。犯罪情报分析的主要目的是揭示犯罪活动的本 质、规律、发展趋势及侦查对策，对侦查行为和侦查决策具有重大意义2.1.2 智能获取刑事证据2017 年 9月，我国首例通过人工智能技术盗取公民个人信息的案件被成功侦破，成功截获 十亿余条公民个人信息。随着信息化社会的发展，非接触性犯罪案件逐渐增多，由于这些 案件存在着犯罪行为各要素之间无直接物理接触，作案时间、空间跨度大、分布广等特点 致使破案率较低，挽回的经济损失较少。在非接触案件中，犯罪行为会留有大量难以消除 的电子证据，侦查人员在如何发现并固定电子证据方面仍需进行深度思考。特别是在大数 据时代，海量的电子数据使得人工对证据的发现和固定变得更为困难在传统的犯罪现场中，通过人力进行现场勘查存在一些限制性因素，而犯罪智能化的发展 趋势进一步加深了人力现场勘查的工作难度。人工智能技术可以适应当下犯罪行为复杂多 变的发展趋势，对犯罪现场进行全方位立体式拍摄，并可提取到人工受视域限制无法获取 的刑事证据。如在一些有毒有害等可能威胁侦查人员人身安全的现场，可应用无人机飞行 平台进行远中近距离的拍摄，快速、及时、多角度地取得第一手证据资料。2.1.3 智能识别影像、痕迹(1) 视频、图像内容分析识别。当前视频侦查技术已经成为第四大侦查技术，侦查机关应用视频监控对犯罪嫌疑人进行身 份确认和轨迹追踪，有力推动了侦查破案的效率和效益。该项技术经过多年发展，“智能 为主，人工为辅”已逐渐成为常态，视频监控及图像分析等系统被广泛使用，人工智能技 术功能得到初步显现。如将人工智能技术与视频监控深度融合，对人脸、车辆进行识别分 析以追踪目标轨迹，排查出犯罪嫌疑人及可疑车辆。同时，人工智能技术可以对视频监控 中的画面进行深度分析，通过行为人的行为特征，判断行为人是否具备实施盗窃、伤害、 恐怖袭击等犯罪意图，从而对异常情况及时做出预警。(2) 智能识别人体痕迹物证。对足迹、指纹等生物特征的识别是人身同一认定的有效手段，但在一些案件中，具备一定 反侦查能力的犯罪人会对遗留痕迹进行清除或伪装，干扰现场取证。人工智能技术应用于 人体痕迹物证识别可大大提高分析识别的准确性，为侦查破案提供重要的科学依据和科学 导向。当前对足迹的智能识别有三维立体足迹采集与分析系统及足迹自动识别系统；对指 纹的智能识别是利用取像设备读取现场指纹，通过识别系统对提取到的特征数据进行处理 并计算出匹配结果，以确定犯罪嫌疑人身份。(3) 智能识别器械痕迹物证。在现场勘查中，任何与犯罪有关的痕迹都应当及时从犯罪现场提取出来，并尽可能保存其 原有形态，除了上述对人体痕迹物证的识别之外，人工智能技术还可以实现对枪弹痕迹、 工具痕迹、文书物证等内容的智能识别。如对枪弹痕迹的智能识别中，主要是将采集到的 枪弹痕迹图像输入枪弹自动识别系统，分别对弹头和弹壳表面的立体痕迹进行三维比对， 进而分析算出符合条件的枪支。与此同时，人工智能技术的运用也提升了痕迹档案的智能 化水平，痕迹档案从收集到运用变得更为准确、高效。2.1.4 防控犯罪智能缉捕目前，我国已经建成世界最大的视频监控网络项目天网工程，在交通要道、公共区域 等治安较为复杂的场所安装了两千余万个监控镜头。这项工程中的人脸动态比对预警及人 员轨迹分析追踪功能可以为智能缉捕犯罪嫌疑人提供强大支撑。对犯罪嫌疑人实施追逃和 抓捕时，利用天网工程确定犯罪嫌疑人的行动轨迹，并使用无人机技术快速追踪犯罪嫌疑 人，无人机还可搭载电磁干扰设备阻断犯罪嫌疑人向同伙通风报信。在未来的人工智能侦 查活动中，可以给无人机配备辣椒水、催泪弹等轻型武器，协助配合侦查人员控制犯罪活 动、缉捕犯罪嫌疑人，降低人员的伤亡率。2.2 人工智能在侦查中的应用价值推进人工智能在侦查工作中多方位、多角度的运用，可发挥出人工智能技术在优化侦查模 式、丰富侦查技战法、提升侦查工作效率和质量等方面的积极作用和价值，有力促进侦查 目的的实现。2.2.1 优化侦查模式，提高侦查效益随着人工智能时代的来临，除传统侦查模式外还出现了很多新的侦查模式，侦查模式由回 溯型转向回溯与预测型相结合。人工智能侦查在提高侦查效率的同时，通过对数据的分析 研判，可对犯罪热点区域、犯罪概率、高危人员等做出有效预测，侦查人员可根据预警及 时采取相关措施预防犯罪。人工智能侦查是犯罪风险防控、预测性侦查、精确侦查三者的 有机组合，依托大计算能力及机器深度学习技术，采集海量数据进行深度分析，为侦查活 动提供精确、科学、数据化依据，减少侦查失误并提升侦查效益。2.2.2 丰富侦查技战法，推进合成作战体系建设针对当前的犯罪特点及形势，传统的侦查技战法已经无法满足现实需求，人工智能侦查为 丰富提升传统侦查技战法提供了可能。在人工智能技术的辅助下，侦查技战法正在由单纯 使用侦查人员总结的侦查隐性知识向人机互动方向转变。无人机的使用促使现有侦查技能 实现大幅提升，形成了空中与地面相互配合的全方位、立体式作战法。部分侦查机关积极 整合侦查资源、技术和方法，主动打破部门、层级壁垒，形成了强大的侦查合力，有效推 进了合成作战体系建设，各侦查机关之间统一指挥、资源共享、协调作战，最终可形成合 力有效打击犯罪。2.2.3 提高侦查效率，缓解警力不足 当前传统类型犯罪数量减少，而互联网、电信等非接触型犯罪大幅增加，涉众型经济犯罪 形势较为严峻。面对此种犯罪类型和特点，传统侦查模式必然会加剧警力不足的情况。大 数据、人工智能技术应用于侦查，有效推动了侦查模式、侦查思维、侦查方法等方面的重 大变革，侦查情报来源广度和深度都得以提升。将数据资源与技术思维、逻辑推理等相互 融合，通过资源共享、数据碰撞、分析研判、智能辅助决策，减少合成作战的盲目性，准 确比对出犯罪嫌疑人，提取和固定相关证据，大大提升了侦查效能。同时，人工智能技术 的应用还可代替侦查人员从事重复性简单工作，从而有效缓解警力紧缺的现状。2.2.4 排除证据矛盾，提升侦查质量人工智能技术可以对刑事证据进行全方位、多角度、立体式的固定与提取，智能办案辅助 系统同时具备证据标准指引、证据校验及审查判断等作用。侦查机关运用人工智能技术对 证据进行形式上的筛选与把握，判断侦查活动中获取的某个证据是否具备证据能力的形式 化要素，梳理分析证据之间是否存在矛盾，对各项证据是否达到移送起诉标准进行审查判 断。人工智能虽然不能完全替代侦查人员，但也可帮助侦查人员避免一些主观偏差与失误 在侦查阶段减少执法过错，及时发现证据存在的矛盾及缺失，促进案件顺利移送起诉，提 升侦查质量和效率。3 人工智能在侦查中的应用风险伴随人工智能技术的发展，人工智能在侦查工作中得到了多维度、全方面的应用，在立案 侦查、侦查终结等各个阶段都扮演着越来越重要的角色，但与此同时，其也给各阶段的侦 查工作带来了风险与挑战，人工智能在侦查中的应用风险及规制措施如图所示。3.1 立案阶段的应用风险在立案阶段，侦查机关应积极发现并收集犯罪线索或信息，认真审查核实各类线索或信息 的内容及来源，如发现犯罪线索或信息，侦查机关应及时立案侦查。人工智能技术可以实 现对犯罪线索或信息的分类、检索、分析研判及深度挖掘，为发现犯罪线索、预测犯罪行 为提供了强有力的技术支持。但人工智能固有的属性和发展特征会不可避免地在线索的收 集、判断中产生偏见；由于在无具体犯罪嫌疑的前嫌疑阶段即深度挖掘数据资源进行犯罪 线索的侦查，人工智能侦查模式也同传统立案程序存有一定的冲突。3.1.1 线索收集、判断中的“偏见效应”与“黑箱效应”犯罪线索或信息数据的发现收集过程中存在着“偏见效应”。由于数据源受不同角色、动 机、专业程度的影响，精准度会发生偏离，一些地区由于信息化发展水平较低，犯罪线索 或信息未被数据化，侦查领域长期存在着“犯罪黑数”问题。如美国COMPAS等犯罪预测软件已经出现了算法偏见问题，在人身危险性评估方面隐含着种族及性别歧视。我国某些 犯罪地图陷入自我强化中，对犯罪热点区域的分析及人身危险性的评估并不客观。犯罪线索或信息数据审查判断中存在“黑箱效应”。在有效发现与收集犯罪线索或信息后 还应对犯罪线索和信息进行审查判断。在使用人工智能算法对线索或信息数据进行审查核 实时，算法和数据的封闭性易导致“黑箱效应”产生，系统内部对于数据的处理无法认知 侦查人员对犯罪高发时间、高发区域，以及犯罪行为、高危人员进行预测发现犯罪线索时 需要对数据进行选取、清洗，设置相应的变量。然而这种对变量的设定会带有主观因素， 技术人员将带有价值偏见的信息编入数据算法中，人工智能再进行深度自我学习便形成了 新的认知，这种过程是个缺乏可解释性的“黑箱”，这也成为了当前技术客观上无法逾越 的障碍。3.1.2 人工智能侦查模式与立案程序相冲突我国刑事诉讼法规定侦查机关立案后才能开始侦查，虽然公安机关办理刑事案件程序规 定明确了必要时可经批准后进行初查，但同时规定了不能采取限制人身、财产权利的措 施。人工智能侦查模式在立案前，甚至尚无犯罪线索的情况下即对海量数据进行搜集、筛 选处理，智能研判情报信息，提前发现犯罪苗头及趋势，并可及时有效地防控犯罪行为， 但这显然是与立案程序相冲突的。3.2 侦查阶段的应用风险人工智能技术的出现使侦查模式多样化，其强大的刑事证据智能获取功能有效提升了案件 侦破效率。但在侦查办案的具体实践中也存在着两方面的风险：一是相关法律法规缺乏对 人工智能技术在侦查中应用的有效调控和规制，人工智能侦查的属性存疑；二是将人工智 能证据指引标准引入办案辅助系统，有时会产生过度依靠人工智能对证据标准进行判断的 风险。3.2.1 人工智能侦查的属性存疑法律上对于人工智能侦查的属性目前还没有给出明确的定义，人工智能侦查取证的性质仍 存疑。有观点认为，应将人工智能侦查归于技术侦查措施，遵循有关技术侦查的法律及相 关法律解释，严格遵守相关审批程序、期限要求及证据使用等方面的规定，有效规范侦查 人员的侦查行为。有的观点则认为，应当将人工智能侦查看作侦查技术措施，通过法律
