人工智能在犯罪预防中的应用及前景分析

更新:2020-06-29, 浏览:75

摘 要】 人工智能技术的迅速发展和在社会生活中的应用,直接或间接地影响了犯罪行为,催生了新的犯罪手段,增加了犯罪的隐蔽性和复杂性,也为犯罪预防带来了新的挑战在迎接挑战的同时,人工智能技术也为犯罪预防带来了新的机会和手段利用人工智能技术的 AI+犯罪预防模式,不仅能够加强对犯罪态势的感知认知预测和预警,而且降低了犯罪预防的成本,拓展了犯罪预防的深度和广度人工智能技术在犯罪预防领域中的应用也面临着社会伦理和道德法律的考量未来人工智能技术可能在群体智能犯罪预防和个人犯罪行为预测方面发挥更大的作用


关键词】 人工智能; 犯罪预防; 实践应用; 应用前景


引言 

人工智能 ( Artificial Intelligence,缩写为 AI)是指通过研究人类智能活动规律,构造人工系统,模拟延伸和扩展人类智能的科学近些年,随着深度学习的发展,人工智能技术焕发出新的勃勃生机从面部识别目标检测和机器翻译等进入日常生活场景,到广受关注的 AlphaGo 与人类顶尖围棋选手的对垒,都显示出人工智能技术的迅速发展和广阔的应用前景在我国,人工智能技术得到了特别高度的重视2017 年,国家发布的新一代人工智能发展规划中明确指出,人工智能技术的发展将决定未来经济发展社会建设和国际竞争的趋势及走向,自此人工智能技术上升到了国家发展战略布局的高度[1],人工智能技术的研究和开发进入了新时代国内顶尖科技公司已经将人工智能技术广泛应用于交通金融医 疗教育物联网社交通讯和安防等诸多领域大学科研机构也在积极开拓人工智能技术与应 用 的 范 畴,通过植入硬设施,赋 能 软 件应用,在很大程度上机器已经能够帮助代 替甚至超 越 人 类,实 现 了 感 知识 别认 识分析和决策等功能 [2随着数据与智能浪潮的强力推动,人工智能技术必然拥有更多更大的发展和应用空间


正如爱因斯坦所说: 科学是一种强有力的工具怎样用它,究竟是给人带来幸福还是带来灾难,全取决于人自己。”科学技术是一把双刃剑, 其社会价值的发挥取决于使用者的立场和态度同样,人工智能技术在改变人类生产生活的同时,也诱发了新的犯罪形式,提升了犯罪活动的智能化程度,导致犯罪手段不断翻新,犯罪行为更加隐蔽,犯罪成本明显降低海量的信息数据为深度学习算法提供了大量的数据支撑,计算能力的提高有效地提升了模型的效率,开源环境大幅降低了人工智能领域的技术门槛,加速了智能产业升级,推动了应用型人工智能技术在社会各行业各领域的使用,一些违法犯罪活动乘机而动,侵犯公民个人信息侵犯商业秘密网络诈骗洗钱等依托于网络平台进行的犯罪活动利用 AI 进行了全新的手段升级2017 年 月绍兴公安机关破获的利用深度学习识别验证码进行数据撞库,窃取公民个人信息的案件,给人们敲响了警钟在传统网络攻击中,攻击规模和攻击效率难以兼顾,但基于强化学习的网络攻击,则在很大程度上可以兼顾这 两 个 方 面,将使劳动密集型网络攻击( 如鱼叉式网络钓鱼攻击) 造成的威胁更大当 前,已经出现了利用深度对抗生成网络进行伪造的犯罪 ( 如利用语音合成冒充本人利用计算视觉技术换头变脸) ,逃避监测并创造性地根据目标行为变化自身形态的网络攻击犯罪 ( 如 AI 撞库验证码) ,针对系统漏洞进行回溯性攻击的犯罪 ( 如对抗样本和数据投毒) ,利用人工智能技术窃取个人信息的犯罪 ( 如利用 AI 赋能的软件来分析个人电子足迹导致的 Facebook 信息泄露事件[3]) ,等 等基于物联网平台,利用人工智能技术自动操作或破解机器设备 ( 如无人机自动驾驶车辆等)抑或其他物理系统 ( 如自主武器系统) ,通过控制这些设备和系统,对现实安全进行攻击性破坏的此类犯罪,严重地威胁了物理安全,如在德国柏林发生的利用办公室的清扫机器人进行爆炸活动的犯罪行为利用人工智能非法获取个人群体乃至国家的信息情报,宣扬极端思想 ( 如根据人工智能技 术 的 自 动 化 研 判,开展有针对性的宣传) ,甚至欺骗民众,操纵舆论导向危害社会公共安全 ( 利用 AI 合成篡改视频自动生成网络水军) 等隐私入侵和社交操纵类犯罪的出现,极易误导民众,造成大范围恐慌,极大地提高了违法犯罪活动的社会危害性人工智能技术加大了人类行为的匿名性隐蔽性及时空上的距离感,从而降低了违法犯罪面临的惩罚风险成本,提升了犯罪活动的预期收益基于犯罪利益的驱动,犯罪分子更关注于地下黑产,也更容易获得相关的AI 软件应用和最新的科技成果用以实施犯罪[4如利用无人机运输毒品及爆炸物冲撞重点设施等活动都难以发现和防范; 利用 AI 远距离检测系统漏洞等侵害性和隐蔽性也都较大面对人工智能技术在犯罪活动中的应用和社会公共安全形势的日趋复杂,传统的犯罪预防策略手段和技术已呈现招架无力之势如何应对人工智能技术引发的新型犯罪以及如何运用人工智能技术开展有效的犯罪预防,已成为当前人工智能技术发展与应用的重要课题之一。 


AI+犯罪预防模式及实践应用

犯罪预防是指为消除犯罪原因防止犯罪发生而采取的各种社会管理组织和建设的措施在传统的犯罪预防模式中,无论是人防物防还是技防,都是以人为的经验预测及相关的预防措施为主导的大量实践证明,其预防思路策略和方法的科学性前瞻性明显不足,且成本偏高效果不甚显著


相较于以往的犯罪预防偏重于经验的运用,近年来兴起的大数据犯罪预测,运用统计学心理学和计算机科学等研究方法,将犯罪态势发展变化规律的分析由定性研究转向定量研究,由宏观预测转向微观预测,由纯数理模型转向 数据+模型,进而提高了犯罪预测的准确度和科学性,在一定程度上弥补了传统犯罪预防模式的缺陷但也应当看到,作为社会预测之一的犯罪预测,由于人力限制技术漏洞和道德约束,预测出来的结果也可能存在一定的滞后性,有时甚至与事实相悖如犯罪预测时,由于主体与客体之间存在的某 种 博 弈” 关 系,从 而 引 发 的 互 动 反射5],大大增加了预测的难度和不确定性[6]; 犯罪规律会因差异化的人为因素介入而变得异常复杂,产生不同的 因果链条,可能会导致预测结果的准确性存在问题一旦预测结果产生反向偏差,不仅难以预防犯罪,还可能成为妨碍犯罪防控的误导性因素


随着人工智能技术在犯罪预防领域中的应用,AI+犯罪预防模式开始兴起AI +犯罪预防模式,主要以收集各种跨媒体异构复杂数据 ( 视频图 像语音文本等) 信息为基础,利用机器学习图像理解和生物识别等技术,从跨场景复杂空间行为理解跨物理和网络空间社会形态分析大尺度社会观测与认知等角度,对与犯罪的发生发展产生关联的当前的事物变化进行交互感知认知和理 解,构建智能化预警监测与安全控制系统。


(一) AI+犯罪预防模式的内容

AI+犯罪预防模式,由 AI+犯罪预测和 AI+犯罪预防两部分构成AI+犯罪预测主要依托知识图谱数据挖掘等技术,通过对信息数据的收集比对和研判,构筑出不同个体元素之间的内在关系,将其沿着一定的规则和机制进行交叉碰撞归纳和演绎,从而预测出犯罪现状及其发生发展的相关态势; AI+犯罪预防是以人工智能的尖端技术为依托,结合海量数据,利用全新的分析路径部分辅助或代替人类进行分析研判,同时搭载 AI范畴的周边设备及平台,形成以人工智能技术为核心支撑,能进行精准高效监测和稳定控制的预防犯罪系统而赋能人工智能技术于犯罪预防的相关应用,将具备拟人化周密化的作用能力与张力,使对犯罪的事先预防强度得到结构性的提升


社会公共安全形势的变化和科学技术的进步,为犯罪预测模式的转变提供了机遇和基础AI+犯罪预测区别于传统犯罪预测,最显著的特点在于其着重分析预测信息数据背后的相关性而非简单的因果推导人工智能技术能将现象规律转化为更高维的数据信息,通过模型和算法,将收集到的所有元素与现实事实认定进行正确的匹配推 导预测和延伸,建立起以输入目标为核心的科学完整的关联网,再根据人们所希望获取的信息目标,对犯罪预测的结果进行因地制宜的综合施策在大 数 据 时 代,包 含 娱 乐餐 饮出 行旅游购物和商务等电子痕迹的海量个体信息,让每个人在网络上逐渐具备独特的 网络指纹”。结合人工智能对大数据的整理和分析,使得人工智能技术在预防网络犯罪金融犯罪等方面收到了良好的效果,适用于反欺诈不一致性验证组团欺诈等社会公共安全保障领域,建构实时性更高个性化更强且覆盖人群更广的犯罪预防系统如英特尔公司利用具备高透明度的关联记忆人工智能解决方案来检测金融犯罪的发生[7]; IBM公司的 Watson 系统由于其优秀的计算机认知能力被用于预防和打击网络犯罪


AI+犯罪预防模式区别于传统以人力为主技术为辅所进行的守备监控寻迹研判和布防等行为,其利用人工智能技术嵌入应用所具备的极强的数据整合分析推理决策规划学习等能力,达到对现实情景进行更加准确的监测和控制的目的,从而推动传统的被动单线的犯罪预防模式向主动复合的模式转型这种模式不仅减少了公共资源的浪费,优化了警力配置,同时拓宽了犯罪预防的深度和广度,整合了诸多高效的平台及技术,实现了对犯罪的有效预防。 


( 二) AI+犯罪预防模式的特征

AI+犯罪预防模式主要具备以下四个特征:


第一,覆盖域广传统的犯罪预防模式如视频监控出入口控制紧急报警安全检查 等,信息搜集停留在静态层面,数据获取存在局限性,信息来源略显单一在 AI +犯罪预防模式产生之后,不仅可以做到 部分作用整体联动,将方方面面的信息数据进行整合及统筹利用,极大地丰富了情报信息的内涵,更可以从终端中提取出所需数据,通过人工智能技术实现对潜在犯罪问题的快速反应和协同作战


第二,精确性高人工智能技术的发展,给予了 AI + 犯罪预防模式极强的情报分析整合能力[8这得益于人工神经网络自我学习自助诊断最优决策的功能,摆脱了在传统犯罪预防实践中所产生的思维定式,将在各种经验综合下忽略或遗漏的因素整合起来,进行信息的深度加工与整理,并能在整体运作过程中弥补解除人为的思维盲区,做到精准打击和全面预防


第三,效能性强有数据统计,截至 2016 年,我国的前端摄像头出货量已达 4338 万台,预计在2020 年出货量将会达 5422 万台[9这意味着我国每日的视频监控录像将会达上千 PB,若结合过去积累的历史数据则数量更大但这些海量视频监控数据中约 99%以上都是非结构化数据,难以有效地加以利用


传统的视频监控采取人工分析视频数据流的方式来获取情报信息,而 AI+犯罪预防模式,是以非结构数据的智能结构化分析和异构数据智能融合为核心,采用数据挖掘的方式来获取有价值的信息内容传统的事前预防犯罪,需要大量人力物力进行监测,要采取隔离设施及进行设备的操作,效能低且收益难成比例随着布置监控点位越来越多,海量视频数据不断堆叠,占用大量硬件资源,所固定的证据往往利用率极低,几乎无法简单地利用人海战术进行检索和分析事实上,在众多视频数据流中,事件的发生往往只是其中极小的部分,但事件发展的延续性却让证据链分散在各个终端上,造成了视频监控系统应用深度过浅资源浪费率极高的后果由此可见,传统算法带来的价值已经无法满足日益提升的社会公共安全利益的迫切需求如在震惊全国的 周克华特大案件侦破中,由于受当时技术条件的制约,针对抓捕犯罪嫌疑人的任务目标,警方采用了人工排查的方案工作中调动了 2000 余名警力,全天候不间断地对共计时长相当于 83 万部电影的监控录像逐一排查,历时两个月方才完成[10期间还需要回溯重看解决遗漏的视频部分如果采用视频结构化方案,结合服务器集群,就可以数倍于人工排查的速率完成任务,并产出更加优质的结果[11


第四,外延性强AI+犯罪预防模式,通过对海量的数据进行采集分析后产生的衍生数据及关联数据,将对传统 泾渭分明单线作战的事先预防格局产生新的突破在传统的犯罪预防体系中,犯罪预测所能起到的作用有很大的局限性,往往因为缺乏其背后的显性关联,使推导活动常常难以为继特别是在遇到复杂情况时,需要各方投入巨大的能量去引导和带动线索的推进而人工智能技术在多源融合感知的基础上,将多个没有证据证明看似毫无关联的事实结合在一起,为犯罪预测提供更加富裕的想象力,优化了犯罪预防策略的调整同时 AI+犯罪预防所具有的效能不仅涵盖本系统的设备平台和技术的作用,同时能对接外部的信息渠道,将各种数据汇总融合成实体 对 象,并根据其中的属性联系时 空 联系特征联 系 等 建 立 相 互 的 关 系,形 成 一 张 包罗万象的天网,通过 可视化研判+多维情报的分析挖 掘,使现实中对犯罪的防控能力得到显著提升[12。 


( 三) AI+犯罪预防模式的实践

AI+犯罪预防模式在犯罪热点分析新型网络犯罪预防安防安检和治安防控等领域均具有实践应用的重要价值


1. AI+犯罪热点

传统的犯罪热点是基于对特定时空特定犯罪成因的分析和推导,并通过情境分析 ( SituationalAnalysis) ,提供解释犯罪会集中于某个时空内的地点或地区 的 认 知 模 型,主要侧重于地理热点分析[13但是在实践中,由于缺乏系统性的客观数据支撑,宏观如社会政策变化人口流动季节交替等因素,微观如心理健康行为习惯等人的因素,二者叠加所造成的预测盲区,让犯罪热点的成因难以探析,仅凭历史数据的分析未能告别经验主导的弊端,无法揭示各种因素与热点的具体数量关系,从而限制了这种分析框架的解释能力


人工智能时代的犯罪热点,能结合空间时 间社会形势和个人因素对犯罪问题从宏观至微观进行全面的剖析基于海量数据的支撑,将突破传统的定性分析的框架,不再受困于客观因素难以全覆盖缺漏多的困境通过对现有数据现实采集到的优质数据资源,利用并行计算能力以及深度学习技术处理汇聚而成的 信息流,并通过数据碰撞数据挖掘数据画像等数据处理方法将地理社会经济时空及人类活动等方方面面的信息进行整合,跨越信息和技术的双重门槛,实现以动态预测的方式对犯罪态势进行实时把握,真正做到防患于未然


如美国警局已经开始运用名为 PredPol的犯罪预测软件该款软件能通过官方渠道,实时从每个部门的记录管理系统 ( RMS) 获取提要来收集犯罪类型位置和时间,从而为预测引擎提供反馈该引擎每天为不同的值班和任务创建预测,极大地提高了出警效率洛 杉 矶 警 察 局( LAPD) 的 Foothill 分局从 2013 年 月至 2014 年 月的预测犯罪下降了 20%,并且在 2014 年 13 日一整天实现没有犯罪阿尔罕布拉市警察局( AlhambraCA Police Department) 报告说明,自2013 年 月部署犯罪预测软件以来,入室盗窃案下降了 32%,车辆失窃率下降了 20%2014 年 5月被报告是该市历史上犯罪率最低的一个月[14意大利 KeyCrime” 公司研发的犯罪预测软件,通过调用警方有关犯罪嫌疑人的数据,配合被抢劫的商店地点视频监控里犯罪嫌疑人的动作及携带的工具,分析罪犯的实时危险程度,并且与其附近一定范围内的犯罪案件进行关联分析,进而对不同的罪案建立起联系网[15


随着人工智能技术的发展和优质数据的积累,为犯罪预防所能带来的不仅仅是热点的分析,更能结合高性能的计算硬件,针对现有的分析结果制定最优的对策及自动应急决策等智能行为这种对犯罪热点功能的拓展和延伸,实现了对犯罪行为的主动预防和源头治理


2. AI+网络安全

物联网的高速发展淡化了内网和外网的边界,网络泛化成为大趋势。例如特斯拉电动汽车在各种场合都可以接入 WiFi 和 4G 网络,无人驾驶技术也将与交通灯、交通台、其他车辆或数据系统互通互联———这意味着存在更多的潜在攻击 点,意味着为网络犯罪、物理攻击提供了更加便捷的犯罪渠道。因为一旦入网,很多传统的攻击手段就如同病毒攻击电脑一样攻击无人驾驶车辆,就像肆虐全球的 WannaCry 病毒不仅能入侵电脑,同样可以入侵车辆[16],这将会造成极大的社会危害后果,网络空间已然成为犯罪活动猖獗的避风港。与此同时,用于保障网络安全的 AI 应用,极大地提高了网络犯罪预防的异常检测和分析效率,弥补了网络安全领域的人员紧缺问题。具备学习能力和处理非线性问题的能力,是 AI+网络安全应用长期胜任网络犯罪预防的关键所在。人工智能技术的嵌入,降低了预防网络犯罪方面的应用成本,有效地保障了网络空间的安全。


利用人工智能预测网络攻击的美国 Cylance 公 司,是估值 10 亿美元以上的 “独角兽,其人工智能反病毒软件 “CylancePROTECT”可以有效地预测网络攻击的发生; Ionita 提出了一种利用数据挖掘进 行 网 络 入 侵 检 测 的 多 智 能 代 理 方 法[17];Kumar 和 Reddy 基于人工智能技术,为无线网络开发了一种独特的基于代理的入侵检测系统,该系统从不同的节点收集信息,并利用这些信息与进化的 AIS 来检测无线网络的入侵,并用于网络犯罪预防[18]; Barman 和 Khataniar 研究了基于神经网络系统的 IDSS 的开发,他们所提出的系统在发现DDOS 攻击时的检测速度相较于其他系统至少要快20. 5 倍[19]。


3. AI+安防监控

目前 AI+安防监控的应用主要基于视频结构化技术,融合机器视觉、图像处理、模式识别和深度学习等最前沿的人工智能技术,通过两方面的使用途径来保障公共安全。一方面,通过安装在公共场所的监控摄像头,系统地采集含有人脸的图像或视频流,对画面中特定的目标对象进行建模,并通过大量样本进行训练,得以自动在图像中检测和跟踪人脸,再利用人工智能技术对人像态势数据进行分析处理,从而对人们的活动和行为进行预测和研判,实现对目标人的整体信息分析、完善的状态描述,从而利于警方及相关部门进行重点排查和抓捕[20]; 另一方面,采用计算机视觉态势感知、事件识别技术,对视频监控的目标进行提取检测,通过不同的规则来区分不同的事件,从而实现不同的判断并产生相应的报警联动等,例如: 区域边界入侵、人员聚集分析、交通肇事检测等。在日本,利用人工智能技术分析监视器影像已经屡见不鲜,协助犯罪侦防的研究日益活络。日本设备商 OKI 正是依此侦测 ATM 机的提款者异状; 新创业者 Earth-Eyes 研发了可预测偷窃者的侦测系统; NEC 在 2017 年 11 月也在旗下脸部辨识产品导入人工智能,推出防止陌生人进出大楼的保全系统; 大阪大学教授八木康史应用深度学习,根据姿势、手的摆幅等走路相关特征辨识出特定人员,依此研发出可追踪犯罪嫌疑人、恐怖分子的技术,实测结果准确率达八成,该技术能分担完全仰赖人力监控的负担,提前对犯罪嫌疑人进行控制预防[21]。在国内,高科技公司诸如平安科技,利用人脸识别技术高效打击 “黄牛”骗保行为,为维护保险公司及参保人利益提供了强力保障[22]; 深圳分期分区改造一类、二类、三类摄像头,由政府牵头建设视频专网来协助警方抓捕逃犯、预防犯罪; 海康威视、大华、依图科技等诸多企业和公司所研发的 AI 平台,通过精准的人脸及车辆识别技术已服务于国内诸多城市,与公安机关有着紧密的合作,如苏州市公安局、福建省公安厅、贵州省公安厅等已经将相关技术应用到警务实践中,成效颇丰。目前将公共场合、重点场所布建的摄影机作为前端工具与擅于影像分析的人工智能技术相结合的预防犯罪手段,不仅能提早发现各种异常状况、有效降低犯罪率,而且能够有效地辨识违法犯罪嫌疑人,提高侦查破案的效率。


4. AI+智能安检

安检作业是维护社会公共安全的重要一环,也是预防犯罪尤其是预防个人极端暴力、暴恐类犯罪的重要手段之一。传统的安检是以 光机、安检门、身份识别系统和安检人员所形成的一个出入控制的封口。但是由于进出人员携带物品的复杂性,基于人力的安检手段不可避免地会出现漏检、误检等情况,难以起到更好的安全防范作用。AI+安检则是汇集与分析各种安检领域 ( 包括海关、机场、车站等) 的图像音频与信息数据,辅以现场采集的优质数据,将之应用于安检作业,作为底层初始数据,使用人工智能提高 光安检机禁限带物品的识别率、人员识别率,降低劳动强度,减少人为误差,实现自动化检测; 同时汇聚大量作业点采集的图像数据形成新的训练样本,进一步强化机器学习算法,并将新训练的模型更新至作业点,提高单一作业点的识别率[23]。通过人工智能技术落地安检实际操作,从而进行更高维度比对运算,有效地降低了误报率,减少和消除了安全隐患。


5. AI+社会治安防控

随着我国城市化进程的加快,人口流动频繁,管理难度加大,治安形势严峻,安全隐患突出,各类事故频发。面对随时可能发生的突发事件,如何实现积极能动的预防,是当前社会治安防控面临的重要课题[24]。从社会治安防控的技术体系进行分析,人工智能技术具备终端切入与入口逆推这两大特点,主要通过两个方面与现实进行交互作用。一方面,通过风险感知识别技术,对治安管理区域中的各种情况进行类别化、模式化分类,对情况的紧急程度进行识别,进行自动智能化报警[25]; 或者在复杂情况下,利用人工智能技术进行终端处理和评估,再结合外部信息数据进行分析、计算和决策,然后采取相应的措施进行处置。另一方面,随着国家 《关于加强社会治安防控体系建设的意见》的发布,公众对社会治安形势的安全稳定有了更高的期盼和需求[26],社会治安防控已不能仅仅局限于事发报警和事后联动,更要求设备、设施能具备智能化存储与智能化思维。借助于人工智能技术的数据处理能力,根据某时段监测区域的环境状况,对事物的发生、发展规律进行总结,通过深入的量化分析与感性判断形成应用性与适用性较强的治安态势感知,并在应用过程中逐步地自我完善。


以 “雪亮工程”为例, 雪亮工程”是以县、 乡、村三级综治中心为指挥平台,以综治信息化为支撑,以网格化管理为基础,以公共安全视频监控 联 网 应 用 为 重 点 的 “群众性治安防控工程”[27]。其将安全防范的措施延伸到群众身边,发动社会力量和广大群众共同参与,实现视频监控的全覆盖、无死角。通过 AI+ “雪亮工程,建立综合的信息共享应用管理平台,对各类重要视频监控、社会资源进行整合、接入和管理,高效地实现了社会治安防控和应急指挥视频图像资源的一体化调用和共享。同时对辖区内的报警联网资源及社会报警监控资源统一控制和管理,利用人工智能技术分析甄别,实现犯罪预防的 “实体防护+态势侦控,进而达到治安防控 “全域覆盖、全网共享、全时可用、全程可控”的目标。 


三、人工智能技术在犯罪预防应用中面临的问题

在研究 AI+犯罪预防模式时,须对人工智能技术的应用保持清醒的认识,充分发挥其优势,同时也要直面现存的问题,唯此才能更好地服务于犯罪预防的实践。


( 一) 数据采集对隐私保护的挑战

人工智能技术的落地实施,必须基于海量的数据乃至生成海量的数据,这就对信息管理和隐私保护提出了巨大的挑战。以智能安防监控为例,根据不同用途可将视频监控环节分为三块: 前端摄像头+传输+后端中控系统/———人工智能技术既可以在前端处理,也可以在后端计算分析。从前、中、后端运作看,在应用诸如指纹识别、人脸识别、虹膜识别等生物特征识别技术时,都会对个人信息有所留存,其收集、存储的信息数据都会成为社会关注的焦点。这就不可避免地涉及一个问题———数据的隐私保护。受限于移动设备计算,当前主流做法是对人工智能技术进行后端的植入和处理,其信息收集方式固然能在技术上更方便地得以实现,但是聚合化的特点也决定了其终端一旦遭到攻击破坏,其数据的泄露必将造成巨大的影响。2018 年 月 25 日,欧盟出台了 《一般数据保护条例》 General Data Protection Regulation,简称GDPR该条例对没有人为干预、并会对数据主体产生重大影响的自动化决策进行了规范,明确了数据主体的权利义务,并且制定了相关的救济措施和惩罚措施,被称为 “史上最严数据保护条例”。这表明,数据的隐私安全不再仅仅属于个人隐私空间,而且可能对社会造成特定的影响。人工智能技术中的机器学习将会首当其冲,成为各方关注的核心焦点,数据的隐私将成为未来人工智能技术实践应用的红线,在 AI+犯罪预防系统中的应用也不例外[28]。


( 二) 可能引起科学伦理问题

人工智能技术的持续进步和迅猛发展,特别是将其应用于犯罪预防领域,让公众享受到安全的同时,也不能忽视其背后的科学伦理问题。


首先,在与现实生活相交合时 ,AI 决策的行为规则、权利义务等所产生的价值对接、伦理逻辑问题将存在困扰。如无人驾驶车辆在街道上行驶,若即将遇到不可避免的事故情况时,AI 决策是优先保护驾驶人员还是优先保护行人,是优先保护多数行人还是优先保护重点行人? 是否能根据人数、身体健康状态乃至社会评价进行决策?面对此类状况应该根据什么标准进行判定和预防?针对 科 学 伦 理 问 题, 欧洲机器人研究网络( EURON) 发布了 《机器人伦理学路线图; 韩国工商能源部颁布了 《机器人伦理宪章; 日本组织专家团队起草了 《下一代机器人安全问题指引方针; 美国国家科学基金会和美国航天局设立专项基金对 “机器人伦理学”进行研究。此外,一些行业组织、公司和企业也在伦理规范方面强化人工智能专家的专业责任。例如日本人工智能学会内部设置了伦理委员会; 谷歌公司设立了 “人工智能安全伦理委员会,旨在强调科研人员的社会责任,并对合理研发人工智能提供指导[29],其工程师也联名提出要求公司退出军事人工智能的研究工作。


其次,利用人工智能技术进行犯罪预防时,如果人工智能技术对应科学研究方法和伦理规范出现错误匹配或者不适用,就如同孩子没有启蒙、工具没有限制一般。如论文 《基于面部图像的自动犯罪性概率推断》中用机器学习算法和图像识别技术扫描了 1856 张中国成年男子的身份证照片,让算法来判断这个人是不是罪犯,声称成功率达到了 86%以上,还总结了罪犯面相的特点[30]。这 一研究与意大利著名犯罪学家龙勃罗梭的天生犯罪人论具有同样的问题,其核心就是根据面相来判断罪犯。通过千张图片判断形成的标准,可能是图片的颗粒度,也可能是衣着如衬衫,或者发型等因素的集合,这对于标定罪犯来说,明显是不合理的。对于预防犯罪不仅没有起到积极的作用,如若应用到实践中,反而会引发诸多冤案。作为算法的设计者,人类给出的 “假设”以及给出的数据,可能决定了算法的走向,这对结果输出的重要性是不言而喻的。


最后,人工智能技术发展的现实及落地,造就了 AI 赋能产品和应用的增值。在社会工作方面,其表现出强大的承受力和解决问题的能力,这将使得工作愈发简单化、自动化,这对人类的就业及实现个人价值、社会价值都将会产生巨大的冲击。如我国富士康集团已经就人工智能技术的发展做出了部署,宣布将使用 AI 机器人取代 万名人类工人[31]。伦理规范不仅具有约束社会现实的重要功能,而且对法治建设、道德规范都具有重要的调整作用。如何更好地遵循人类的逻辑、道德和伦理,将其概念和规则嵌入 AI 系统,实现对 AI 产品本身的预设指导、现实指引,也是亟须解决的问题。 


( 三) 法律规制的滞后问题

人工智能技术是类人化而不是真的人类,那么适用于人类的法律是否能正确地适用于人工智能技术以及其产品本身? AI 机器人的法律主体资格、造成的侵权等问题,带来了法制上的空缺和间隙。在这里形成了一个分歧: 一方面是肯定法律对机器人适用的可能性,通过修改、完善现有的法律制度,开辟出适用于人工智能的内容,通过强化法律规制的传统制度改造,同时建立严密的监管防控的政策体系,形成制度性、法治化的AI 治理体系[32]; 另一方面则否认机器人的法律适用性,通过采取必要的预防性行为和因应性制度,避免在利用 AI 进行犯罪治理过程中所产生的负面影响,对人工智能的法律权责从人类身上进行规制


( 四) 技术存在的 “偏向性”问题

人工智能的发展建立在数据获取和算法进化的基础上,然而算法和数据不是绝对客观公平的。人们往往认为算法是一种数学表达,是客观的存在,是绝对公平公正的表现。但算法运作的基础, 即 “数据,却并非是完整、客观和正确的。用非客观的数据训练和验证算法,会形成“偏向性”问 题,导致模型输出错误的结果。比如,2016 年 月,微软公司聊天机器人 Tay 被恶意训练成了集性别歧视、种族歧视等于一身的 “不良少女”[33]。随着算法决策越来越多,类似的偏向性问题也会越来越多,特别是在以深度学习等为代表的“黑箱”算法介入决策过程的情况里,决策的可解释性很低,决策的偏向性根源更难挖掘。算法的扭曲还会给社会其他方面带来危害。如果对偏向性置之不顾,那么应用在犯罪评估、信用贷款、雇佣评估等关切人身利益的场合,一旦产生偏向,必然危害个人权益。一旦算法产生了倾斜,就如同射出去的子弹轨迹一般,将会在结果上产生巨大的偏差,AI 对社会现实的反馈就会带来诸如歧视、偏见等问题,会对犯罪预防和治理产生巨大的误差导向。 


( 五) 面临的技术困境

利用人工智能技术构建犯罪预防系统存在的缺陷和不足:一方面是技术本身存在的漏洞,包括容易遭受数据中毒攻击 ( 引入偏差数据导致错误的学习、计算) 植入对抗性例子 ( 被机器学习系统进行错误分类的输入) ,以及对自动系统目标设计缺陷的利用、留后门不断窃取信息等。这些漏洞与传统的软件漏洞 ( 例如缓冲区溢位) 截然不同,可见AI 系统在许多方面拥有拟人化甚至超越人类的能力,但仍然无法避免技术本身带来的致命弱点。另一方面,现有人工智能技术的效能、赋能的软件应用、装载的硬件设备设施能力还有待发展。目前对于多源异构数据测度的计算理解、协同认知还处于一个浅层维度,技术存在一定局限性; 利用跨媒体感知数据的信息聚合、内容理解和知识获取,在自动发现突发事件的苗头、预测事件发展态势等领域尚无完整方案; 基于物联网、 “雾计算”① 等的分布式智能感知的节点处理能力,还不足以应对犯罪预防的整体需要。面对社会风险数据量和数据复杂度激增的现状,犯罪预防需要针对海量庞杂的社会安全数据,建立处理、分 析、预报、预警和应急响应体系,研究复杂物理空间和网络空间海量非结构化数据的处理、融合、感知、认知理论和技术,在犯罪预防理论创新、复杂社会关系挖掘、跨媒体跨时空态势分析、大尺度社会风险感知等领域亟待实现关键性突破,以构建智能监测预警与控制体系。


四、人工智能技术在犯罪预防中的应用前景分析

人工智能的出现无疑给经济发展和社会生活带来诸多的便利,当人们利用地图软件进行路径选择、接受音乐电台推荐、网络购物等活动时,都会在不知不觉中与人工智能打交道。但无法否认的是,在人工智能技术的应用中也可能衍生新的犯罪,这使得技术本身也可能成为犯罪预防的对象。


现在大多数的 AI 应用,还主要集中于弱人工智能的范畴内,只能按照指定程序对机器进行指挥和下达命令,并不具备人类的意识与行为。这使得 AI 的技能再强大,仍具有很强的局限性,只能成为辅助手段而无法独立地成为一个合格的监管者。但随着科学技术的飞速发展,新一代人工智能水平将会达到新的高度,人工智能技术必将进一步促进其在犯罪预防领域的发展。


目前,AI+犯罪预防模式依赖的基础设施建设已经颇有起色,犯罪热点、视频监控、安检报警、网络预防等技术手段、应用范围相较于以往有了质的飞越。就我国而言,全国 600 个大中城市已建设监控系统 26. 8 万多个 ( 2009 年) ,安装摄像头2000 余万个 ( 2013 年) 以北京为例,按每个摄像头每天约 7. 2GB 的数据量,北京市摄像头 40 余万个 ( 2011 年) ,每天产生的数据量约为 2800TB。由此可见,数据量非常巨大且在日益叠加。如若能对其进行妥善的处理和消化,完全可以相信,会推动现有的 AI+犯罪预防系统的实力产生质的飞跃[20]。因此,今后还要在海量视频数据分析、存储控制及传输等方面下功夫,将 AI 视频分析技术、云计算及云存储技术结合起来,拓展 AI 设施设备的纵向延伸,集成多种传感技术、视频分析和生物特征识别技术的移动化设备与工具,如执法记录仪、移动终端、各式无人机等,建构更加强大的 AI+犯罪预防模式。


与此同时,人工智能迈入了新的发展阶段。一方面,基于网络的群体智能已出现萌芽,从强调专家的个人智能模拟走向群体智能; 从逻辑和单调的设计智能系统走向开放和自主的构造智能环境; 从 “以机器为中心”的智能计算模式走向“群体计算; 从封闭和计划走向开放和竞争。例 如,普林斯顿大学在做脑科学实验时,动用了全球 145 个国家 16 万名科学家参与成像分析,完成了人类历史上对视神经最系统的一次分类[34]。在 成就 “万物相连”的物联网技术支撑下,为大数据信息资源的深度挖掘和有效聚合提供了更多的可能,为群体智能的技术落地提供了技术基础和环境。如将两者技术相结合,并应用于犯罪预防模式中,将显著提高对犯罪态势情报的采集能力,更好地满足对于犯罪的动态预测、事先预防的现实需要。必须依托良性的科技创新生态环境,实现跨时空 地 汇 聚 群 体 智 能,将 “人 力” 聚 合 成“智力,聚焦平台与应用,高效率地重组群体智能,从而能更广泛而精准地释放群体智能在 AI+犯罪预防模式中的能量。另一方面,犯罪预防将不仅局限于对犯罪行为的监控和测评,而是能直接评估个人实施犯罪行为的可能性,结合心理、行为和关系等多种因素为单元,将犯罪数据以动态量化的形式准确地表达出来。人工智能发展到今天,已经拥有了很高程度的技术水平。我们完全有理由相信,未来人工智能带来的科技产品,将会是人类智慧的 “容器”。人工智能对人的意识、思维的信息过程的模拟,未来将产生在某一领域拥有像人一样的智能甚至超过人的智能。而在犯罪预防方面,AI 对抗将成为可能,人工智能技术水平将决定社会公共安全的走向,成为维持社会公共秩序平衡的重要基点。


参考文献及英文摘要略


本文转自:刘钊 林晞楠 李昂霖.人工智能在犯罪预防中的应用及前景分析.中国人民公安大学学报,2018.04

新闻中心