自动化与技术创新:并非万能的解决方案
尽管我们应当拥抱而非抵制自动化和技术创新,但它们绝非万无一失的解决方案。基于计算机程序提供的信息逮捕犯罪嫌疑人,这种做法并不可取。英国一个人权组织已对这些做法表示担忧,声称此类系统应被视为"咨询性"而非"必要性"。
算法与人工智能的快速发展
目前,算法和人工智能领域正在经历许多令人兴奋的发展。但并非所有变化都是积极的,这在现阶段是可以预期的。具体而言,当执法机构仅依据计算机程序提供的信息来逮捕和拘留嫌疑人时,我们完全有理由对此持保留态度。特别是当这些程序在缺乏可信证据支持的情况下,就向警方指认某些个体"可能是罪犯"时,这种担忧更是必要的。
全球执法机构的实践与挑战
迄今为止,我们已经看到世界各地的执法机构在逮捕罪犯时,对计算机算法表现出浓厚兴趣。这是一个需要谨慎对待的领域,因为算法并非100%准确。虽然警方尝试新技术值得称赞,但我们必须以批判的眼光看待这些分析。仅凭计算机软件识别潜在嫌疑人显然不是解决问题的答案。如果产生误判,无辜者往往不仅会被逮捕,还可能被长期拘留。
英国人权组织的担忧
在英国,一个人权组织正在与议员们就这项新技术的潜在影响进行辩论。该组织对这些算法的歧视性本质表示严重关切。基于地理位置、性别和过往行为来描绘潜在犯罪者的特征,这种做法并非精确科学。随着此类算法的快速增加,议员们有必要花时间评估其潜在影响。
英格兰达勒姆警方的实践
英格兰达勒姆警方目前正在使用这种算法。该算法帮助警方决定是否应拘留某个嫌疑人。考虑到软件工具不可能总是掌握所有事实,这是一种非常奇特的做法。伤害评估风险工具使用历史数据将嫌疑人分类为低风险、中风险或高风险个体。虽然这种新颖的方法相当有趣,但它未必是正确的方式。
算法的局限性与挑战
目前,达勒姆官员声称该算法主要起到咨询作用。然而,并非所有人都同意这一说法,因为人类可能很难违背算法提供的指导。总会有某种形式的偏见需要应对,这一点无论如何都不应被忽视。无论统计数据如何,总有可能出错,因为用于做出"判决"的信息可能不完整、有偏见或根本就是错误的。
算法的双刃剑特性
这些算法的一个主要卖点是能够以较少资源做更多事情。确实,它们可能成为执法机构的宝贵工具,使警察能够腾出时间从事实际的警务工作。然而,这把双刃剑并非易事。虽然该工具的初步测试结果相当积极,但我们应该始终以正确的视角看待这些结果。