英国内政部将取消一项有争议的决策算法,移民权利运动人士认为,这种算法创造了针对申请英国签证人士的敌意环境。
这种被活动家们描述为种族主义者的算法,自2015月年以来一直被用于英国签证的审批。据《卫报》看到的一封来自内政部律师的信,内政部从8月7日星期五起,将其束之高阁。
做出该项决定的背景是,移民福利联合委员会(JCWI)要搞司法审查,挑战内政部用人工智能系统筛选英国签证申请的做法。
活动家们声称,内政部决定在司法审查之前禁用该算法,是英国挑战AI决策系统的首次成功。
JCWI的法律政策总监Chai Patel说:““这种计算工具收录了数十年积累下来的种族主义做法,例如针对特定国籍的移民进行突袭检查之类的。移民系统需要彻底重建,要能敏锐察觉这种偏见,并根除这种偏见。”
JWCI和技术正义运动组织Foxglove在提交高等法院的陈述中称,该算法包括三种通道,其中之一是快速通道,为来自白人国家的移民专门设置的。
内政部的律师在信件中确认,内政大臣帕特尔(Priti Patel)“已决定,在评估签证申请中,停止使用这种数据流工具。”
这封信继续谈到了数据流签证系统的重新设计,律师写道:“在重新设计过程中,我们的客户打算仔细考虑和评估你们提出的要点,包括不自觉的偏见,和在数据流工具中广泛使用国籍的做法。” 但内政部的律师补充说:“为清楚起见,重新设计的事实,并不意味着内政大臣接受你们的指控。”
Foxglove的创始人兼董事Cori Crider说:“我们需要的是民主,而不是使用秘密算法的政府。在进一步推出任何系统之前,让我们来问问公众,在审批方面搞自动化到底合适不合适,而且要让系统透明,这样可以随时纠偏,把问题的根本找出来。”
内政部的发言人说:“我们一直在审查签证申请中的数据流工具的运作,并将重新设计我们的流程,使其更加简化和安全。我们不接受移民福利联合委员会在司法审查中提出的指控。当然诉讼仍在进行中,内政部不宜再发表评论。”
本文由看新闻网原创、编译或首发,并保留版权。转载必须保持文本完整,声明文章出自看新闻网并包含原文标题及链接。