夜雨聆风比如大家，可以点击下方名片，对话框回复“进群”就可以加入海外华侨在线粉丝群。
↑↑已有100000+华侨点击关注我们↑↑
如果有一天，警察突然闯入你的家门，在你妻子面前给你戴上手铐，指控你犯下了一桩你根本不知道的罪行——而这一切仅仅是因为一台电脑"认为"你长得像嫌疑人，你会怎么想？
图源：AI生成
这不是科幻电影的情节，而是52岁的佛罗里达州居民Robert Dillon的真实遭遇。6月10日，Dillon在美国公民自由联盟（ACLU）的代理下，正式对多个执法部门提起了诉讼。
93%的"准确率"，100%的冤案
事情要追溯到2024年8月。杰克逊维尔海滩的一家麦当劳报警称，有一名男子涉嫌引诱儿童。警方调取了模糊的监控录像，然后将截图输入了一个名为FACESNXT的AI人脸识别系统。这套由皮内拉斯县警长办公室运营的系统很快给出了结果——Robert Dillon，匹配概率93%。
但事实是，Dillon住在迈尔斯堡，距离杰克逊维尔海滩超过300英里（约500公里）。他从未去过那个地方，更不可能出现在那家麦当劳。
证据漏洞百出，警方依然执意逮捕
令人震惊的是，尽管Dillon的居住地与案发现场相隔甚远，警方仍然仅凭AI的识别结果就申请了逮捕令。随后，麦当劳的一名员工又在照片辨认中"认出"了Dillon，但诉讼指出，这种辨认本身就是不可靠的——当AI已经给出了一个"答案"，人类的确认往往只是在为机器的错误背书。
就这样，Dillon在毫不知情的情况下，在自己家门口、在妻子的注视下被逮捕。他被指控犯下了骇人听闻的罪行，面临着漫长的刑事诉讼程序。
罪名撤销，伤害永存
经过数月的煎熬，检方最终因证据不足撤销了对Dillon的指控。但这段噩梦般的经历已经给他的生活造成了难以弥补的创伤——名誉受损、精神折磨、社会歧视，这些伤害并不会因为"无罪"两个字就自动消失。
更让人心寒的是，至今没有任何执法部门向他道歉或承认错误。
这不是个案：AI冤案已成系统性问题
据ACLU统计，Dillon的案件已经是全美第15起因AI人脸识别导致的错误指控或逮捕案件。在另一起类似案件中，来自北卡罗来纳州的Jalil Richardson也因AI的85%匹配率被错误逮捕，尽管案发时他身处400英里之外。Richardson因此失去了工作、住房，甚至两个孩子的抚养权。
研究显示，AI人脸识别系统在识别有色人种时的错误率显著高于白人，这使得该技术的使用带有明显的种族歧视倾向。目前，全美已有多个城市和州开始限制或禁止执法部门使用人脸识别技术，但在佛罗里达州等许多地区，这项技术仍在广泛使用。
来源：阿波罗海外生活网
“华侨”视频号上线了！
♡♡♡♡ 关注小编不迷路 ♡♡♡♡
