资讯|

AI 人脸识别把一个奶奶送进了监狱,关了快半年才发现搞错了

AI 人脸识别把一个从没去过北达科他州的奶奶送进了监狱,关了快半年才发现搞错人了。问题不只是 AI 不靠谱,而是整个系统没有纠错机制。

想象一下这个场景:你在家带孙子,突然一队全副武装的法警破门而入,把你铐走了。

罪名?1200 英里之外的银行诈骗。

证据?AI 人脸识别说你就是嫌疑人。

这不是科幻电影,这是 Angela Lipps 的真实遭遇。

一张脸,毁了半年人生

Angela Lipps,50 岁,田纳西州的普通奶奶,三个孩子的妈,五个孙子的奶奶。她这辈子没坐过飞机,最远就去过隔壁几个州。

2025 年,北达科他州法戈市的警察在调查一起银行诈骗案。监控里有个女人用假军人证取了好几万美元。警察用了 AI 人脸识别软件,系统吐出一个名字:Angela Lipps。

侦探看了看她的社交媒体和驾照照片,觉得「面部特征、体型、发型都对得上」。

然后呢?没有打电话核实,没有调查她的行踪,直接发了逮捕令。

108 天,没人来问一句话

2025 年 7 月 14 日,Lipps 在家带四个小孩的时候被逮捕。作为「逃犯」,她被关在田纳西的监狱里,不允许保释。

她在那间牢房里坐了 108 天,没有一个北达科他州的警察来问过她一句话。

直到 10 月 30 日,她才被转到北达科他州。第二天第一次出庭。

她的律师 Jay Greenwood 做了一件警察从头到尾都没做的事——调了她的银行记录。

结果一目了然:案发的时候,Lipps 在 1200 英里外的田纳西,正在存社保支票、在加油站买烟、点外卖。

圣诞前夜放人,然后呢?

12 月 19 日,警察终于第一次面对面采访了她——此时她已经被关了五个多月。

圣诞前夜,案件撤销,她被释放了。

但她被扔在了零下的法戈市,身上穿着夏天的衣服,没有外套,没有钱,不知道怎么回家。

最后是当地的律师凑钱给她开了酒店房间,一个叫 F5 Project 的公益组织把她送到了芝加哥,她才辗转回到田纳西。

法戈警方?一分钱没出。

问题出在哪?

这个案子暴露的不只是 AI 的问题,而是整个流程的崩坏:

AI 人脸识别本身就不靠谱。 大量研究表明,这类系统对有色人种、女性、老年人的误识率显著更高。它给出的是「可能匹配」,不是「就是这个人」。

但警察把它当成了铁证。 侦探拿到 AI 的结果后,只是看了看社交媒体照片就确认了。没有交叉验证,没有调查不在场证明,甚至没有打一个电话。

系统没有纠错机制。 一个人被关了 108 天,没有人觉得应该核实一下。从逮捕到第一次采访,中间隔了五个月。

这不是个例

类似的案子在美国已经发生过好几起了。底特律的 Robert Williams、新泽西的 Nijeer Parks,都是因为 AI 人脸识别被错误逮捕的黑人男性。

但 Lipps 的案子特别让人不安的地方在于:即使在 AI 给出结果之后,有大量的机会可以发现错误——只要有人愿意打一个电话,查一下银行记录。

没有人做。

技术不背锅,但人得负责

AI 人脸识别作为一个线索工具,本身没有原罪。问题是当执法机构把它当成唯一证据,跳过所有基本的调查步骤,一个无辜的人就会在监狱里度过半年。

现在越来越多的城市开始限制甚至禁止执法部门使用人脸识别。旧金山、波士顿、明尼阿波利斯都已经立法了。

但在大多数地方,这项技术仍然在被使用,而且几乎没有监管。

下一个 Angela Lipps 可能是谁?没人知道。但如果我们继续让 AI 的输出直接变成逮捕令,这个问题的答案只会越来越多。

准备好了吗?

免费注册,立即体验全部功能