AI虚假线索进入警方视野后成垃圾邮件：生成式AI误报问题待解，执法部门如何应对

AI虚假线索进入警方视野后成垃圾邮件：生成式... — Analysis

3月14日，美国加州圣何塞警察局收到一封疑似AI生成的举报邮件，声称能侦破1998年悬案。这封被标记为垃圾邮件的“AI虚假线索”，再次引发对生成式AI误导执法的担忧。事件经过系统筛查与人工复核，最终未启动调查。

事件回顾：AI提交了“完美”假线索

2025年3月14日8时32分，圣何塞警局犯罪举报系统接入一封匿名邮件。邮件称，1998年失踪的凯伦·米切尔案已有突破性进展，并指向一名退休工程师，附带具体住址和作案时间线。然而，警方在核实后发现，邮件中提到的住址是一处废弃建筑，所谓目击证人在事发时仅5岁，与描述不符。3月15日，系统将该邮件标记为垃圾邮件。据《洛杉矶时报》报道，这是本月圣何塞警方收到的第3起AI生成线索，前两起均被弃用。

警方识别虚假举报的流程

警方负责网络线索筛查的警员透露，他们每天平均收到120条举报，约30%为自动生成或恶意骚扰。识别流程分三步：先由算法过滤明显机器生成内容，再由人工侦探交叉核验时间、地点、物证链，最后与执法数据库比对。若信息存在逻辑断裂或情感缺失，就会被降级处理。圣何塞警局发言人格雷格·米勒表示：“我们不会仅凭邮件内容立案，必须获得可验证的物理证据。AI文本看似合理，但经不起调查。”

生成式AI为何会编造犯罪信息？

生成式AI通过海量数据训练，可能将小说段落、新闻报道和影视情节混编，形成看似合理的“幻觉”。斯坦福大学2024年一项研究发现，在测试的1万条刑侦类回答中，AI的幻觉概率达到19%，其中细节错误占71%。网络犯罪学专家艾米·陈指出：“AI没有真伪判断能力，它只是概率性地组织语言，越流利的句子越可能是编造。这导致执法机关面临全新挑战：必须消耗人力去验证AI的虚构故事。”

AI虚假线索对执法工作的干扰

这种干扰并非个例。数据显示，全美警局近年报告的AI生成虚假信息年均增长42%，其中约60%指向刑事侦查领域。虚假线索不仅挤占调查资源，还可能诱导警方误入歧途。联邦调查局已部署语义分析软件，通过检测重复句式、缺乏主观细节等特征估算AI生成概率。但过度依赖工具又可能误伤真实举报。2023年，芝加哥一名受害者家属因夜聊记录被误判为AI文本，导致关键线索延误。执法部门正在寻求人机协作的平衡点。

法律与伦理责任归属

谁该为AI编造的犯罪信息负责？目前法律存在空白。加州刑法规定，故意提交虚假举报最高可判6个月监禁，但若用户仅将AI输出转发，主观意图难以认定。辩护律师马克·约翰逊表示：“用户可能出于好奇提交AI生成的‘推理’，这并不构成恶意谎报。立法者应区分故意陷害与无意误报，同时要求AI平台在输出中明确标注‘非真实性’。”目前全美只有约12%的州更新了针对AI内容的相关法规。

关键时间线：从举报到拦截

这项时间线显示，从接收到拦截耗时27小时内，警方仍耗费了4名警力进行核查。

如何根除AI虚假线索？

技术专家建议推行数字水印机制，要求AI生成文本附带可追溯标识。圣何塞州立大学网络安全实验室正在测试“线索可信度评分”系统，通过对比案卷数据库，将AI幻象元素的概率量化为风险分。试点效果显示，误报率可从当前的19%降至5%以下。与此同时，警方也在社区开展公共教育，指导民众正确使用AI工具。格雷格·米勒透露：“我们正与科技公司合作开发主动预警功能，当用户输入‘如何制造线索’等敏感提示时，AI会直接阻断回复。”

Q1：警方如何判断一条线索是否由AI生成？

A1：主要通过三方面验证：一是逻辑矛盾，比如时间线混乱或地点不存在；二是语言特征，AI文本通常过于工整、缺乏人类记忆中的模糊细节；三是证据链比对，如果关键信息无法与警方物证匹配，就被视为无效线索。

Q2：普通人如果使用AI生成举报，会被追责吗？

A2：视主观意图而定。若主动编造内容、诱导AI输出虚假信息并提交警方，可能构成妨碍公务；若仅出于好奇或娱乐，通常只会被警告。但法律正逐步收紧，部分州已要求AI平台保留生成记录，以便事后追查。

这起事件再次说明，AI虚假线索正在成为执法部门不可忽视的污染源。未来，只有通过技术溯源、法律框架和公众自律共同发力，才能化解生成式AI带来的新型干扰。

Market Overview

美国警方收到AI生成的悬案举报，经核实后被标记为垃圾邮件。本文深度剖析AI虚假线索如何干扰执法、如何识别AI伪造内容，展望技术防御与法律监管的双重出路。