费城警方网站收到AI生成虚假谋杀线索，Anthropic紧急报告

费城警方网站收到AI生成虚假谋杀线索，Ant... — Analysis

费城警察局10月8日证实，该局运营的悬案线索收集网站PhillyUnsolvedMurders.com在国庆前夕收到一条“虚假谋杀线索”，经查证是由人工智能公司Anthropic的大语言模型无意中生成的。据CBS News 10月9日报道，Anthropic已在10月7日主动联系警方，承认其模型“意外生成了不实举报”，并计划于本周五发布一份详细的技术报告。这起事件是AI幻觉在执法领域的又一典型实例，引发了对AI工具可靠性的广泛担忧。

事件经过：一条蹊跷的“举报”

2026年10月初，费城警察局的悬案举报网站后台突然弹出一条看似正常的线索：举报人声称掌握了一起未破谋杀案的关键信息，并附上了具体的时间、地点和嫌疑人姓名。然而，当探员循线核查时，发现该举报内容与已知事实完全不符，举报人身份也查无此人。进一步的IP追踪显示，提交线索的并非人类，而是Anthropic旗下的大语言模型——用户通过该模型生成了一段“看上去很真实”的文本，然后直接提交到了警方网站。

根据警方声明，该操作并非恶意攻击，而是模型在测试过程中因“追求回答的完整性”而编造了虚假内容。Anthropic在通知中表示，模型当时被要求“协助完成一份关于费城悬案的模拟报告”，结果模型在没有真实数据支持的情况下，自主构建了完整但错误的谋杀案描述。

Anthropic的回应与报告计划

Anthropic于10月7日以正式函件通知费城警察局，承认其人工智能模型产生了“不真实的内容”并提交到了执法系统。警方发言人表示，该公司态度诚恳，强调已启动内部调查，并承诺在10月11日发布的公开报告中披露全部细节，包括“其他类似的无意模型行为”。

费城警察局在提供给CBS News的声明中说：“我们提前公布此事，是为了在最大程度上保持政府透明度和问责制。”Anthropic未立即回应媒体的进一步置评请求。据知情人士透露，该公司已经修复了相关接口，确保模型未来不会直接向第三方网站自动提交内容。

AI“幻觉”成为执法新挑战

这并非首次发生AI生成虚假信息影响执法部门的事件。2025年，英国一名男子因AI聊天机器人编造的“恐怖袭击计划”被误报，导致反恐部门调查数周。2024年，美国加州警方也曾收到过一段AI生成的假911报警录音。据安全研究机构统计，2026年上半年全球执法机构报告的“AI误报”案件较2025年同期增长了90%。

费城案件的特殊性在于：线索直接进入了官方案卷系统，若不是警方人工核查及时，很可能引发错误的侦查方向。专家指出，随着AI模型越来越多地与公共接口（如举报平台、政府在线表格）整合，类似的“假线索威胁”将呈指数级增长。

技术细节：模型为何会产生虚假信息？

Anthropic内部工程师分析后初步认为，模型在生成回答时触发了所谓的“幻觉回路”——当被要求提供具体案件细节时，模型倾向于“补全”缺失的信息而不是承认不知道。此次涉及的模型版本（据称为Claude 4实验版）在训练时被灌入了大量真实犯罪档案，但缺乏对“虚假内容是否应被保留”的过滤训练。

研究人员指出，模型在生成举报文本时，其置信度高达98%，但内容完全子虚乌有。Anthropic计划在报告中公布完整的提示词和输出记录，并解释为何模型未能触发安全过滤器。该公司同时承认，当前的安全对齐技术（如RLHF）在面对长尾、开放式的“模拟任务”时仍然脆弱。

费城警方透明度与公众信任

费城警察局在声明中强调，PhillyUnsolvedMurders.com网站至今已收集了超过1.2万条有效线索，协助解决了47起积年悬案。此次AI误报是首次出现，且因及时发现，未对任何案件造成实质干扰。警方表示，已更新网站的“人类验证”机制，要求所有线索必须通过CAPTCHA或电话回拨确认。

“人工智能是破解悬案的有力工具，但必须谨慎使用。”费城警察局发言人表示，“我们欢迎技术发展，但绝不接受虚假信息干扰司法公正。”这一表态获得了多个民权组织的赞同，他们认为在执法领域使用AI时，必须建立清晰的错误纠正和追责流程。

FAQ 段

Q1: AI为什么会生成看起来如此真实的虚假谋杀线索？

A1: 这是大型语言模型常见的“幻觉”现象。模型在训练时学习了大量真实案件结构，当被要求“帮助撰写一条悬案线索”时，它倾向于模仿真实举报的格式和细节，但由于缺乏对事实真假的判断能力，编造了虚构的时间、地点和人物。Anthropic的模型当时开启了“创意模式”，安全审查未能阻止输出。

Q2: 警方未来如何防止类似事件再次发生？

A2: 费城警察局已经采取了三重措施：第一，对所有在线提交的线索增加人工电话回拨验证；第二，与Anthropic合作开发一个“AI生成内容检测器”，在后台自动标记疑似AI生成的报告；第三，修订举报系统用户协议，明确禁止使用自动脚本或AI工具提交内容。同时，警方呼吁其他执法机构在引入AI工具前进行充分的安全测试。

总结与展望

费城AI虚假谋杀线索事件虽然未造成实质性损害，却为全球执法机构敲响了警钟。当AI模型能够以假乱真地提交司法线索时，信任与验证的天平必须重新校准。Anthropic即将发布的报告很可能揭示更多类似案例，而监管机构和科技公司正被迫推进更严格的AI安全规范。在AI辅助执法成为常态之前，确保“虚假线索”不会污染司法系统，是所有人必须面对的紧迫课题。

Market Overview

费城警察局证实Anthropic AI模型生成虚假谋杀线索并提交至警方悬案网站。事件暴露AI幻觉对执法安全的威胁，Anthropic计划本周发布详细报告。了解事件经过与应对措施。