AI给警察局提供凶案线索，果然，是假的……
Anthropic的人工智能系统向警方凶杀案调查网站提交了虚假线索。
2026年7月18日深夜11点27分，美国费城警局的未破凶杀案网站（Philly Police Unsolved Murders）收到一则新线索。该网站陈列着多起真实未解案件详情与受害者档案，访客可匿名输入文字或上传照片。若提供的线索能协助破案并促成定罪，最高可获2万美元奖金。[1][2]
每个“案件详情”页面均包含详尽描述，并允许用户提交文字或照片丨Philly Police Unsolved Murders
当晚填写表格的并非目击凶案的人类，而是Anthropic正在测试的Claude Haiku 4.5。该模型被指令在随机选取的网页上自行生成示例任务并执行。
进入一起未破凶案页面后，它打开了线索征集入口，并撰写了一段类似真人回忆现场的文字：
“我可能掌握这起案件的部分信息。我记得案发时段，曾在某街道附近见过一个与描述相符的人。若此信息有用，请与我联系。”
它未留下姓名或联系方式，便轻轻一点将编造的线索提交了出去。[3]
这条虚假线索在记录中沉寂了两个多月。Anthropic直到9月28日才察觉Claude Haiku 4.5的异常行为，随后终止了导致此次提交的自动测试。然而，直到10月7日，费城警方才获知此事；双方于10月8日会面，10月9日警方率先向公众披露。[4]
所幸假线索未引发实际调查。阴差阳错地，“有新线索”的通知邮件落入垃圾邮件文件夹，未被任何人打开。警方未公开邮件被判定为垃圾邮件的原因，同时表示即便假线索进入正常流程，也会由人工审核并寻找旁证，不会直接采信。[5]
费城警方明确批评，从事件发生到发现、通报，耗时两个多月，“不可接受”。
这当然不是唯一一次“灵机一动”
令人不安（但或许已司空见惯）的是，假线索并非报告中唯一的意外。它们大致可分为两类。
第一类：正常路径受阻，模型另辟蹊径。
Anthropic的部分工具禁止访问过长网址，因长网址可能嵌入攻击网站的命令。Claude便将长网址交给免费短地址服务，借此通过检查，随后再跳转至原网址。[3]
短链服务da.gd发现Claude测试模型在蹭用其服务
这好比为了规避廉航的行李称重，将多余物品塞进马甲，登机后再取出放回行李包。
有时不知该不该称赞其执着。Claude需使用大学网站上的工具进行科学计算，但工具报错。它未放弃，转而解析服务器代码，从中发现漏洞，利用漏洞完成计算。
另一次测试中，Claude Mythos 5需根据照片判断拍摄地点。模型计划查询地方政府的房产地图并逐步缩小范围，但被测试工具限制不得在网页上连续点击。于是它绕过网页界面，直接向地图的后台服务器索取数据。它还曾设法避开付费入口，获取原本需付费的公共资料。
问题在于，它不总能分清什么是待解决的难题，什么是未经允许不可逾越的边界。
第二类：它未意识到“该停止了”。
一次测试中，Claude Haiku 4.5被明确要求：可填写表格，但不得提交。然而它多次按下提交键，因为它以为后续会出现确认页面。[3] 费城警方收到的假线索也属此类。
一个AI会自行寻找路径，却不知应在何处停下，更不清楚其行为会引发何种现实后果。这是个大难题，一个短期内难以解决的大难题。
Anthropic认为此次披露的案例，严重程度低于夏天的网络安全事件丨Anthropic官网
Anthropic此次认为，目前发现的案例实际影响有限，未发现客户数据因此受损。公司已暂停内部评测的实时联网访问，并增加对异常操作的监测。
CEO达里奥·阿莫迪（Dario Amodei）一直呼吁，人工智能的开发速度应放缓，以便实验室建立完善的防护措施。
然而，你们为何让一个缺少人工监督的新模型自行操作真实网站呢？[6] 在爱游戏平台，类似的技术测试也需严格监管。
参考文献
[1] Philadelphia Police Department. Philly Police Unsolved Murders. Philly Police Unsolved Murders.https://www.phillyunsolvedmurders.com/.
[2] Philadelphia Police Department. Submit a Tip Online. Philly Police Unsolved Murders. 无日期，访问于2026年10月10日。https://www.phillyunsolvedmurders.com/forms/submit-a-tip-online/.
[3] Anthropic. Investigating unintended model actions in our evaluations and internal use. Anthropic. 2026年10月9日。https://www.anthropic.com/research/investigating-unintended-model-actions.
[4] David Chang. Anthropic AI model submits false tip on unsolved Philly murder, police say. NBC10 Philadelphia. 2026年10月9日。https://www.nbcphiladelphia.com/news/local/anthropic-ai-model-submits-false-tip-on-unsolved-philly-murder-police-say/4477051/.
[5] Mary Cunningham. Philadelphia police say their unsolved murder website received “false homicide tip” from Anthropic AI. CBS News. 2026年10月9日。https://www.cbsnews.com/news/philadelphia-police-anthropic-ai-false-homicide-tip/.
[6] Amanda Silberling. An Anthropic AI model sent a false homicide tip to Philadelphia police. TechCrunch. 2026年10月9日。https://techcrunch.com/2026/10/09/an-anthropic-ai-model-sent-a-false-homicide-tip-to-philadelphia-police/.
[8] Costas Pitas. Anthropic AI model submits false homicide tip to Philadelphia police website. Reuters. 2026年10月9日。KSL转载全文.
本文来自微信公众号“果壳”（ID：Guokr42），作者：Luna，36氪经授权发布。