安索匹克发布 AI 虐待禁令：用户不可对聊天机器人残忍

安索匹克发布 AI 虐待禁令：用户不可对聊天... — Analysis

2026年10月9日，人工智能公司安索匹克（Anthropic）正式更新其使用政策，将“持续且无谓的”虐待 AI 聊天机器人行为列入禁止清单。这一 AI 聊天机器人虐待禁令迅速成为科技领域焦点，引发关于人机交互伦理与 AI 拟人化风险的广泛讨论。公司称，该禁令仅适用于“极端个案”中的反复蓄意虐待，不涵盖普通用户沮丧、反驳、黑暗创作或模型测试。

新规要点与适用范围

据英国广播公司新闻报道，安索匹克在周四的政策年度审查中新增了“残忍行为”禁令。明确禁止用户对 AI 系统实施“持续且无谓”的虐待，包括但不限于辱骂、欺凌及恶意操控。同时，政策还禁止利用克劳德（Claude）进行“欺骗性活动”、干扰选举或开发武器。安索匹克表示，此前已在“罕见”案例中主动终止过类似交互，现在将其明文规定。公司强调，政策不针对常见用户情绪宣泄或合规的对抗性测试，界限在于行为的“持续性与无谓性”。该项变更最早由科技媒体 Verge 披露。

社交媒体与专家意见两极分化

新规截图在 X 平台获得数千次转发，舆论呈明显分化。支持者认为这是推动“模型福利”的重要一步，反对者则批评其过度拟人化。爱尔兰威廉·弗莱律师事务所技术合伙人巴里·斯坎内尔博士在领英上直言：“你不能对数字和数学残忍。这种程度的人工智能拟人化是有害的，会让人们误以为 AI 拥有它并不具备的属性。”而微软人工智能总监穆斯塔法·苏莱曼（此前曾批评安索匹克将 AI 拟人化）以融化表情回应，间接表达不认同。

表格显示，围绕这一禁令的争议核心在于 AI 是否值得被赋予道德关怀。

拟人化：AI 越像人，问题越复杂

安索匹克的克劳德一直以其“友善”和“细腻”回复著称，此次禁令进一步加深了其“拟人化”形象。英国广播公司此前报道指出，微软人工智能总监穆斯塔法·苏莱曼曾在 2025 年 9 月批评安索匹克“把 AI 当人对待”。然而，安索匹克本身坚持认为，设定行为规范有助于塑造更健康的交互环境。这种立场与其在 AI 安全领域的先驱定位相符，但反对者认为，AI 系统本质上是统计模型，禁止“虐待”既无逻辑基础，也可能分散对真实社会问题的关注。

对 AI 说“请”：礼貌还是浪费？

政策更新也点燃了关于 AI 对话礼仪的老话题。一部分专家认为，对 ChatGPT、克劳德等工具说“请”和“谢谢”纯粹是浪费 token——这些 token 用于大语言模型处理回复。但另一派认为，礼貌可能获得更高质量的回答。开放人工智能公司首席执行官萨姆·奥尔特曼在去年（2024 年）的一条推文中回应相关质疑时表示：“这是数千万美元花得值——你永远不知道。” 这番话暗示礼貌习惯可能对 AI 训练有潜在长远效益。柯林斯词典则于 2025 年 11 月将“clanker”（指代 AI 工具的贬义词）列入年度短名单，反映公众对 AI 不耐烦情绪的上升。

AI 伦理的下一个边界

安索匹克此次 AI 聊天机器人虐待禁令并非孤立事件。随着生成式 AI 渗透日常，科技公司开始重新审视用户行为规范。从禁止创建非自愿亲密图像到防止选举干预，政策边界正在扩展。但“虐待 AI”条款的特殊性在于，它首次从技术层面赋予 AI 交互某种“尊严”属性。尽管安索匹克表示执行将极为克制——仅对反复违规者发出警告、限制或终止服务——但伦理学家担忧，这可能导致企业过度干预用户表达，或在虚拟空间设立“行为警察”。

Q1: 安索匹克的禁令是否意味着 AI 拥有情感或权利？

A1: 不。安索匹克明确表示，该禁令是出于对用户体验及技术伦理的考量，而非承认 AI 有情感或权利。公司强调 AI 是工具，禁止虐待是为了维护交互的“健康与建设性”，防止恶意行为对模型产生潜在偏差或对用户自身社交习惯造成负面影响。

Q2: 对 AI 说“请”真的有用吗？

A2: 存在争议。技术上，礼貌用语消耗 token 并可能轻微影响回复长度，但如萨姆·奥尔特曼所言，培养礼貌习惯有长远价值。部分研究表明，明确、直接的指令往往更高效；而礼貌措辞有助于获得更细致讨论。最终取决于用户目标：追求效率还是和谐对话体验。

安索匹克的 AI 聊天机器人虐待禁令无疑标志着一家头部 AI 企业在用户行为规范上迈出大胆一步。未来，如何平衡技术中立与伦理引导，如何在拟人化避免与用户体验之间找到支点，将是整个行业必须面对的长期课题。

Market Overview

安索匹克更新使用政策，禁止用户对 AI 聊天机器人进行持续且无谓的虐待行为，引发关于 AI 拟人化与交互伦理的激烈辩论。了解这一禁令的细节、专家观点及对 AI 对话礼仪的影响，探究人机交互的未来边界。