Anthropic新规禁止持续虐待AI模型,人机交互边界引合规关注
海外AI圈近日出现一条值得关注的新规。10月8日,Anthropic发布2026年度使用政策更新,将“持续虐待Claude”明确列为违规行为,国内媒体转述中出现“骂AI也犯法”的说法。肖飒法律团队结合官方公告与法律文本,对新规真实含义及法律问题予以厘清。
一、新规说了什么
Anthropic公告新增禁止性规定,禁止用户对模型实施“持续且无正当理由的虐待或残酷行为”(sustained and needless abusive or cruel behavior toward our models),仅针对极端情形,即反复残酷行为且无辨识目的;普通情绪发泄、异议、暗黑题材创作及模型测试研究均不适用。执行上,自2025年8月起Claude已允许在极少数情况主动结束对话,覆盖Claude.ai和Claude Code,政策于11月12日生效。
其他调整包括:新增“不得从事欺骗性活动或人为操纵活动”专节;武器条款纳入制导控制软件与自主载具武装化;监控条款细化未经同意追踪禁止;高风险场景重申“合格人员在环”等。
二、AI没有“权利”,但平台可以立规矩
新规与“AI是否享有权利”无关,现行法律未赋予AI主体资格,违反的是平台单方使用政策(合同条款),属违约而非违法。学界如Kate Darling曾主张类比反虐待动物法提供有限保护,Anthropic以合同手段约束用户习惯,落点在行为方式。
同一时期,Character.AI因拟人化交互致未成年人自杀遭诉讼并于2026年1月原则上和解,显示平台在拟人化交互两头(用户受害与用户对AI施虐)同时行动,情感互动已成需管理风险。
三、对国内客户意味着什么
国内2026年4月五部门公布《人工智能拟人化互动服务管理暂行办法》,禁止向未成年人提供虚拟亲密关系等,要求未成年人模式等,比海外政策更具体。建议企业API客户审视交互内容防账号措施;陪伴产品平台将防沉迷等作基础功能并谨慎“有生命”等话术;个人偶发发泄不受影响。
写在最后
AI法律上仍不能被“伤害”,但人机交互方式正被规范化,合同、诉讼、立法三方收敛于边界清晰点。出海企业或国内平台提前调整产品文本为成本最低选择。
