Heretic(p-e-w/heretic)是一个针对开源 Transformer 语言模型自动执行「方向性消融(directional ablation,aka abliteration)」的工具,目标是降低模型的「拒绝」频率,并自述「移除审查/安全对齐」。它把 Arditi et al. 2024 的 abliteration 研究 + Optuna 的 TPE 参数优化器组合成无监督流程:在「拒绝率」与「相对原模型的 KL 散度」之间做协同最小化,自动得到一个少拒绝、又尽量保留原能力的修改后权重。支持多数 dense 模型与部分 MoE/混合架构(如 Qwen3.5);纯 state-space 等架构暂不支持。AGPL-3.0,约 23,442 stars,主语言 Python,项目页 heretic-project.org,模型镜像在 HuggingFace(heretic-org)。重要前提:这是一个对模型「安全对齐」做修改的工具,存在重大滥用与合规风险,本页对其作中立编目而不提供任何「如何最大化去对齐」的指引。
来源:README.md(介绍、Arditi 2024 链接、模型对照表);GitHub 仓库元数据(stars=23442、language=Python、license=AGPL-3.0、topics abliteration/transformer) 查看 GitHub 仓库 →abliteration 是 2024 年提出、并被社区反复改进的去对齐技术;Heretic 把它做成「装好命令行就能跑」的自动化流水线,并自述比手工 abliteration 同等抑制拒绝率的同时 KL 散度更小(更少损伤原能力),加上模型权重也在 HuggingFace 公开,因而 star 涨得很快。客观必须强调:所谓「移除审查」就是绕过模型的安全训练,做出来的权重在面对原模型会拒绝的提示时更可能配合输出——包括非法、伤害性、隐私侵犯、未成年人不当内容等的请求;上游开源模型大多有许可/AUP 明确禁止此类用途,分发或部署去对齐模型可能违反模型许可与平台 ToS、产生法律与平台合规风险。截至数据采集约 23,442 stars。
来源:README.md(介绍、表格对比、模型链接);GitHub 仓库元数据(stars=23442、pushed_at 2026-06、license=AGPL-3.0)把方向性消融 + Optuna(TPE) 自动搜参合成一个命令行工具,无需手动调参。
来源:README.md(介绍中的 enables Heretic to work completely automatically)同时最小化对「有害」提示的拒绝率与对「无害」提示相对原模型的 KL 散度。
来源:README.md(介绍中的 co-minimize、表格对比)支持多数 dense 与若干 MoE/混合架构;纯 state-space 等架构暂不支持。
来源:README.md(介绍)提供 `heretic --evaluate-model ...` 重现 README 的拒绝率/KL 散度数据。
来源:README.md(表格脚注的 reproduce)技术上,Heretic 基于 directional ablation:在 Transformer 残差流中识别与「拒绝行为」高度相关的方向并对其做投影/抑制,从而降低拒绝;与朴素手工方法不同,Heretic 用 Optuna 的 TPE 优化器把 abliteration 的参数当作搜索空间,目标函数为「拒绝率 + 对无害提示的 KL 散度」的协同最小化,自动搜参;输入为一个 HF 上的目标模型与默认配置,输出为修改后的权重和评测脚本。仓库支持 dense 模型、若干 MoE 与混合架构(如 Qwen3.5),不支持纯 state-space 等架构。本页不再展开具体命令与参数细节。
来源:README.md(介绍中的 abliteration / Optuna / co-minimize / 支持模型)中心为项目本体,内环 = 核心功能模块,外环 = 关键技术依赖;按 deep.json 中的 core_features 与 tech_stack.key_deps 自动生成
HuggingFace TransformersOptuna(TPE 优化)abliteration 相关研究实现(Arditi 2024、Lai …合法且合规的可能用途主要在学术研究:评估模型的 robustness 与 alignment 稳健性、研究 abliteration 与防御技术、做对齐脆弱面的红队评估并把结论反馈给上游。任何把去对齐模型用于生产、对外开放、商用、规模化分发,或用于生成上游模型本可拒绝的有害/违法/隐私侵犯/未成年人不当等内容,都极可能违反模型许可、平台 ToS 与法律,应予避免。
来源:README.md(介绍、研究参考文献)本页未列固定版本号;模型权重产物发布在 HuggingFace(heretic-org),项目页 heretic-project.org。仓库最后更新约在 2026 年 6 月初,迭代活跃。
来源:README.md(HF 镜像、徽章);GitHub pushed_atHeretic 是把 directional ablation(abliteration)+ Optuna TPE 做成自动化的开源工具,能在「拒绝率」和「KL 散度」之间协同优化,得到比手工 abliteration 在能力损伤上更小的去对齐模型,技术与工程都做得扎实。但必须把风险放最前:所谓「移除审查」就是绕过模型的安全训练,做出来的权重对原本会被拒绝的有害/违法/隐私侵犯/未成年人不当等请求更易配合输出;这通常违反上游模型的许可与平台 ToS,分发与商用风险高。本页只作中立编目,不提供操作指引;如确有学术 alignment/robustness 研究需要,请在受控、合规、不公开分发的环境下进行,并尊重上游模型许可与法律。
来源:综合 README.md 的技术定位、对照数据与合规/滥用风险Heretic(p-e-w/heretic)是一个针对开源 Transformer 语言模型自动执行「方向性消融(directional ablation,aka abliteration)」的工具,目标是降低模型的「拒绝」频率,并自述「移除审查/安全对齐」。
heretic 的核心功能包括:自动化 abliteration 流水线、双目标优化、模型覆盖、内置评估。
abliteration 是 2024 年提出、并被社区反复改进的去对齐技术;Heretic 把它做成「装好命令行就能跑」的自动化流水线,并自述比手工 abliteration 同等抑制拒绝率的同时 KL 散度更小(更少损伤原能力),加上模型权重也在 HuggingFace 公开,因而 star 涨得很快。
合法且合规的可能用途主要在学术研究:评估模型的 robustness 与 alignment 稳健性、研究 abliteration 与防御技术、做对齐脆弱面的红队评估并把结论反馈给上游。任何把去对齐模型用于生产、对外开放、商用、规模化分发,或用于生成上游模型本可拒绝的有害/违法/隐私侵犯/未成年人不当等内容,都极可能违反模型许可、平台 ToS 与法律,应予避免。