无损迷你极限H3微调提取
0
更新于 2026-10-17MiniMax H3
作者
Stuubzzz
在本站怎么用
这是 TenStrip 的 10Eros_Max 微调的无损 diff-LoRA 提取,适合想要微调而不运行完整 40GB 检查点的用户。此 LoRA 仅包含在 transformer 块 0–31 中的融合 QKV 投影的权重变化,其他张量与基础模型相同。
使用方法
- 使用 LoraLoaderModelOnly 加载(无需自定义节点)。
- 在 fl2va 精简 bf16 上,强度 1.0 等于完整微调。
- 在 ref2va 精简 bf16 上,建议从 0.7–0.8 开始调整,以找到最佳平衡。
强度会持续缩放整个微调,提供更灵活的调整选项。