跳到主要内容

Axolotl

使用 Axolotl 微调大语言模型（LLM）的专业指导 - YAML 配置、100+ 模型支持、LoRA/QLoRA、DPO/KTO/ORPO/GRPO、多模态支持

技能元数据​

来源捆绑包（默认安装）
路径skills/mlops/training/axolotl
版本1.0.0
作者Orchestra Research
许可证MIT
依赖项axolotl, torch, transformers, datasets, peft, accelerate, deepspeed
标签Fine-Tuning, Axolotl, LLM, LoRA, QLoRA, DPO, KTO, ORPO, GRPO, YAML, HuggingFace, DeepSpeed, Multimodal

参考：完整 SKILL.md​

信息

以下是 Hermes 在触发此技能时加载的完整技能定义。这是技能激活时代理所看到的指令。

Axolotl 技能

提供全面的 Axolotl 开发协助，内容基于官方文档生成。

何时使用此技能​

在以下情况下应触发此技能：

  • 使用 Axolotl 时
  • 询问 Axolotl 功能或 API 时
  • 实现 Axolotl 解决方案时
  • 调试 Axolotl 代码时
  • 学习 Axolotl 最佳实践时

快速参考​

常见模式​

模式 1： 为了验证训练任务是否存在可接受的数据传输速度，运行 NCCL 测试有助于定位瓶颈，例如：

./build/all_reduce_perf -b 8 -e 128M -f 2 -g 3

模式 2： 在 Axolotl YAML 配置中将模型配置为使用 FSDP。例如：

fsdp_version: 2
fsdp_config:
  offload_params: true
  state_dict_type: FULL_STATE_DICT
  auto_wrap_policy: TRANSFORMER_BASED_WRAP
  transformer_layer_cls_to_wrap: LlamaDecoderLayer
  reshard_after_forward: true

模式 3： context_parallel_size 应为 GPU 总数的约数。例如：

context_parallel_size

模式 4： 例如：- 使用 8 个 GPU 且无序列并行时：每步处理 8 个不同的批次 - 使用 8 个 GPU 且 context_parallel_size=4 时：每步仅处理 2 个不同的批次（每个批次拆分到 4 个 GPU 上）- 如果每个 GPU 的 micro_batch_size 为 2，则全局批次大小从 16 减少到 4

context_parallel_size=4

模式 5： 在配置中设置 save_compressed: true 可启用以压缩格式保存模型，这将：- 减少约 40% 的磁盘空间占用 - 保持与 vLLM 的兼容性以实现加速推理 - 保持与 llmcompressor 的兼容性以进行进一步优化（例如：量化）

save_compressed: true

模式 6： 注意 无需将集成放置在 integrations 文件夹中。它可以位于任何位置，只要它已安装在 Python 环境的包中即可。参见此仓库获取示例：https://github.com/axolotl-ai-cloud/diff-transformer

integrations

模式 7： 处理单样本数据和批量数据。- 单样本：sample['input_ids'] 是一个 list[int] - 批量数据：sample['input_ids'] 是一个 list[list[int]]

utils.trainer.drop_long_seq(sample, sequence_len=2048, min_sequence_len=2)

示例代码模式​

示例 1 (python):

cli.cloud.modal_.ModalCloud(config, app=None)

示例 2 (python):

cli.cloud.modal_.run_cmd(cmd, run_folder, volumes=None)

示例 3 (python):

core.trainers.base.AxolotlTrainer(
    *_args,
    bench_data_collator=None,
    eval_data_collator=None,
    dataset_tags=None,
    **kwargs,
)

示例 4 (python):

core.trainers.base.AxolotlTrainer.log(logs, start_time=None)

示例 5 (python):

prompt_strategies.input_output.RawInputOutputPrompter()

参考文件​

此技能在 references/ 中包含综合文档：

  • api.md - API 文档
  • dataset-formats.md - 数据集格式文档
  • other.md - 其他文档

需要详细信息时，使用 view 命令读取特定的参考文件。

使用此技能​

针对初学者​

从 getting_started 或 tutorials 参考文件开始，了解基础概念。

针对特定功能​

使用相应的类别参考文件（api、guides 等）获取详细信息。

针对代码示例​

上述快速参考部分包含从官方文档中提取的常见模式。

资源​

references/​

从官方来源提取的组织化文档。这些文件包含：

  • 详细解释
  • 带有语言标注的代码示例
  • 指向原始文档的链接
  • 用于快速导航的目录

scripts/​

在此处添加用于常见自动化任务的辅助脚本。

assets/​

在此处添加模板、样板代码或示例项目。

注意事项​

  • 此技能是从官方文档自动生成的
  • 参考文件保留了源文档的结构和示例
  • 代码示例包含语言检测以实现更好的语法高亮显示
  • 快速参考模式是从文档中的常见用法示例中提取的

更新​

要使用更新的文档刷新此技能：

  1. 使用相同的配置重新运行抓取程序
  2. 技能将使用最新信息重建