InstructGLM 微调教程:基于Alpaca 52k英文指令数据的LoRA微调全流程【免费下载链接】InstructGLMChatGLM-6B 指令学习|指令数据|Instruct项目地址: https://gitcode.com/gh_mirrors/ins/InstructGLMInstructGLM 微调教程来了这是一篇面向新手的完整指南手把手带你使用开源的 InstructGLM 项目基于斯坦福 Alpaca 52k 英文指令数据对 ChatGLM-6B 大模型进行 LoRA 微调。InstructGLM 是一个 ChatGLM-6B 指令学习Instruction Tuning开源项目通过低秩适配LoRA技术把原本需要多卡集群才能完成的大模型微调压缩到单卡也能轻松运行的规模。本教程将带你走完「数据预处理 → Tokenize → 模型训练 → 推理验证」的完整 LoRA 微调全流程帮你快速上手。本文所有脚本均来自 InstructGLM 项目克隆仓库后即可直接使用git clone https://gitcode.com/gh_mirrors/ins/InstructGLM什么是 InstructGLMChatGLM-6B 指令微调入门InstructGLM 是一个基于 ChatGLM-6B LoRA 的指令微调开源项目。指令微调的核心目标是让大模型学会「听懂指令、按格式作答」而 InstructGLM 借助斯坦福 Alpaca 52k 英文指令数据、BELLE 中文指令数据等开源数据集让 ChatGLM-6B 具备更强的指令遵循能力。LoRALow-Rank Adaptation低秩适配是一种参数高效的微调方法冻结原始模型参数只训练少量低秩矩阵。它的优势非常明显——显存占用小、训练速度快训练完成后只需保存一个小体积的权重文件例如本项目产出的 output/alpaca/chatglm-lora.pt。为什么选择 Alpaca 52k 英文指令数据进行微调Alpaca 52k 数据集是斯坦福大学发布的英文指令数据集包含 52,000 条由 text-davinci-003 生成的独特指令每条数据由三个字段组成字段含义示例instruction指令Evaluate this sentence for spelling and grammar mistakesinput可选输入He finnished his meal and left the resturantoutput标准答案He finished his meal and left the restaurant.这套数据覆盖面极广包含写作、推理、分类、翻译等多种任务类型非常适合用来验证 ChatGLM-6B 的 LoRA 微调效果也是初学者入门的首选指令数据集。InstructGLM 微调环境准备软硬件配置方法官方实验环境为 2 张 A100 80G 显卡但对普通玩家来说LoRA 8bit 量化加载load_in_8bitTrue可以大幅降低显存门槛。环境准备只需两步安装依赖执行pip install -r requirements.txt依赖清单见 requirements.txt建议使用清华镜像源加速准备模型权重下载 ChatGLM-6B 官方权重并按项目要求放置到指定目录。第一步Alpaca 数据预处理方法json 转 jsonl原始 Alpaca 数据是 JSON 格式需要先转换为统一的 jsonl 训练格式Instruction: xxx / Input: xxx / Answer: xxx这一步由 cover_alpaca2jsonl.py 完成python cover_alpaca2jsonl.py \ --data_path data/alpaca_data.json \ --save_path data/alpaca_data.jsonl第二步指令数据 Tokenize 加速训练技巧如果直接训练原始文本训练过程中会反复调用分词器非常耗时。InstructGLM 提供了 tokenize_dataset_rows.py将全部文本一次性切分为 token 并缓存为磁盘数据集训练速度大幅提升。序列长度可根据显存自行调整python tokenize_dataset_rows.py \ --jsonl_path data/alpaca_data.jsonl \ --save_path data/alpaca \ --max_seq_length 320第三步启动 LoRA 微调训练核心参数详解核心训练脚本是 train_lora.py基于 Hugging Face Trainer PEFTLoRA框架实现关键配置如下参数推荐值作用说明lora_rank8LoRA 低秩矩阵维度越大拟合能力越强per_device_train_batch_size2单卡批大小显存紧张时调低learning_rate2e-5学习率max_steps52000最大训练步数fp16true半精度训练节省显存output_diroutput权重保存目录启动训练python train_lora.py \ --dataset_path data/alpaca \ --lora_rank 8 \ --per_device_train_batch_size 2 \ --max_steps 52000 \ --learning_rate 2e-5 \ --fp16 \ --output_dir output训练完成后LoRA 权重会保存为chatglm-lora.pt。下图是基于 Alpaca 52k 微调后的 InstructGLM 对话效果可以看到模型已经学会了结构清晰、条理分明的指令式回答第四步验证微调效果与推理部署方法训练结束后使用 infer.py 加载 LoRA 权重即可快速验证效果也可以直接运行 web_demo.py 启动基于 Gradio 的流式对话界面体验多轮问答与参数调节如果你对代码细节感兴趣还可以对比「修改 modeling_chatglm 源码」与「官方 modeling_chatglm」在指令生成上的效果差异例如生成指定数量的四字词语直观理解 LoRA 适配对模型输出的影响进阶玩法DeepSpeed 多卡微调与 BELLE 中文数据InstructGLM 的能力不止于单卡微调DeepSpeed 多卡加速使用 train_deepspeed.py 配合 config/default_config.yaml支持多卡 ZeRO 方案训练速度相比单卡可提升 8~9 倍中文指令微调项目同样支持基于 BELLE 50 万条中文指令数据进行微调也可以基于 Alpaca 微调好的 LoRA 权重继续训练--is_resume True --resume_path output/alpaca/chatglm-lora.pt实现英文到中文的迁移学习。InstructGLM 微调常见问题与解决技巧报 gcc 版本过低升级 gcc 到 9 以上版本即可解决Linux 下可使用 devtoolset-9显存不足OOM调低per_device_train_batch_size与max_seq_length并保持开启fp16推理效果不理想确认已正确加载chatglm-lora.pt权重并在推理时按需关闭缓存use_cache。总结通过这篇 InstructGLM 微调教程你已经掌握了基于 Alpaca 52k 英文指令数据完成 ChatGLM-6B LoRA 微调的全流程数据预处理 → Tokenize → 模型训练 → 推理验证。LoRA 微调技术大大降低了大模型指令微调的硬件门槛现在就用 InstructGLM 打造一个属于你自己的指令跟随模型吧【免费下载链接】InstructGLMChatGLM-6B 指令学习|指令数据|Instruct项目地址: https://gitcode.com/gh_mirrors/ins/InstructGLM创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
InstructGLM 微调教程:基于Alpaca 52k英文指令数据的LoRA微调全流程
InstructGLM 微调教程:基于Alpaca 52k英文指令数据的LoRA微调全流程【免费下载链接】InstructGLMChatGLM-6B 指令学习|指令数据|Instruct项目地址: https://gitcode.com/gh_mirrors/ins/InstructGLMInstructGLM 微调教程来了这是一篇面向新手的完整指南手把手带你使用开源的 InstructGLM 项目基于斯坦福 Alpaca 52k 英文指令数据对 ChatGLM-6B 大模型进行 LoRA 微调。InstructGLM 是一个 ChatGLM-6B 指令学习Instruction Tuning开源项目通过低秩适配LoRA技术把原本需要多卡集群才能完成的大模型微调压缩到单卡也能轻松运行的规模。本教程将带你走完「数据预处理 → Tokenize → 模型训练 → 推理验证」的完整 LoRA 微调全流程帮你快速上手。本文所有脚本均来自 InstructGLM 项目克隆仓库后即可直接使用git clone https://gitcode.com/gh_mirrors/ins/InstructGLM什么是 InstructGLMChatGLM-6B 指令微调入门InstructGLM 是一个基于 ChatGLM-6B LoRA 的指令微调开源项目。指令微调的核心目标是让大模型学会「听懂指令、按格式作答」而 InstructGLM 借助斯坦福 Alpaca 52k 英文指令数据、BELLE 中文指令数据等开源数据集让 ChatGLM-6B 具备更强的指令遵循能力。LoRALow-Rank Adaptation低秩适配是一种参数高效的微调方法冻结原始模型参数只训练少量低秩矩阵。它的优势非常明显——显存占用小、训练速度快训练完成后只需保存一个小体积的权重文件例如本项目产出的 output/alpaca/chatglm-lora.pt。为什么选择 Alpaca 52k 英文指令数据进行微调Alpaca 52k 数据集是斯坦福大学发布的英文指令数据集包含 52,000 条由 text-davinci-003 生成的独特指令每条数据由三个字段组成字段含义示例instruction指令Evaluate this sentence for spelling and grammar mistakesinput可选输入He finnished his meal and left the resturantoutput标准答案He finished his meal and left the restaurant.这套数据覆盖面极广包含写作、推理、分类、翻译等多种任务类型非常适合用来验证 ChatGLM-6B 的 LoRA 微调效果也是初学者入门的首选指令数据集。InstructGLM 微调环境准备软硬件配置方法官方实验环境为 2 张 A100 80G 显卡但对普通玩家来说LoRA 8bit 量化加载load_in_8bitTrue可以大幅降低显存门槛。环境准备只需两步安装依赖执行pip install -r requirements.txt依赖清单见 requirements.txt建议使用清华镜像源加速准备模型权重下载 ChatGLM-6B 官方权重并按项目要求放置到指定目录。第一步Alpaca 数据预处理方法json 转 jsonl原始 Alpaca 数据是 JSON 格式需要先转换为统一的 jsonl 训练格式Instruction: xxx / Input: xxx / Answer: xxx这一步由 cover_alpaca2jsonl.py 完成python cover_alpaca2jsonl.py \ --data_path data/alpaca_data.json \ --save_path data/alpaca_data.jsonl第二步指令数据 Tokenize 加速训练技巧如果直接训练原始文本训练过程中会反复调用分词器非常耗时。InstructGLM 提供了 tokenize_dataset_rows.py将全部文本一次性切分为 token 并缓存为磁盘数据集训练速度大幅提升。序列长度可根据显存自行调整python tokenize_dataset_rows.py \ --jsonl_path data/alpaca_data.jsonl \ --save_path data/alpaca \ --max_seq_length 320第三步启动 LoRA 微调训练核心参数详解核心训练脚本是 train_lora.py基于 Hugging Face Trainer PEFTLoRA框架实现关键配置如下参数推荐值作用说明lora_rank8LoRA 低秩矩阵维度越大拟合能力越强per_device_train_batch_size2单卡批大小显存紧张时调低learning_rate2e-5学习率max_steps52000最大训练步数fp16true半精度训练节省显存output_diroutput权重保存目录启动训练python train_lora.py \ --dataset_path data/alpaca \ --lora_rank 8 \ --per_device_train_batch_size 2 \ --max_steps 52000 \ --learning_rate 2e-5 \ --fp16 \ --output_dir output训练完成后LoRA 权重会保存为chatglm-lora.pt。下图是基于 Alpaca 52k 微调后的 InstructGLM 对话效果可以看到模型已经学会了结构清晰、条理分明的指令式回答第四步验证微调效果与推理部署方法训练结束后使用 infer.py 加载 LoRA 权重即可快速验证效果也可以直接运行 web_demo.py 启动基于 Gradio 的流式对话界面体验多轮问答与参数调节如果你对代码细节感兴趣还可以对比「修改 modeling_chatglm 源码」与「官方 modeling_chatglm」在指令生成上的效果差异例如生成指定数量的四字词语直观理解 LoRA 适配对模型输出的影响进阶玩法DeepSpeed 多卡微调与 BELLE 中文数据InstructGLM 的能力不止于单卡微调DeepSpeed 多卡加速使用 train_deepspeed.py 配合 config/default_config.yaml支持多卡 ZeRO 方案训练速度相比单卡可提升 8~9 倍中文指令微调项目同样支持基于 BELLE 50 万条中文指令数据进行微调也可以基于 Alpaca 微调好的 LoRA 权重继续训练--is_resume True --resume_path output/alpaca/chatglm-lora.pt实现英文到中文的迁移学习。InstructGLM 微调常见问题与解决技巧报 gcc 版本过低升级 gcc 到 9 以上版本即可解决Linux 下可使用 devtoolset-9显存不足OOM调低per_device_train_batch_size与max_seq_length并保持开启fp16推理效果不理想确认已正确加载chatglm-lora.pt权重并在推理时按需关闭缓存use_cache。总结通过这篇 InstructGLM 微调教程你已经掌握了基于 Alpaca 52k 英文指令数据完成 ChatGLM-6B LoRA 微调的全流程数据预处理 → Tokenize → 模型训练 → 推理验证。LoRA 微调技术大大降低了大模型指令微调的硬件门槛现在就用 InstructGLM 打造一个属于你自己的指令跟随模型吧【免费下载链接】InstructGLMChatGLM-6B 指令学习|指令数据|Instruct项目地址: https://gitcode.com/gh_mirrors/ins/InstructGLM创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考