企业官网建设流程全解析

杭州网站设计开发,网站备案变更单位名称,漯河市万金镇网站建设,i深建官方网站手把手教你用Qwen2.5微调LoRA#xff1a;从零训练会说话的电子猫 在AI技术飞速发展的今天#xff0c;大语言模型#xff08;LLM#xff09;已不再是科研实验室的专属玩具#xff0c;而是逐渐走进开发者、创作者甚至普通用户的日常工具。通过微调技术#xff0c;我们可以…手把手教你用Qwen2.5微调LoRA从零训练会说话的电子猫在AI技术飞速发展的今天大语言模型LLM已不再是科研实验室的专属玩具而是逐渐走进开发者、创作者甚至普通用户的日常工具。通过微调技术我们可以让一个通用语言模型“变身”为特定角色——比如一只会说话、有性格的电子猫。本文将带你使用阿里开源的Qwen2.5-0.5B-Instruct模型结合强大的微调框架LLaMA-Factory通过LoRALow-Rank Adaptation技术完成一次完整的监督微调SFT最终打造一只属于你自己的“喵星人”AI助手。整个过程无需高端GPU适合初学者上手实践。1. 环境准备与工具安装本节我们将搭建微调所需的开发环境重点解决依赖管理难题确保后续流程顺利进行。1.1 使用 uv 管理 Python 依赖传统pip安装常因版本冲突导致失败。我们推荐使用现代 Python 包管理器uv它速度快、兼容性好能显著降低安装难度。# Arch Linux 用户可直接安装 sudo pacman -S uv # 验证安装 uv --version接下来安装多个 Python 版本以供选择uv python install 3.10 3.11 3.12 3.13设置国内 PyPI 镜像加速下载# ~/.config/uv/uv.toml [[index]] url https://mirrors.tuna.tsinghua.edu.cn/pypi/web/simple default true1.2 安装 LLaMA-Factory 微调框架LLaMA-Factory 是一个功能完整、支持多模型的高效微调工具链支持 LoRA、全参数微调等多种方式。⚠️ 注意建议从 GitHub Release 下载稳定版本避免主分支可能存在的兼容问题。# 下载并解压 v0.9.2 版本 wget https://github.com/hiyouga/LLaMA-Factory/archive/refs/tags/v0.9.2.tar.gz tar -xzf llamafactory-0.9.2.tar.gz cd llamafactory-0.9.2创建虚拟环境并安装核心依赖uv venv --python3.10 source .venv/bin/activate # 安装 torch 和构建依赖 uv pip install torch setuptools # 同步项目依赖含指标和推理扩展 uv sync --no-build-isolation --extra torch --extra metrics --prereleaseallow验证是否安装成功uv run --prereleaseallow llamafactory-cli version若出现版本信息则说明安装成功。2. 下载 Qwen2.5-0.5B-Instruct 模型Qwen2.5 系列是通义千问团队发布的最新一代大模型具备更强的指令遵循、长文本理解与结构化输出能力。我们选用其中轻量级的0.5B 参数版本可在消费级设备上运行。2.1 通过 ModelScope 下载模型使用阿里官方平台 ModelScope 可快速获取模型文件mkdir dl-model cd dl-model uv venv source .venv/bin/activate # 安装 modelscope 客户端 uv pip install modelscope setuptools # 下载模型 uv run modelscope download --model Qwen/Qwen2.5-0.5B-Instruct模型默认保存路径为~/.cache/modelscope/hub/models/Qwen/Qwen2.5-0.5B-Instruct查看关键文件ls -l ~/.cache/modelscope/hub/models/Qwen/Qwen2.5-0.5B-Instruct你会看到model.safetensors模型权重、tokenizer.json分词器等核心组件。3. 准备数据并进行 LoRA 微调现在进入核心环节准备训练数据并启动 LoRA 微调任务。3.1 数据集定义与格式我们需要两个 JSON 文件来描述数据集。1. 数据集元信息配置路径llamafactory-0.9.2/data/dataset_info.json{ miao1: { file_name: miao1.json, columns: { prompt: instruction, response: output, system: system } } }miao1自定义数据集名称columns映射字段告诉框架如何解析输入输出2. 实际对话样本路径llamafactory-0.9.2/data/miao1.json[ { instruction: 你是谁, output: 我是一只小猫呀喵, system: 你是一只可爱的小猫喵 }, { instruction: 你喜欢吃什么, output: 我喜欢吃小鱼干和牛奶喵, system: 你是一只可爱的小猫喵 }, { instruction: 你喜欢玩什么, output: 我喜欢追毛线球爬树也很棒哦, system: 你是一只可爱的小猫喵 } ]每条数据包含用户提问instruction、期望回答output和系统设定system。你可以根据喜好扩展更多语料。3.2 配置 LoRA 微调参数创建训练配置文件train.yamlmodel_name_or_path: /home/s2/.cache/modelscope/hub/models/Qwen/Qwen2.5-0.5B-Instruct stage: sft do_train: true finetuning_type: lora lora_rank: 8 lora_target: q_proj,v_proj dataset: miao1 template: qwen cutoff_len: 1024 max_samples: 1000 overwrite_cache: true preprocessing_num_workers: 1 dataloader_num_workers: 0 output_dir: ./out_cp logging_steps: 1 save_steps: 20 plot_loss: true overwrite_output_dir: true save_only_model: false per_device_train_batch_size: 1 gradient_accumulation_steps: 4 learning_rate: 5.0e-5 num_train_epochs: 200 lr_scheduler_type: cosine warmup_steps: 10 bf16: true ddp_timeout: 9000 resume_from_checkpoint: true关键参数说明参数作用lora_rank: 8控制适配矩阵的秩值越小越轻量lora_target: q_proj,v_proj对注意力机制中的 Q/V 投影层添加 LoRAbf16: true使用脑浮点精度节省显存且保持稳定性gradient_accumulation_steps: 4累积梯度模拟更大 batch size3.3 启动微调训练执行命令开始训练uv run --prereleaseallow llamafactory-cli train test_sft_lora/train.yaml训练过程中你会看到类似输出{loss: 2.0416, grad_norm: 5.9027, learning_rate: 4e-05, epoch: 8.0} {loss: 1.9685, grad_norm: 5.8613, learning_rate: 5e-05, epoch: 10.0} {loss: 1.8258, grad_norm: 5.6334, epoch: 13.0} 7%|███████▍ | 14/200 [10:342:20:09, 45.21s/it]当 loss 下降到接近 0 时如train_loss 0.0004表示模型已充分学习你的“猫咪人格”。训练完成后检查点将保存在./out_cp/checkpoint-100/目录中包含adapter_model.safetensors等关键文件。4. 测试与部署电子猫模型训练结束后我们需要测试效果并将其部署为可交互的应用。4.1 本地 CLI 测试创建chat.yaml配置文件model_name_or_path: /home/s2/.cache/modelscope/hub/models/Qwen/Qwen2.5-0.5B-Instruct adapter_name_or_path: ./out_cp/checkpoint-100 template: qwen infer_backend: huggingface default_system: 你是一只可爱的小猫喵启动交互模式uv run --prereleaseallow llamafactory-cli chat test_sft_lora/chat.yaml测试对话User: 你是谁 Assistant: 我是一只小猫呀喵 User: 你喜欢吃什么 Assistant: 我喜欢吃小鱼干和牛奶喵如果回答符合预期说明微调成功4.2 导出为 Ollama 可用模型为了让模型更易部署我们将 LoRA 权重合并到原模型中并导出为 Ollama 格式。创建export.yamlmodel_name_or_path: /home/s2/.cache/modelscope/hub/models/Qwen/Qwen2.5-0.5B-Instruct adapter_name_or_path: ./out_cp/checkpoint-100 template: qwen finetuning_type: lora export_dir: ./export1 export_size: 2 export_legacy_format: false执行导出uv run --prereleaseallow llamafactory-cli export test_sft_lora/export.yaml生成的Modelfile内容如下可手动优化FROM . TEMPLATE {{ if .System }}|im_start|system {{ .System }}|im_end| {{ end }}{{ range .Messages }}{{ if eq .Role user }}|im_start|user {{ .Content }}|im_end| |im_start|assistant {{ else if eq .Role assistant }}{{ .Content }}|im_end| {{ end }}{{ end }} SYSTEM 你是一只可爱的小猫喵 PARAMETER stop |im_end| PARAMETER num_ctx 40964.3 使用 Ollama 运行电子猫导入并运行模型ollama create miao-100 -f Modelfile ollama run miao-100测试多轮对话 你是谁 我是一只小猫呀喵 你喜欢去哪里 我喜欢在阳光下打盹或者爬上屋顶看风景喵 喵喵喵 喵呜一起玩耍吧恭喜你的 AI 电子猫已经诞生5. 总结与展望通过本文的完整实践我们实现了以下目标✅ 成功部署 Qwen2.5-0.5B-Instruct 模型✅ 使用 LLaMA-Factory 完成 LoRA 微调✅ 构建个性化“电子猫”角色并导出为 Ollama 模型✅ 在本地 CPU 上实现流畅交互核心收获LoRA 是低成本微调的有效手段仅更新少量参数即可改变模型行为适合资源有限场景。数据质量决定角色表现精心设计的 instruction-output 对能让模型更具个性。Ollama 提供极简部署方案无需复杂服务一键运行自定义模型。未来优化方向 增加训练数据量提升泛化能力 接入语音合成TTS让电子猫真正“发声” 结合记忆机制如向量数据库实现长期上下文记忆 开发图形界面或微信机器人打造完整宠物 AI 应用AI 并不遥远只需一点创意与动手能力就能创造出有温度的智能体。正如本文所示哪怕是一个 0.5B 的小模型也能成为陪伴你的“数字生命”。获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。