环境配置

Linux

cuda安装(已安装可跳过，要求版本12.6及以上)：LLaMA Factory环境安装文档
建议使用 uv 安装依赖，这是一个非常快速的 Python 环境管理器，安装uv参考 UV 官方文档。
安装uv后，使用以下命令创建一个新的Python环境并安装依赖项：

bash

git clone https://github.com/xming521/WeClone.git && cd WeClone
uv venv .venv --python=3.10
source .venv/bin/activate # windows下执行 .venv\Scripts\activate
uv pip install --group main -e . -i https://pypi.tuna.tsinghua.edu.cn/simple/

将配置文件模板复制一份并重命名为settings.jsonc，后续配置修改在此文件进行：

bash

cp settings.template.jsonc settings.jsonc

微调多模态模型时，请使用examples/mllm.template.jsonc作为配置文件。

NOTE

训练以及推理等所有配置统一在文件settings.jsonc

5.使用以下命令测试CUDA环境是否正确配置并可被PyTorch识别(NVIDIA GPU 用户)：

bash

python -c "import torch; print('CUDA是否可用:', torch.cuda.is_available());"

6.（可选）安装 FlashAttention，加速训练和推理：

bash

uv pip install flash-attn --no-build-isolation

NOTE

版本问题可以使用 FlashAttention 的 prebuild-wheels 的预编译包安装。

Windows

Windows 环境下运行 WeClone 未进行严格测试，并且不能使用本地模型清洗数据，建议使用 WSL2（ GPU 性能损耗约 5%），请参考 WSL2 安装。

到这里，恭喜你完成了全部的环境配置！！！

环境配置 ​

Linux ​

Windows ​

环境配置

Linux

Windows