蝦皮情趣用品 台灣經銷總代理 跳蛋/按摩棒/潤滑油

准备环境和资源

• 创建工作空间，具体操作，请参见 。

• 创建DSW实例，此中关键参数配置以下。具体操作，请参见 。

  • 实例规格选择：建议利用24 GB显存的A10（ecs.gn7i-c8g1.2xlarge）或更高配置。

  • 镜像选择：建议利用Python3.9及以上版本。本方案在官方镜像中选择modelscope:1.18.0-pytorch2.3.0-gpu-py310-cu121-ubuntu22.04。娃娃

步骤一：安装LLaMA Factory

1. 进入DSW开发环境。

   1. 登录 。

   2. 在页面左上方，选择DSW实例地點的地區。

   3. 在左侧导航栏单击工作空间列表，在工作空间列表页面中单击默认工作空间名称，进入对应工作空间内。

   4. 在左侧导航栏，选择模型开发与训练>交互式建模（DSW）。

   5. 单击需要打开的实例操作列下的打开，进入DSW实例开发环境。

2. 在Launcher页面中，单击快速开始区域Notebook下的Python3。雙頭龍

3. 在Notebook中执行以下代码，拉取LLaMA-Factory项目到DSW实例。

   !git clone --depth 1 https://github.com/hiyouga/LLaMA-Factory.git

4. 安装LLaMA-Factory依赖环境。

   !pip uninstall -y vllm
   !pip install llamafactory[metrics]==0.7.1

5. 运行以下命令，假如显示llamafactory-cli的版本，则表示安装成功。

   !llamafactory-cli version

   [2024-05-08 10:25:22,857] [INFO] [real_accelerator.py:161:get_accelerator] Setting ds_accelerator to cuda (auto detect)
   Welcome to LLaMA Factory, version 0.7.1.dev0

步骤二：下载数据集

LLaMA-Factory项目内置了丰富的数据集，统一存储于data目录下。您可以跳过本步骤，直接利用内置数据集。您也能夠准备自定义数据集，将数据处理为框架特定的格式，放在data下，并且點竄dataset_info.json文件。

在本教程中，PAI提供了一份多轮对话数据集，执行以下號令下载数据。

%cd LLaMA-Factory
!wget https://atp-modelzoo-sh.oss-cn-shanghai.aliyuncs.com/release/tutorials/llama_factory/data.zip
!mv data rawdata && unzip data.zip -d data

数据集中的样本为多轮对话形式，每轮对话都由一条用户指令和一条模型回覆组成，微调过程中模子不断学习样本中的回覆风格，从而达到中文化与腳色飾演的目的。该数据集分为训练集和验证集两个文件，其中训练集共包括320组多轮对话样本，验证集共包括30组多轮对话样本，数据样例以下所示：

[
{
    "conversations": [
      {
        "from": "human",
        "value": "模仿西游记的孙悟空的语气和我聊天。若是你把水冻住，你会得到什么？"
      },
      {
        "from": "gpt",
        "value": "哈哈，这问题还难倒俺老孙吗？把水冻住就是变成冰啦！不过若是在取经的路上用得着这冰来做啥，好比过火焰山时，那可就是解渴消暑的好东西了！你觉得呢？还有没有更有趣的问题让俺老孙来解答？"
      },
      {
        "from": "human",
        "value": "那怎么做才可以把水冻住"
      },
      {
        "from": "gpt",
        "value": "哈哈，对俺老孙来说，这可是轻而易举的工作！只需将水放在凉快的處所，或利用法力，一吹仙气，水便能迅速结冰啦！当然，在你的世界里，把水放进冰箱的冷冻室里等一阵子，水就会变成冰块了。如果嫌慢，可以尝试用点干冰或液氮什么的，不过得小心利用哈！毕竟不像俺老孙有抗寒法力。"
      }
    ]
}
]

步骤三：模子微调

启动Web UI

1. 运行以下敕令启动Web UI。

   個中，USE_MODELSCOPE_HUB设为1，透露表現模子来源是ModelScope。使用HuggingFace模子可能会有网络问题。

   !export USE_MODELSCOPE_HUB=1 && \
   llamafactory-cli webui

2. 单击返回的URL地址，进入Web UI界面。

   因爲http://0.0.0.0:7860为内网访问地址，仅支撐在当前的DSW实例内部通过单击链接来访问WebUI页面，不支撐通过外部浏览器直接访问。

   /mnt/workspace/LLaMA-Factory
   [2024-05-08 21:25:45,224] [INFO] [real_accelerator.py:161:get_accelerator] Setting ds_accelerator to cuda (auto detect)
   Running on local URL:  http://0.0.0.0:7860
   
   To create a public link, set `share=True` in `launch()`. 
   更多有关LLaMA Factory的信息，请参见 。
   您也可以直接打开Notebook案例快速体验本教程，具体操作，请参见 。