oobabooga-testbot插件的使用教程

接上文,接下来我将简单介绍一下如何下载模型并在oobabooga内启动

我们先前往huggingface官网。
https://huggingface.co/

我将以Chatglm模型作为例子。

搜索模型

选择第一个:https://huggingface.co/THUDM/chatglm-6b

然后我们会来到这个界面:

接下来有两个选择,你可以使用oobabooga自带的下载器,下载模型,或者自己选择文件下载。

使用oobabooga内置下载器
优点:简单,不容易出错,模型文件格式肯定正确。
缺点:速度慢。
方法:我们首先点击这里:


然后我们回到这个界面:
image
选择L选项 Manually specify a Hugging Face model
image
然后我们把刚刚复制的内容粘贴进去
image
回车,它就会开始自动下载了。
下载目录为:\oobabooga_windows\text-generation-webui\models
image
文件夹里面就是下载的模型了。

自己下载模型文件
优点:速度快
缺点:得手动
方法:我们首先进入model存储目录
\oobabooga_windows\text-generation-webui\models
创建一个新的文件夹,比方说:
image
然后我们去到Chatglm的huggingface页面:
https://huggingface.co/THUDM/chatglm-6b
选择files:


把这里所有的文件都下载到刚刚创建的文件里面:

完成后的模型文件夹内部应该类似这样:

注意!
不同类型的模型有不同的模型格式,一般来说只要把huggingface里所有的文件都下载下来就行了。如果还有问题请加群询问。

接下来我们继续oobabooga的模型加载

1 个赞