我自己在qwen上微调了一个大模型,我该如何使用qwen-adapter来接入这个模型

helphelphelphelphelp

2 个赞

如果有 openai api 格式兼容,直接接入 openai-like adapter 就好啦,自己设置一下模型名称,关闭拉取模型就行。

如果没有兼容,你可以发我一下 API Docs,我有时间看看。

2 个赞