oobabooga-testbot插件的使用教程

oobabooga-testbot
更新:oobabooga-testbot(3.9.6→3.9.9)

增加对openai的api支持

2 个赞

5.0大版本更新完成

具体的更新变动会出一期视频完整讲解,各位可以移步下一楼

2 个赞

【oobabooga-testbot插件5.0版本更新变动说明】 oobabooga-testbot插件5.0版本更新变动说明_哔哩哔哩_bilibili?

2 个赞

oobabooga-testbot
更新:oobabooga-testbot(5.0.0→5.0.1)

修复高级选项内tgw_mode选项不生效的情况,增加tgw的name1,name2选项

2 个赞

oobabooga-testbot
更新:oobabooga-testbot(5.0.1→5.0.2)

给TGW高级选项增加character参数,方便使用chat-instruct模式进行模型破限。

2 个赞

oobabooga-testbot
更新:oobabooga-testbot(5.0.2→5.0.6)

5.0.5增加对原生gemini的api支持
5.0.6修复gemini的基础设置项在多后端配置下不显示的bug

2 个赞

oobabooga-testbot
更新:oobabooga-testbot(5.0.6→5.0.8)

增加引用回复的开关
增加duckduckgo的网页检索源
修复拟人回复中的空格多出问题

2 个赞

oobabooga-testbot
更新:oobabooga-testbot(5.0.8→5.0.9)

修复真群聊模式下,用户id不会记录的bug

2 个赞

oobabooga-testbot
更新:oobabooga-testbot(5.0.9→5.1.0)

修复历史记录不按照设置进行删除的bug,调整上下文历史记录的描述文本
更加符合用户使用逻辑

2 个赞

oobabooga-testbot
更新:oobabooga-testbot(5.1.0→5.2.0)

增加群消息数据库
调整计数器规则,保持上下文在不同设置下的一致性
增加在随机回复下的上下文记录,让群聊bot更容易知道当前情况
支持随机回复按群聊区分调整
增加关闭bot使用at的选项
调整设置项位置,增加分类方便区分

群消息数据库(:exclamation:重要更新,务必查看:exclamation:)

:exclamation: 群消息记录会在插件启动的时候自动运行 :exclamation:

:exclamation: 所有bot可以接收到消息的群聊都会被记录入消息数据库 :exclamation:

:exclamation: 消息数据库纯本地存储,位置在:node_modules\koishi-plugin-oobabooga-testbot\lib\channelmessage下 :exclamation:

:exclamation: 如果不希望使用,可以考虑卸载插件 :exclamation:

Q&A
Q:为什么要加入群聊记录功能?
A:因为后续功能需要这方面的支持

Q:什么功能?
A:随机回复,真群聊模式下的上下文关联回忆,记忆搜索等等,有了这个数据库后续很多花活都可以玩起来了。

上下文计数器规则调整

随机回复更新


效果:

增加at选项调整

2 个赞

oobabooga-testbot
更新:oobabooga-testbot(5.2.0→5.3.0)

修复gemini模型返回为空的情况下,会被计入历史记录导致文件格式损坏的bug
删除openaiplus接口的自动url后缀补全,方便使用更多url格式
增加回调emb向量库的线性时间权重与背景库基础加成权重
开放emb回调权重细节调整

注意,请删除老的emb数据库,重新用oob.pretreat进行处理,不然有概率出现不兼容问题

权重细节调整表:

:exclamation: 如果你不知道你在干什么,就不要调整这张表 :exclamation:

3 个赞

oobabooga-testbot
更新:oobabooga-testbot(5.3.0→5.3.1)

修复:背景人设库权重失效导致背景人设库完全不回调的bug
增加emb debug模式下显示的内容范围,方便进行参数调整

3 个赞

oobabooga-testbot
更新:oobabooga-testbot(5.3.1→5.3.3)

增加对deepseek-r1系列模型的支持,包含distill蒸馏模型
增加一个针对deepseek-r1特化的人设作为参考

新的选项:


注意:只有TGW,deepseek,openai,openai_plus这四种api模式下,才可以正常读取思维链,gemini的api格式很特殊,无法兼容思维链回复(我想应该也没人用gemini的api去接deepseek吧……)

新的示例人设:

image

R1版本:

distill版本(也就是蒸馏模型):

请各位注意好区别,可以对照示例自己进行人设创建。

3 个赞

oobabooga-testbot
更新:oobabooga-testbot(5.3.3→5.4.0)

增加对Ollama后端的支持
增加用户可输入的随机种,防止多个bot同时触发随机回复
修复openaiPlus的自定义参数部分无法处理true false的情况

Ollama后端


随机种

顺带,祝大家新年快乐~

4 个赞

oobabooga-testbot
更新:oobabooga-testbot(5.4.0→5.4.3)

5.4.1修复随机种忘加math.random的bug
5.4.2修复ollama,gemini后端status未返回的bug
5.4.3:
emb模型请求标准化(openai标准结构)
注意!请务必更新新版本的llm toolkit api才可以正常使用emb功能,同时emb也已经支持标准格式请求,所以硅基流动,openai上的emb模型都是可以接入并使用的。

3 个赞

oobabooga-testbot
更新:oobabooga-testbot(5.4.3→5.5.0)

5.4.4 修复忘了给emb增加apikey的bug
5.4.5 再次修复ollama的status问题
5.5.0 版本(大更新)
1:增加TabbyAPI支持
2:增加原生多模态支持:TabbyAPI是目前插件内,唯一支持原生多模态的接口
3:增加第二个gemini接口,仅在多后端混用模式下启动
方便使用gemini的异常严格的调用方案
同时可以减轻仅配置单个api接口的rpm限制导致的429错误
(2号接口只包含model参数与api两个独立参数,其余参数都会沿用1号接口)

支持TabbyAPI接口

image

支持TabbyAPI原生多模态模型接口(也就是Gemma3模型)

开关位置:

效果
image
图像数据将会以base64格式,存储在sessiondata的对应历史记录下


且若后续处理流程转为非多模态模型情况下(多后端),图像数据将自动被忽略,且不会进入emb向量库

二号Gemini接口



2号接口只包含model参数与api两个独立参数,其余参数都会沿用1号接口


选项仅可在多后端模式下显示

最后补充:Gemma3虽然已经放出,且是多模态模型

但现在“真的”支持多模态接口的后端很少,暂时只有没开flashatten的exllamaV2与transformers可以说多模态做的是较好的。llamacpp的多模态甚至暂时是残疾。

且量化会对多模态的视觉能力产生巨大影响,实测8bpw的量化基本上就会让模型变成近视眼,且失去绝大部分中文识别能力,模型幻觉也会作用在图片上。

所以建议暂时使用TabbyAPI后端作为多模态模型方案。

这里是我制作的TabbyAPI的懒人包,暂时只有文字教程,视频教程会在明后天更新。

通过网盘分享的文件:tabbyAPI懒人包beta版本
链接: 百度网盘 请输入提取码
提取码: fejc

2 个赞

oobabooga-testbot
更新:oobabooga-testbot(5.5.0→5.5.2)

扩展原生多模态支持,现在支持原生多模态的后端包括:
TabbyAPI,OpenAI,OpenAIPlus,Gemini,Gemini2
修复-s选项失效的问题
重置Gemini的请求参数,使用Gemini的类openai格式请求
2 个赞

oobabooga-testbot
更新:oobabooga-testbot(5.5.2→5.5.3)

调整请求体结构,增加兼容性
修复openai接口忘了加多模态的bug
3 个赞