oobabooga-testbot
更新:oobabooga-testbot(3.9.6→3.9.9)
增加对openai的api支持
【oobabooga-testbot插件5.0版本更新变动说明】 oobabooga-testbot插件5.0版本更新变动说明_哔哩哔哩_bilibili?
oobabooga-testbot
更新:oobabooga-testbot(5.0.0→5.0.1)
修复高级选项内tgw_mode选项不生效的情况,增加tgw的name1,name2选项
oobabooga-testbot
更新:oobabooga-testbot(5.0.1→5.0.2)
给TGW高级选项增加character参数,方便使用chat-instruct模式进行模型破限。
oobabooga-testbot
更新:oobabooga-testbot(5.0.2→5.0.6)
5.0.5增加对原生gemini的api支持
5.0.6修复gemini的基础设置项在多后端配置下不显示的bug
oobabooga-testbot
更新:oobabooga-testbot(5.0.6→5.0.8)
增加引用回复的开关
增加duckduckgo的网页检索源
修复拟人回复中的空格多出问题
oobabooga-testbot
更新:oobabooga-testbot(5.0.8→5.0.9)
修复真群聊模式下,用户id不会记录的bug
oobabooga-testbot
更新:oobabooga-testbot(5.0.9→5.1.0)
修复历史记录不按照设置进行删除的bug,调整上下文历史记录的描述文本
更加符合用户使用逻辑
oobabooga-testbot
更新:oobabooga-testbot(5.1.0→5.2.0)
增加群消息数据库
调整计数器规则,保持上下文在不同设置下的一致性
增加在随机回复下的上下文记录,让群聊bot更容易知道当前情况
支持随机回复按群聊区分调整
增加关闭bot使用at的选项
调整设置项位置,增加分类方便区分
Q&A
Q:为什么要加入群聊记录功能?
A:因为后续功能需要这方面的支持
Q:什么功能?
A:随机回复,真群聊模式下的上下文关联回忆,记忆搜索等等,有了这个数据库后续很多花活都可以玩起来了。
oobabooga-testbot
更新:oobabooga-testbot(5.2.0→5.3.0)
修复gemini模型返回为空的情况下,会被计入历史记录导致文件格式损坏的bug
删除openaiplus接口的自动url后缀补全,方便使用更多url格式
增加回调emb向量库的线性时间权重与背景库基础加成权重
开放emb回调权重细节调整
注意,请删除老的emb数据库,重新用oob.pretreat进行处理,不然有概率出现不兼容问题
权重细节调整表:
oobabooga-testbot
更新:oobabooga-testbot(5.3.0→5.3.1)
修复:背景人设库权重失效导致背景人设库完全不回调的bug
增加emb debug模式下显示的内容范围,方便进行参数调整
oobabooga-testbot
更新:oobabooga-testbot(5.3.1→5.3.3)
增加对deepseek-r1系列模型的支持,包含distill蒸馏模型
增加一个针对deepseek-r1特化的人设作为参考
请各位注意好区别,可以对照示例自己进行人设创建。
oobabooga-testbot
更新:oobabooga-testbot(5.3.3→5.4.0)
增加对Ollama后端的支持
增加用户可输入的随机种,防止多个bot同时触发随机回复
修复openaiPlus的自定义参数部分无法处理true false的情况
顺带,祝大家新年快乐~
oobabooga-testbot
更新:oobabooga-testbot(5.4.0→5.4.3)
5.4.1修复随机种忘加math.random的bug
5.4.2修复ollama,gemini后端status未返回的bug
5.4.3:
emb模型请求标准化(openai标准结构)
注意!请务必更新新版本的llm toolkit api才可以正常使用emb功能,同时emb也已经支持标准格式请求,所以硅基流动,openai上的emb模型都是可以接入并使用的。
oobabooga-testbot
更新:oobabooga-testbot(5.4.3→5.5.0)
5.4.4 修复忘了给emb增加apikey的bug
5.4.5 再次修复ollama的status问题
5.5.0 版本(大更新)
1:增加TabbyAPI支持
2:增加原生多模态支持:TabbyAPI是目前插件内,唯一支持原生多模态的接口
3:增加第二个gemini接口,仅在多后端混用模式下启动
方便使用gemini的异常严格的调用方案
同时可以减轻仅配置单个api接口的rpm限制导致的429错误
(2号接口只包含model参数与api两个独立参数,其余参数都会沿用1号接口)
开关位置:
效果
图像数据将会以base64格式,存储在sessiondata的对应历史记录下
但现在“真的”支持多模态接口的后端很少,暂时只有没开flashatten的exllamaV2与transformers可以说多模态做的是较好的。llamacpp的多模态甚至暂时是残疾。
且量化会对多模态的视觉能力产生巨大影响,实测8bpw的量化基本上就会让模型变成近视眼,且失去绝大部分中文识别能力,模型幻觉也会作用在图片上。
所以建议暂时使用TabbyAPI后端作为多模态模型方案。
这里是我制作的TabbyAPI的懒人包,暂时只有文字教程,视频教程会在明后天更新。
通过网盘分享的文件:tabbyAPI懒人包beta版本
链接: 百度网盘 请输入提取码
提取码: fejc
oobabooga-testbot
更新:oobabooga-testbot(5.5.0→5.5.2)
扩展原生多模态支持,现在支持原生多模态的后端包括:
TabbyAPI,OpenAI,OpenAIPlus,Gemini,Gemini2
修复-s选项失效的问题
重置Gemini的请求参数,使用Gemini的类openai格式请求
oobabooga-testbot
更新:oobabooga-testbot(5.5.2→5.5.3)
调整请求体结构,增加兼容性
修复openai接口忘了加多模态的bug