成功借助tgui调用更多LLM

这个提交包含在:
Your Name
2023-04-02 00:22:41 +08:00
父节点 f245f94444
当前提交 ba7c7290c1
共有 4 个文件被更改,包括 70 次插入10 次删除

查看文件

@@ -244,7 +244,10 @@ def generate_payload(inputs, top_p, temperature, history, system_prompt, stream)
if not LLM_MODEL.startswith('gpt'):
from request_llm.bridge_tgui import predict_tgui
# 函数重载到另一个文件
from request_llm.bridge_tgui import predict_tgui, predict_tgui_no_ui
predict = predict_tgui
predict_no_ui = predict_tgui_no_ui
predict_no_ui_long_connection = predict_tgui_no_ui