ChatGLM改成多进程运行

这个提交包含在:
qingxu fu
2023-04-15 19:09:03 +08:00
父节点 294ac338bd
当前提交 6aba339538
共有 7 个文件被更改,包括 270 次插入212 次删除

查看文件

@@ -66,7 +66,7 @@ def request_gpt_model_in_new_thread_with_ui_alive(
chatbot.append([inputs_show_user, ""])
yield from update_ui(chatbot=chatbot, history=[]) # 刷新界面
executor = ThreadPoolExecutor(max_workers=16)
mutable = ["", time.time()]
mutable = ["", time.time(), ""]
def _req_gpt(inputs, history, sys_prompt):
retry_op = retry_times_at_unknown_error
exceeded_cnt = 0