int/gpt_academic
1
0
派生 0
镜像自地址 https://github.com/binary-husky/gpt_academic.git 已同步 2025-12-06 14:36:48 +00:00
代码 工单 软件包 项目 版本发布 百科 动态

improve dockerfile

浏览代码
这个提交包含在：
Your Name
2023-04-18 21:45:56 +08:00
父节点 bf44dd1d41
当前提交 40d91e9e1a
共有 2 个文件被更改，包括 11 次插入 和 5 次删除
下载 Patch 文件 下载 Diff 文件 展开所有文件 折叠所有文件

3
docs/Dockerfile+ChatGLM
查看文件

@@ -36,6 +36,9 @@ from transformers import AutoModel, AutoTokenizer \n\
chatglm_tokenizer = AutoTokenizer.from_pretrained("THUDM/chatglm-6b", trust_remote_code=True) \n\
chatglm_model = AutoModel.from_pretrained("THUDM/chatglm-6b", trust_remote_code=True).float() ' >> warm_up_chatglm.py
RUN python3 -u warm_up_chatglm.py
# 禁用缓存，确保更新代码
ADD "https://www.random.org/cgi-bin/randbyte?nbytes=10&format=h" skipcache
RUN $useProxyNetwork git pull
# 为chatgpt-academic配置代理和API-KEY （非必要 可选步骤）

13
request_llm/bridge_all.py
查看文件

@@ -23,6 +23,9 @@ from .bridge_tgui import predict as tgui_ui
colors = ['#FF00FF', '#00FFFF', '#FF0000', '#990099', '#009999', '#990044']
get_token_num_gpt35 = lambda txt: len(tiktoken.encoding_for_model("gpt-3.5-turbo").encode(txt, disallowed_special=()))
get_token_num_gpt4 = lambda txt: len(tiktoken.encoding_for_model("gpt-4").encode(txt, disallowed_special=()))
model_info = {
# openai
"gpt-3.5-turbo": {
@@ -31,7 +34,7 @@ model_info = {
"endpoint": "https://api.openai.com/v1/chat/completions",
"max_token": 4096,
"tokenizer": tiktoken.encoding_for_model("gpt-3.5-turbo"),
"token_cnt": lambda txt: len(tiktoken.encoding_for_model("gpt-3.5-turbo").encode(txt, disallowed_special=())),
"token_cnt": get_token_num_gpt35,
},
"gpt-4": {
@@ -40,7 +43,7 @@ model_info = {
"endpoint": "https://api.openai.com/v1/chat/completions",
"max_token": 8192,
"tokenizer": tiktoken.encoding_for_model("gpt-4"),
"token_cnt": lambda txt: len(tiktoken.encoding_for_model("gpt-4").encode(txt, disallowed_special=())),
"token_cnt": get_token_num_gpt4,
},
# api_2d
@@ -50,7 +53,7 @@ model_info = {
"endpoint": "https://openai.api2d.net/v1/chat/completions",
"max_token": 4096,
"tokenizer": tiktoken.encoding_for_model("gpt-3.5-turbo"),
"token_cnt": lambda txt: len(tiktoken.encoding_for_model("gpt-3.5-turbo").encode(txt, disallowed_special=())),
"token_cnt": get_token_num_gpt35,
},
"api2d-gpt-4": {
@@ -59,7 +62,7 @@ model_info = {
"endpoint": "https://openai.api2d.net/v1/chat/completions",
"max_token": 8192,
"tokenizer": tiktoken.encoding_for_model("gpt-4"),
"token_cnt": lambda txt: len(tiktoken.encoding_for_model("gpt-4").encode(txt, disallowed_special=())),
"token_cnt": get_token_num_gpt4,
},
# chatglm
@@ -69,7 +72,7 @@ model_info = {
"endpoint": None,
"max_token": 1024,
"tokenizer": tiktoken.encoding_for_model("gpt-3.5-turbo"),
"token_cnt": lambda txt: len(tiktoken.encoding_for_model("gpt-3.5-turbo").encode(txt, disallowed_special=())),
"token_cnt": get_token_num_gpt35,
},
}