Skip to content
项目
群组
代码片段
帮助
当前项目
正在载入...
登录 / 注册
切换导航面板
J
jinchat-server
概览
概览
详情
活动
周期分析
版本库
存储库
文件
提交
分支
标签
贡献者
分支图
比较
统计图
问题
0
议题
0
列表
看板
标记
里程碑
合并请求
0
合并请求
0
CI / CD
CI / CD
流水线
作业
日程表
图表
维基
Wiki
代码片段
代码片段
成员
成员
折叠边栏
关闭边栏
活动
图像
聊天
创建新问题
作业
提交
问题看板
Open sidebar
aigc-pioneer
jinchat-server
Commits
7d837078
提交
7d837078
authored
5月 19, 2023
作者:
imClumsyPanda
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
update model_config.py
上级
00d80335
隐藏空白字符变更
内嵌
并排
正在显示
2 个修改的文件
包含
16 行增加
和
16 行删除
+16
-16
model_config.py
configs/model_config.py
+14
-14
shared.py
models/shared.py
+2
-2
没有找到文件。
configs/model_config.py
浏览文件 @
7d837078
...
@@ -30,44 +30,44 @@ llm_model_dict 处理了loader的一些预设行为,如加载位置,模型
...
@@ -30,44 +30,44 @@ llm_model_dict 处理了loader的一些预设行为,如加载位置,模型
llm_model_dict
=
{
llm_model_dict
=
{
"chatglm-6b-int4-qe"
:
{
"chatglm-6b-int4-qe"
:
{
"name"
:
"chatglm-6b-int4-qe"
,
"name"
:
"chatglm-6b-int4-qe"
,
"
remote-checkpoint
"
:
"THUDM/chatglm-6b-int4-qe"
,
"
pretrained_model_name
"
:
"THUDM/chatglm-6b-int4-qe"
,
"path"
:
None
,
"
local_model_
path"
:
None
,
"provides"
:
"ChatGLM"
"provides"
:
"ChatGLM"
},
},
"chatglm-6b-int4"
:
{
"chatglm-6b-int4"
:
{
"name"
:
"chatglm-6b-int4"
,
"name"
:
"chatglm-6b-int4"
,
"
remote-checkpoint
"
:
"THUDM/chatglm-6b-int4"
,
"
pretrained_model_name
"
:
"THUDM/chatglm-6b-int4"
,
"path"
:
None
,
"
local_model_
path"
:
None
,
"provides"
:
"ChatGLM"
"provides"
:
"ChatGLM"
},
},
"chatglm-6b"
:
{
"chatglm-6b"
:
{
"name"
:
"chatglm-6b"
,
"name"
:
"chatglm-6b"
,
"
remote-checkpoint
"
:
"THUDM/chatglm-6b-int4"
,
"
pretrained_model_name
"
:
"THUDM/chatglm-6b-int4"
,
"path"
:
None
,
"
local_model_
path"
:
None
,
"provides"
:
"ChatGLM"
"provides"
:
"ChatGLM"
},
},
"llama-7b-hf"
:
{
"llama-7b-hf"
:
{
"name"
:
"llama-7b-hf"
,
"name"
:
"llama-7b-hf"
,
"
remote-checkpoint
"
:
"llama-7b-hf"
,
"
pretrained_model_name
"
:
"llama-7b-hf"
,
"path"
:
None
,
"
local_model_
path"
:
None
,
"provides"
:
"LLamaLLM"
"provides"
:
"LLamaLLM"
},
},
"vicuna-13b-hf"
:
{
"vicuna-13b-hf"
:
{
"name"
:
"vicuna-13b-hf"
,
"name"
:
"vicuna-13b-hf"
,
"
remote-checkpoint
"
:
"vicuna-13b-hf"
,
"
pretrained_model_name
"
:
"vicuna-13b-hf"
,
"path"
:
None
,
"
local_model_
path"
:
None
,
"provides"
:
"LLamaLLM"
"provides"
:
"LLamaLLM"
},
},
"chatyuan"
:
{
"chatyuan"
:
{
"name"
:
"chatyuan"
,
"name"
:
"chatyuan"
,
"
remote-checkpoint
"
:
"ClueAI/ChatYuan-large-v2"
,
"
pretrained_model_name
"
:
"ClueAI/ChatYuan-large-v2"
,
"path"
:
None
,
"
local_model_
path"
:
None
,
"provides"
:
None
"provides"
:
None
},
},
"chatglm-6b-int8"
:{
"chatglm-6b-int8"
:{
"name"
:
"chatglm-6b-int8"
,
"name"
:
"chatglm-6b-int8"
,
"
remote-checkpoint
"
:
"THUDM/chatglm-6b-int8"
,
"
pretrained_model_name
"
:
"THUDM/chatglm-6b-int8"
,
"path"
:
None
,
"
local_model_
path"
:
None
,
"provides"
:
"ChatGLM"
"provides"
:
"ChatGLM"
},
},
}
}
...
...
models/shared.py
浏览文件 @
7d837078
...
@@ -32,9 +32,9 @@ def loaderLLM(llm_model: str = None, no_remote_model: bool = False, use_ptuning_
...
@@ -32,9 +32,9 @@ def loaderLLM(llm_model: str = None, no_remote_model: bool = False, use_ptuning_
if
loaderCheckPoint
.
no_remote_model
:
if
loaderCheckPoint
.
no_remote_model
:
loaderCheckPoint
.
model_name
=
llm_model_info
[
'name'
]
loaderCheckPoint
.
model_name
=
llm_model_info
[
'name'
]
else
:
else
:
loaderCheckPoint
.
model_name
=
llm_model_info
[
'
remote-checkpoint
'
]
loaderCheckPoint
.
model_name
=
llm_model_info
[
'
pretrained_model_name
'
]
loaderCheckPoint
.
model_path
=
llm_model_info
[
'path'
]
loaderCheckPoint
.
model_path
=
llm_model_info
[
"local_model_path"
]
loaderCheckPoint
.
reload_model
()
loaderCheckPoint
.
reload_model
()
...
...
编写
预览
Markdown
格式
0%
重试
或
添加新文件
添加附件
取消
您添加了
0
人
到此讨论。请谨慎行事。
请先完成此评论的编辑!
取消
请
注册
或者
登录
后发表评论