Skip to content
项目
群组
代码片段
帮助
当前项目
正在载入...
登录 / 注册
切换导航面板
J
jinchat-server
概览
概览
详情
活动
周期分析
版本库
存储库
文件
提交
分支
标签
贡献者
分支图
比较
统计图
问题
0
议题
0
列表
看板
标记
里程碑
合并请求
0
合并请求
0
CI / CD
CI / CD
流水线
作业
日程表
图表
维基
Wiki
代码片段
代码片段
成员
成员
折叠边栏
关闭边栏
活动
图像
聊天
创建新问题
作业
提交
问题看板
Open sidebar
aigc-pioneer
jinchat-server
Commits
ecd7b613
提交
ecd7b613
authored
6月 12, 2023
作者:
imClumsyPanda
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
updata model_config.py
上级
7863e0fe
显示空白字符变更
内嵌
并排
正在显示
1 个修改的文件
包含
7 行增加
和
1 行删除
+7
-1
model_config.py
configs/model_config.py
+7
-1
没有找到文件。
configs/model_config.py
浏览文件 @
ecd7b613
...
@@ -9,6 +9,9 @@ logger = logging.getLogger()
...
@@ -9,6 +9,9 @@ logger = logging.getLogger()
logger
.
setLevel
(
logging
.
INFO
)
logger
.
setLevel
(
logging
.
INFO
)
logging
.
basicConfig
(
format
=
LOG_FORMAT
)
logging
.
basicConfig
(
format
=
LOG_FORMAT
)
# 在以下字典中修改属性值,以指定本地embedding模型存储位置
# 如将 "text2vec": "GanymedeNil/text2vec-large-chinese" 修改为 "text2vec": "User/Downloads/text2vec-large-chinese"
# 此处请写绝对路径
embedding_model_dict
=
{
embedding_model_dict
=
{
"ernie-tiny"
:
"nghuyong/ernie-3.0-nano-zh"
,
"ernie-tiny"
:
"nghuyong/ernie-3.0-nano-zh"
,
"ernie-base"
:
"nghuyong/ernie-3.0-base-zh"
,
"ernie-base"
:
"nghuyong/ernie-3.0-base-zh"
,
...
@@ -27,6 +30,9 @@ EMBEDDING_DEVICE = "cuda" if torch.cuda.is_available() else "mps" if torch.backe
...
@@ -27,6 +30,9 @@ EMBEDDING_DEVICE = "cuda" if torch.cuda.is_available() else "mps" if torch.backe
# supported LLM models
# supported LLM models
# llm_model_dict 处理了loader的一些预设行为,如加载位置,模型名称,模型处理器实例
# llm_model_dict 处理了loader的一些预设行为,如加载位置,模型名称,模型处理器实例
# 在以下字典中修改属性值,以指定本地 LLM 模型存储位置
# 如将 "chatglm-6b" 的 "local_model_path" 由 None 修改为 "User/Downloads/chatglm-6b"
# 此处请写绝对路径
llm_model_dict
=
{
llm_model_dict
=
{
"chatglm-6b-int4-qe"
:
{
"chatglm-6b-int4-qe"
:
{
"name"
:
"chatglm-6b-int4-qe"
,
"name"
:
"chatglm-6b-int4-qe"
,
...
@@ -49,7 +55,7 @@ llm_model_dict = {
...
@@ -49,7 +55,7 @@ llm_model_dict = {
"chatglm-6b"
:
{
"chatglm-6b"
:
{
"name"
:
"chatglm-6b"
,
"name"
:
"chatglm-6b"
,
"pretrained_model_name"
:
"THUDM/chatglm-6b"
,
"pretrained_model_name"
:
"THUDM/chatglm-6b"
,
"local_model_path"
:
"/media/checkpoint/chatglm-6b"
,
"local_model_path"
:
None
,
"provides"
:
"ChatGLM"
"provides"
:
"ChatGLM"
},
},
...
...
编写
预览
Markdown
格式
0%
重试
或
添加新文件
添加附件
取消
您添加了
0
人
到此讨论。请谨慎行事。
请先完成此评论的编辑!
取消
请
注册
或者
登录
后发表评论