Skip to content
项目
群组
代码片段
帮助
当前项目
正在载入...
登录 / 注册
切换导航面板
J
jinchat-server
概览
概览
详情
活动
周期分析
版本库
存储库
文件
提交
分支
标签
贡献者
分支图
比较
统计图
问题
0
议题
0
列表
看板
标记
里程碑
合并请求
0
合并请求
0
CI / CD
CI / CD
流水线
作业
日程表
图表
维基
Wiki
代码片段
代码片段
成员
成员
折叠边栏
关闭边栏
活动
图像
聊天
创建新问题
作业
提交
问题看板
Open sidebar
aigc-pioneer
jinchat-server
Commits
7217e339
Unverified
提交
7217e339
authored
7月 04, 2023
作者:
stc2001
提交者:
GitHub
7月 04, 2023
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
Update model_config.py (#768)
添加ChatGLM2-6b-int4和ChatGLM2-6b-int8
上级
80ecc080
显示空白字符变更
内嵌
并排
正在显示
1 个修改的文件
包含
13 行增加
和
2 行删除
+13
-2
model_config.py
configs/model_config.py
+13
-2
没有找到文件。
configs/model_config.py
浏览文件 @
7217e339
...
@@ -64,7 +64,18 @@ llm_model_dict = {
...
@@ -64,7 +64,18 @@ llm_model_dict = {
"local_model_path"
:
None
,
"local_model_path"
:
None
,
"provides"
:
"ChatGLM"
"provides"
:
"ChatGLM"
},
},
"chatglm2-6b-int4"
:
{
"name"
:
"chatglm2-6b-int4"
,
"pretrained_model_name"
:
"THUDM/chatglm2-6b-int4"
,
"local_model_path"
:
None
,
"provides"
:
"ChatGLM"
},
"chatglm2-6b-int8"
:
{
"name"
:
"chatglm2-6b-int8"
,
"pretrained_model_name"
:
"THUDM/chatglm2-6b-int8"
,
"local_model_path"
:
None
,
"provides"
:
"ChatGLM"
},
"chatyuan"
:
{
"chatyuan"
:
{
"name"
:
"chatyuan"
,
"name"
:
"chatyuan"
,
"pretrained_model_name"
:
"ClueAI/ChatYuan-large-v2"
,
"pretrained_model_name"
:
"ClueAI/ChatYuan-large-v2"
,
...
@@ -141,7 +152,7 @@ PROMPT_TEMPLATE = """已知信息:
...
@@ -141,7 +152,7 @@ PROMPT_TEMPLATE = """已知信息:
根据上述已知信息,简洁和专业的来回答用户的问题。如果无法从中得到答案,请说 “根据已知信息无法回答该问题” 或 “没有提供足够的相关信息”,不允许在答案中添加编造成分,答案请使用中文。 问题是:{question}"""
根据上述已知信息,简洁和专业的来回答用户的问题。如果无法从中得到答案,请说 “根据已知信息无法回答该问题” 或 “没有提供足够的相关信息”,不允许在答案中添加编造成分,答案请使用中文。 问题是:{question}"""
# 缓存知识库数量
# 缓存知识库数量
,如果是ChatGLM2,ChatGLM2-int4,ChatGLM2-int8模型若检索效果不好可以调成’10’
CACHED_VS_NUM
=
1
CACHED_VS_NUM
=
1
# 文本分句长度
# 文本分句长度
...
...
编写
预览
Markdown
格式
0%
重试
或
添加新文件
添加附件
取消
您添加了
0
人
到此讨论。请谨慎行事。
请先完成此评论的编辑!
取消
请
注册
或者
登录
后发表评论