Skip to content
项目
群组
代码片段
帮助
当前项目
正在载入...
登录 / 注册
切换导航面板
J
jinchat-server
概览
概览
详情
活动
周期分析
版本库
存储库
文件
提交
分支
标签
贡献者
分支图
比较
统计图
问题
0
议题
0
列表
看板
标记
里程碑
合并请求
0
合并请求
0
CI / CD
CI / CD
流水线
作业
日程表
图表
维基
Wiki
代码片段
代码片段
成员
成员
折叠边栏
关闭边栏
活动
图像
聊天
创建新问题
作业
提交
问题看板
Open sidebar
aigc-pioneer
jinchat-server
Commits
f1470432
提交
f1470432
authored
4月 20, 2023
作者:
imClumsyPanda
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
fix bug in chatglm_llm.py
上级
5c34dd94
隐藏空白字符变更
内嵌
并排
正在显示
2 个修改的文件
包含
3 行增加
和
9 行删除
+3
-9
local_doc_qa.py
chains/local_doc_qa.py
+3
-1
chatglm_llm.py
models/chatglm_llm.py
+0
-8
没有找到文件。
chains/local_doc_qa.py
浏览文件 @
f1470432
...
...
@@ -41,10 +41,12 @@ class LocalDocQA:
llm_model
:
str
=
LLM_MODEL
,
llm_device
=
LLM_DEVICE
,
top_k
=
VECTOR_SEARCH_TOP_K
,
use_ptuning_v2
:
bool
=
USE_PTUNING_V2
):
self
.
llm
=
ChatGLM
()
self
.
llm
.
load_model
(
model_name_or_path
=
llm_model_dict
[
llm_model
],
llm_device
=
llm_device
)
llm_device
=
llm_device
,
use_ptuning_v2
=
use_ptuning_v2
)
self
.
llm
.
history_len
=
llm_history_len
self
.
embeddings
=
HuggingFaceEmbeddings
(
model_name
=
embedding_model_dict
[
embedding_model
],
)
...
...
models/chatglm_llm.py
浏览文件 @
f1470432
...
...
@@ -127,14 +127,6 @@ class ChatGLM(LLM):
device_map
=
auto_configure_device_map
(
num_gpus
)
self
.
model
=
dispatch_model
(
model
,
device_map
=
device_map
)
self
.
model
=
(
AutoModel
.
from_pretrained
(
model_name_or_path
,
config
=
model_config
,
trust_remote_code
=
True
)
.
half
()
.
cuda
()
)
else
:
self
.
model
=
(
AutoModel
.
from_pretrained
(
...
...
编写
预览
Markdown
格式
0%
重试
或
添加新文件
添加附件
取消
您添加了
0
人
到此讨论。请谨慎行事。
请先完成此评论的编辑!
取消
请
注册
或者
登录
后发表评论