Skip to content
项目
群组
代码片段
帮助
当前项目
正在载入...
登录 / 注册
切换导航面板
J
jinchat-server
概览
概览
详情
活动
周期分析
版本库
存储库
文件
提交
分支
标签
贡献者
分支图
比较
统计图
问题
0
议题
0
列表
看板
标记
里程碑
合并请求
0
合并请求
0
CI / CD
CI / CD
流水线
作业
日程表
图表
维基
Wiki
代码片段
代码片段
成员
成员
折叠边栏
关闭边栏
活动
图像
聊天
创建新问题
作业
提交
问题看板
Open sidebar
aigc-pioneer
jinchat-server
Commits
57d4d0a2
提交
57d4d0a2
authored
5月 03, 2023
作者:
imClumsyPanda
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
update chatglm_llm.py
上级
8db6cd51
隐藏空白字符变更
内嵌
并排
正在显示
1 个修改的文件
包含
1 行增加
和
6 行删除
+1
-6
chatglm_llm.py
models/chatglm_llm.py
+1
-6
没有找到文件。
models/chatglm_llm.py
浏览文件 @
57d4d0a2
import
json
import
json
from
langchain.llms.base
import
LLM
from
langchain.llms.base
import
LLM
from
typing
import
Optional
,
List
from
typing
import
List
,
Dict
,
Optional
from
langchain.llms.utils
import
enforce_stop_tokens
from
transformers
import
AutoTokenizer
,
AutoModel
,
AutoConfig
from
transformers
import
AutoTokenizer
,
AutoModel
,
AutoConfig
import
torch
import
torch
from
configs.model_config
import
*
from
configs.model_config
import
*
from
langchain.callbacks.base
import
CallbackManager
from
langchain.callbacks.streaming_stdout
import
StreamingStdOutCallbackHandler
from
typing
import
Dict
,
Tuple
,
Union
,
Optional
from
utils
import
torch_gc
from
utils
import
torch_gc
DEVICE_
=
LLM_DEVICE
DEVICE_
=
LLM_DEVICE
...
@@ -53,7 +49,6 @@ class ChatGLM(LLM):
...
@@ -53,7 +49,6 @@ class ChatGLM(LLM):
tokenizer
:
object
=
None
tokenizer
:
object
=
None
model
:
object
=
None
model
:
object
=
None
history_len
:
int
=
10
history_len
:
int
=
10
callback_manager
=
CallbackManager
([
StreamingStdOutCallbackHandler
()])
def
__init__
(
self
):
def
__init__
(
self
):
super
()
.
__init__
()
super
()
.
__init__
()
...
...
编写
预览
Markdown
格式
0%
重试
或
添加新文件
添加附件
取消
您添加了
0
人
到此讨论。请谨慎行事。
请先完成此评论的编辑!
取消
请
注册
或者
登录
后发表评论