Skip to content
项目
群组
代码片段
帮助
当前项目
正在载入...
登录 / 注册
切换导航面板
J
jinchat-server
概览
概览
详情
活动
周期分析
版本库
存储库
文件
提交
分支
标签
贡献者
分支图
比较
统计图
问题
0
议题
0
列表
看板
标记
里程碑
合并请求
0
合并请求
0
CI / CD
CI / CD
流水线
作业
日程表
图表
维基
Wiki
代码片段
代码片段
成员
成员
折叠边栏
关闭边栏
活动
图像
聊天
创建新问题
作业
提交
问题看板
Open sidebar
aigc-pioneer
jinchat-server
Commits
51c44e3e
提交
51c44e3e
authored
4月 07, 2023
作者:
littlepanda0716
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
update chatglm_llm.py
上级
3ab6dbee
隐藏空白字符变更
内嵌
并排
正在显示
1 个修改的文件
包含
13 行增加
和
16 行删除
+13
-16
chatglm_llm.py
chatglm_llm.py
+13
-16
没有找到文件。
chatglm_llm.py
浏览文件 @
51c44e3e
...
...
@@ -3,7 +3,17 @@ from typing import Optional, List
from
langchain.llms.utils
import
enforce_stop_tokens
from
transformers
import
AutoTokenizer
,
AutoModel
"""ChatGLM_G is a wrapper around the ChatGLM model to fit LangChain framework. May not be an optimal implementation"""
tokenizer
=
AutoTokenizer
.
from_pretrained
(
"THUDM/chatglm-6b"
,
trust_remote_code
=
True
)
model
=
(
AutoModel
.
from_pretrained
(
"THUDM/chatglm-6b"
,
trust_remote_code
=
True
)
.
half
()
.
cuda
()
)
class
ChatGLM
(
LLM
):
...
...
@@ -11,18 +21,6 @@ class ChatGLM(LLM):
temperature
:
float
=
0.1
top_p
=
0.9
history
=
[]
tokenizer
=
AutoTokenizer
.
from_pretrained
(
"THUDM/chatglm-6b"
,
trust_remote_code
=
True
)
model
=
(
AutoModel
.
from_pretrained
(
"THUDM/chatglm-6b"
,
trust_remote_code
=
True
)
.
half
()
.
cuda
()
)
def
__init__
(
self
):
super
()
.
__init__
()
...
...
@@ -34,13 +32,12 @@ class ChatGLM(LLM):
def
_call
(
self
,
prompt
:
str
,
stop
:
Optional
[
List
[
str
]]
=
None
)
->
str
:
response
,
updated_history
=
self
.
model
.
chat
(
self
.
tokenizer
,
response
,
updated_history
=
model
.
chat
(
tokenizer
,
prompt
,
history
=
self
.
history
,
max_length
=
self
.
max_token
,
temperature
=
self
.
temperature
,
)
print
(
"history: "
,
self
.
history
)
if
stop
is
not
None
:
...
...
编写
预览
Markdown
格式
0%
重试
或
添加新文件
添加附件
取消
您添加了
0
人
到此讨论。请谨慎行事。
请先完成此评论的编辑!
取消
请
注册
或者
登录
后发表评论