Skip to content
项目
群组
代码片段
帮助
当前项目
正在载入...
登录 / 注册
切换导航面板
J
jinchat-server
概览
概览
详情
活动
周期分析
版本库
存储库
文件
提交
分支
标签
贡献者
分支图
比较
统计图
问题
0
议题
0
列表
看板
标记
里程碑
合并请求
0
合并请求
0
CI / CD
CI / CD
流水线
作业
日程表
图表
维基
Wiki
代码片段
代码片段
成员
成员
折叠边栏
关闭边栏
活动
图像
聊天
创建新问题
作业
提交
问题看板
Open sidebar
aigc-pioneer
jinchat-server
Commits
17f9a00e
提交
17f9a00e
authored
6月 12, 2023
作者:
hzg0601
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
解决无法从cli.py启动cli_demo的问题
上级
a3ee718a
隐藏空白字符变更
内嵌
并排
正在显示
2 个修改的文件
包含
32 行增加
和
8 行删除
+32
-8
cli.py
cli.py
+18
-4
cli_demo.py
cli_demo.py
+14
-4
没有找到文件。
cli.py
浏览文件 @
17f9a00e
...
@@ -53,16 +53,30 @@ def start_api(ip, port):
...
@@ -53,16 +53,30 @@ def start_api(ip, port):
shared
.
loaderCheckPoint
=
LoaderCheckPoint
(
DEFAULT_ARGS
)
shared
.
loaderCheckPoint
=
LoaderCheckPoint
(
DEFAULT_ARGS
)
api_start
(
host
=
ip
,
port
=
port
)
api_start
(
host
=
ip
,
port
=
port
)
# # 通过cli.py调用cli_demo时需要在cli.py里初始化模型,否则会报错:
# langchain-ChatGLM: error: unrecognized arguments: start cli
# 为此需要先将
# args = None
# args = parser.parse_args()
# args_dict = vars(args)
# shared.loaderCheckPoint = LoaderCheckPoint(args_dict)
# 语句从main函数里取出放到函数外部
# 然后在cli.py里初始化
@start.command
(
name
=
"cli"
,
context_settings
=
dict
(
help_option_names
=
[
'-h'
,
'--help'
]))
@start.command
(
name
=
"cli"
,
context_settings
=
dict
(
help_option_names
=
[
'-h'
,
'--help'
]))
@click.option
(
'-i'
,
'--info'
,
default
=
"start client"
,
show_default
=
True
,
type
=
str
)
def
start_cli
(
info
):
def
start_cli
(
info
):
print
(
info
)
print
(
"通过cli.py调用cli_demo..."
)
from
models.loader.args
import
parser
from
models
import
shared
from
models.loader
import
LoaderCheckPoint
from
models.loader.args
import
DEFAULT_ARGS
shared
.
loaderCheckPoint
=
LoaderCheckPoint
(
DEFAULT_ARGS
)
cli_start
()
cli_start
()
# 同cli命令,通过cli.py调用webui时,argparse的初始化需要放到cli.py里,
# 但由于webui.py里,模型初始化通过init_model函数实现,也无法简单地分离出主函数,
# 因此除非对webui进行大改,否则无法通过python cli.py start webui 调用webui。
# 故建议不要通过以上命令启动webui,将下述语句注释掉
@start.command
(
name
=
"webui"
,
context_settings
=
dict
(
help_option_names
=
[
'-h'
,
'--help'
]))
@start.command
(
name
=
"webui"
,
context_settings
=
dict
(
help_option_names
=
[
'-h'
,
'--help'
]))
@click.option
(
'-i'
,
'--info'
,
default
=
"start client"
,
show_default
=
True
,
type
=
str
)
@click.option
(
'-i'
,
'--info'
,
default
=
"start client"
,
show_default
=
True
,
type
=
str
)
...
...
cli_demo.py
浏览文件 @
17f9a00e
...
@@ -12,10 +12,7 @@ REPLY_WITH_SOURCE = True
...
@@ -12,10 +12,7 @@ REPLY_WITH_SOURCE = True
def
main
():
def
main
():
args
=
None
args
=
parser
.
parse_args
()
args_dict
=
vars
(
args
)
shared
.
loaderCheckPoint
=
LoaderCheckPoint
(
args_dict
)
llm_model_ins
=
shared
.
loaderLLM
()
llm_model_ins
=
shared
.
loaderLLM
()
llm_model_ins
.
history_len
=
LLM_HISTORY_LEN
llm_model_ins
.
history_len
=
LLM_HISTORY_LEN
...
@@ -53,4 +50,17 @@ def main():
...
@@ -53,4 +50,17 @@ def main():
if
__name__
==
"__main__"
:
if
__name__
==
"__main__"
:
# # 通过cli.py调用cli_demo时需要在cli.py里初始化模型,否则会报错:
# langchain-ChatGLM: error: unrecognized arguments: start cli
# 为此需要先将
# args = None
# args = parser.parse_args()
# args_dict = vars(args)
# shared.loaderCheckPoint = LoaderCheckPoint(args_dict)
# 语句从main函数里取出放到函数外部
# 然后在cli.py里初始化
args
=
None
args
=
parser
.
parse_args
()
args_dict
=
vars
(
args
)
shared
.
loaderCheckPoint
=
LoaderCheckPoint
(
args_dict
)
main
()
main
()
编写
预览
Markdown
格式
0%
重试
或
添加新文件
添加附件
取消
您添加了
0
人
到此讨论。请谨慎行事。
请先完成此评论的编辑!
取消
请
注册
或者
登录
后发表评论