Skip to content
项目
群组
代码片段
帮助
当前项目
正在载入...
登录 / 注册
切换导航面板
J
jinchat-server
概览
概览
详情
活动
周期分析
版本库
存储库
文件
提交
分支
标签
贡献者
分支图
比较
统计图
问题
0
议题
0
列表
看板
标记
里程碑
合并请求
0
合并请求
0
CI / CD
CI / CD
流水线
作业
日程表
图表
维基
Wiki
代码片段
代码片段
成员
成员
折叠边栏
关闭边栏
活动
图像
聊天
创建新问题
作业
提交
问题看板
Open sidebar
aigc-pioneer
jinchat-server
Commits
6f8da560
Unverified
提交
6f8da560
authored
5月 22, 2023
作者:
glide-the
提交者:
GitHub
5月 22, 2023
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
Update loader.py
删除低显存加载参数
上级
52cf43a4
隐藏空白字符变更
内嵌
并排
正在显示
1 个修改的文件
包含
0 行增加
和
2 行删除
+0
-2
loader.py
models/loader/loader.py
+0
-2
没有找到文件。
models/loader/loader.py
浏览文件 @
6f8da560
...
@@ -113,7 +113,6 @@ class LoaderCheckPoint:
...
@@ -113,7 +113,6 @@ class LoaderCheckPoint:
if
num_gpus
<
2
and
self
.
device_map
is
None
:
if
num_gpus
<
2
and
self
.
device_map
is
None
:
model
=
(
model
=
(
LoaderClass
.
from_pretrained
(
checkpoint
,
LoaderClass
.
from_pretrained
(
checkpoint
,
low_cpu_mem_usage
=
True
,
config
=
self
.
model_config
,
config
=
self
.
model_config
,
torch_dtype
=
torch
.
bfloat16
if
self
.
bf16
else
torch
.
float16
,
torch_dtype
=
torch
.
bfloat16
if
self
.
bf16
else
torch
.
float16
,
trust_remote_code
=
True
)
trust_remote_code
=
True
)
...
@@ -124,7 +123,6 @@ class LoaderCheckPoint:
...
@@ -124,7 +123,6 @@ class LoaderCheckPoint:
from
accelerate
import
dispatch_model
from
accelerate
import
dispatch_model
model
=
LoaderClass
.
from_pretrained
(
checkpoint
,
model
=
LoaderClass
.
from_pretrained
(
checkpoint
,
low_cpu_mem_usage
=
True
,
config
=
self
.
model_config
,
config
=
self
.
model_config
,
torch_dtype
=
torch
.
bfloat16
if
self
.
bf16
else
torch
.
float16
,
torch_dtype
=
torch
.
bfloat16
if
self
.
bf16
else
torch
.
float16
,
trust_remote_code
=
True
)
.
half
()
trust_remote_code
=
True
)
.
half
()
...
...
编写
预览
Markdown
格式
0%
重试
或
添加新文件
添加附件
取消
您添加了
0
人
到此讨论。请谨慎行事。
请先完成此评论的编辑!
取消
请
注册
或者
登录
后发表评论