Skip to content
项目
群组
代码片段
帮助
当前项目
正在载入...
登录 / 注册
切换导航面板
J
jinchat-server
概览
概览
详情
活动
周期分析
版本库
存储库
文件
提交
分支
标签
贡献者
分支图
比较
统计图
问题
0
议题
0
列表
看板
标记
里程碑
合并请求
0
合并请求
0
CI / CD
CI / CD
流水线
作业
日程表
图表
维基
Wiki
代码片段
代码片段
成员
成员
折叠边栏
关闭边栏
活动
图像
聊天
创建新问题
作业
提交
问题看板
Open sidebar
aigc-pioneer
jinchat-server
Commits
dcf6e4ff
提交
dcf6e4ff
authored
5月 11, 2023
作者:
imClumsyPanda
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
update README.md
上级
64406cee
显示空白字符变更
内嵌
并排
正在显示
1 个修改的文件
包含
8 行增加
和
2 行删除
+8
-2
README.md
README.md
+8
-2
没有找到文件。
README.md
浏览文件 @
dcf6e4ff
...
...
@@ -32,6 +32,10 @@
-
ChatGLM-6B 模型硬件需求
注:如未将模型下载至本地,请执行前检查`$HOME/.cache/huggingface/`文件夹剩余空间,模型文件下载至本地需要 15 GB 存储空间。
模型下载方法可参考 [常见问题](docs/FAQ.md) 中 Q8。
|
**量化等级**
|
**最低 GPU 显存**
(推理) |
**最低 GPU 显存**
(高效参数微调) |
| -------------- | ------------------------- | --------------------------------- |
| FP16(无量化) | 13 GB | 14 GB |
...
...
@@ -40,6 +44,10 @@
-
MOSS 模型硬件需求
注:如未将模型下载至本地,请执行前检查
`$HOME/.cache/huggingface/`
文件夹剩余空间,模型文件下载至本地需要 70 GB 存储空间
模型下载方法可参考 [常见问题](docs/FAQ.md) 中 Q8。
| **量化等级** | **最低 GPU 显存**(推理) | **最低 GPU 显存**(高效参数微调) |
|-------------------|-----------------------| --------------------------------- |
| FP16(无量化) | 68 GB | - |
...
...
@@ -114,8 +122,6 @@ $ pnpm i
$
npm run dev
```
注:如未将模型下载至本地,请执行前检查
`$HOME/.cache/huggingface/`
文件夹剩余空间,至少15G(MOSS模型下载需要70G)。
执行后效果如下图所示:
1.
`对话`
Tab 界面
!
[
](img/webui_0510_0.png)
...
...
编写
预览
Markdown
格式
0%
重试
或
添加新文件
添加附件
取消
您添加了
0
人
到此讨论。请谨慎行事。
请先完成此评论的编辑!
取消
请
注册
或者
登录
后发表评论