提交 b47d2c0c 作者: fengyu

修改二维码文件大小 以及增加模型权重百度网盘地址

上级 dc39f56c
<component name="InspectionProjectProfileManager">
<profile version="1.0">
<option name="myName" value="Project Default" />
<inspection_tool class="PyPackageRequirementsInspection" enabled="true" level="WARNING" enabled_by_default="true">
<option name="ignoredPackages">
<value>
<list size="42">
<item index="0" class="java.lang.String" itemvalue="openai" />
<item index="1" class="java.lang.String" itemvalue="fire" />
<item index="2" class="java.lang.String" itemvalue="rouge_score" />
<item index="3" class="java.lang.String" itemvalue="pandas" />
<item index="4" class="java.lang.String" itemvalue="tqdm" />
<item index="5" class="java.lang.String" itemvalue="sentencepiece" />
<item index="6" class="java.lang.String" itemvalue="uniout" />
<item index="7" class="java.lang.String" itemvalue="keras" />
<item index="8" class="java.lang.String" itemvalue="bottle" />
<item index="9" class="java.lang.String" itemvalue="tensorflow" />
<item index="10" class="java.lang.String" itemvalue="paddlefsl" />
<item index="11" class="java.lang.String" itemvalue="jieba" />
<item index="12" class="java.lang.String" itemvalue="typer" />
<item index="13" class="java.lang.String" itemvalue="colorlog" />
<item index="14" class="java.lang.String" itemvalue="rich" />
<item index="15" class="java.lang.String" itemvalue="dill" />
<item index="16" class="java.lang.String" itemvalue="datasets" />
<item index="17" class="java.lang.String" itemvalue="paddle2onnx" />
<item index="18" class="java.lang.String" itemvalue="seqeval" />
<item index="19" class="java.lang.String" itemvalue="colorama" />
<item index="20" class="java.lang.String" itemvalue="multiprocess" />
<item index="21" class="java.lang.String" itemvalue="visualdl" />
<item index="22" class="java.lang.String" itemvalue="huggingface_hub" />
<item index="23" class="java.lang.String" itemvalue="Flask-Babel" />
<item index="24" class="java.lang.String" itemvalue="gensim" />
<item index="25" class="java.lang.String" itemvalue="six" />
<item index="26" class="java.lang.String" itemvalue="pyahocorasick" />
<item index="27" class="java.lang.String" itemvalue="requests" />
<item index="28" class="java.lang.String" itemvalue="numpy" />
<item index="29" class="java.lang.String" itemvalue="py2neo" />
<item index="30" class="java.lang.String" itemvalue="termcolor" />
<item index="31" class="java.lang.String" itemvalue="pyzmq" />
<item index="32" class="java.lang.String" itemvalue="matplotlib" />
<item index="33" class="java.lang.String" itemvalue="flask_json" />
<item index="34" class="java.lang.String" itemvalue="flask_cors" />
<item index="35" class="java.lang.String" itemvalue="gevent" />
<item index="36" class="java.lang.String" itemvalue="Keras" />
<item index="37" class="java.lang.String" itemvalue="GPUtil" />
<item index="38" class="java.lang.String" itemvalue="itchat" />
<item index="39" class="java.lang.String" itemvalue="bert4keras" />
<item index="40" class="java.lang.String" itemvalue="flask_compress" />
<item index="41" class="java.lang.String" itemvalue="Flask" />
</list>
</value>
</option>
</inspection_tool>
</profile>
</component>
\ No newline at end of file
<component name="InspectionProjectProfileManager">
<settings>
<option name="USE_PROJECT_PROFILE" value="false" />
<version value="1.0" />
</settings>
</component>
\ No newline at end of file
<?xml version="1.0" encoding="UTF-8"?>
<module type="PYTHON_MODULE" version="4">
<component name="NewModuleRootManager">
<content url="file://$MODULE_DIR$" />
<orderEntry type="jdk" jdkName="py38_langchain" jdkType="Python SDK" />
<orderEntry type="sourceFolder" forTests="false" />
</component>
</module>
\ No newline at end of file
<?xml version="1.0" encoding="UTF-8"?>
<project version="4">
<component name="ProjectModuleManager">
<modules>
<module fileurl="file://$PROJECT_DIR$/.idea/langchain-ChatGLM.iml" filepath="$PROJECT_DIR$/.idea/langchain-ChatGLM.iml" />
</modules>
</component>
</project>
\ No newline at end of file
<?xml version="1.0" encoding="UTF-8"?>
<project version="4">
<component name="VcsDirectoryMappings">
<mapping directory="" vcs="Git" />
</component>
</project>
\ No newline at end of file
...@@ -43,7 +43,7 @@ ...@@ -43,7 +43,7 @@
### 硬件需求 ### 硬件需求
- ChatGLM-6B 模型硬件需求 - ChatGLM-6B 模型硬件需求
| **量化等级** | **最低 GPU 显存**(推理) | **最低 GPU 显存**(高效参数微调) | | **量化等级** | **最低 GPU 显存**(推理) | **最低 GPU 显存**(高效参数微调) |
| -------------- | ------------------------- | --------------------------------- | | -------------- | ------------------------- | --------------------------------- |
| FP16(无量化) | 13 GB | 14 GB | | FP16(无量化) | 13 GB | 14 GB |
...@@ -111,6 +111,15 @@ Q5: 本项目可否在 colab 中运行? ...@@ -111,6 +111,15 @@ Q5: 本项目可否在 colab 中运行?
A5: 可以尝试使用 chatglm-6b-int4 模型在 colab 中运行,需要注意的是,如需在 colab 中运行 Web UI,需将`webui.py``demo.queue(concurrency_count=3).launch( A5: 可以尝试使用 chatglm-6b-int4 模型在 colab 中运行,需要注意的是,如需在 colab 中运行 Web UI,需将`webui.py``demo.queue(concurrency_count=3).launch(
server_name='0.0.0.0', share=False, inbrowser=False)`中参数`share`设置为`True` server_name='0.0.0.0', share=False, inbrowser=False)`中参数`share`设置为`True`
Q6: 本项目用到的模型权重文件百度网盘地址:
1. ernie-3.0-base-zh.zip 链接: https://pan.baidu.com/s/1CIvKnD3qzE-orFouA8qvNQ?pwd=4wih
2. ernie-3.0-nano-zh.zip 链接: https://pan.baidu.com/s/1Fh8fgzVdavf5P1omAJJ-Zw?pwd=q6s5
3.
## DEMO ## DEMO
以问题`chatglm-6b 的局限性具体体现在哪里,如何实现改进`为例 以问题`chatglm-6b 的局限性具体体现在哪里,如何实现改进`为例
...@@ -161,6 +170,6 @@ A5: 可以尝试使用 chatglm-6b-int4 模型在 colab 中运行,需要注意 ...@@ -161,6 +170,6 @@ A5: 可以尝试使用 chatglm-6b-int4 模型在 colab 中运行,需要注意
- [ ] 利用 fastapi 实现 API 部署方式,并实现调用 API 的 web ui DEMO - [ ] 利用 fastapi 实现 API 部署方式,并实现调用 API 的 web ui DEMO
## 项目交流群 ## 项目交流群
![二维码](img/qr_code.jpg) ![二维码](img/qr_code_500.jpg)
🎉 langchain-ChatGLM 项目交流群,如果你也对本项目感兴趣,欢迎加入群聊参与讨论交流。 🎉 langchain-ChatGLM 项目交流群,如果你也对本项目感兴趣,欢迎加入群聊参与讨论交流。
Markdown 格式
0%
您添加了 0 到此讨论。请谨慎行事。
请先完成此评论的编辑!
注册 或者 后发表评论