Skip to content
项目
群组
代码片段
帮助
当前项目
正在载入...
登录 / 注册
切换导航面板
J
jinchat-server
概览
概览
详情
活动
周期分析
版本库
存储库
文件
提交
分支
标签
贡献者
分支图
比较
统计图
问题
0
议题
0
列表
看板
标记
里程碑
合并请求
0
合并请求
0
CI / CD
CI / CD
流水线
作业
日程表
图表
维基
Wiki
代码片段
代码片段
成员
成员
折叠边栏
关闭边栏
活动
图像
聊天
创建新问题
作业
提交
问题看板
Open sidebar
aigc-pioneer
jinchat-server
Commits
2c72a009
Unverified
提交
2c72a009
authored
5月 06, 2023
作者:
keenzhu
提交者:
GitHub
5月 06, 2023
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
Update local_doc_qa.py
增加命令行导入的进度条显示 增加文本提示
上级
26393f48
显示空白字符变更
内嵌
并排
正在显示
1 个修改的文件
包含
11 行增加
和
4 行删除
+11
-4
local_doc_qa.py
chains/local_doc_qa.py
+11
-4
没有找到文件。
chains/local_doc_qa.py
浏览文件 @
2c72a009
...
@@ -9,6 +9,7 @@ from typing import List, Tuple
...
@@ -9,6 +9,7 @@ from typing import List, Tuple
from
langchain.docstore.document
import
Document
from
langchain.docstore.document
import
Document
import
numpy
as
np
import
numpy
as
np
from
utils
import
torch_gc
from
utils
import
torch_gc
from
tqdm
import
tqdm
DEVICE_
=
EMBEDDING_DEVICE
DEVICE_
=
EMBEDDING_DEVICE
...
@@ -136,6 +137,7 @@ class LocalDocQA:
...
@@ -136,6 +137,7 @@ class LocalDocQA:
filepath
:
str
or
List
[
str
],
filepath
:
str
or
List
[
str
],
vs_path
:
str
or
os
.
PathLike
=
None
):
vs_path
:
str
or
os
.
PathLike
=
None
):
loaded_files
=
[]
loaded_files
=
[]
failed_files
=
[]
if
isinstance
(
filepath
,
str
):
if
isinstance
(
filepath
,
str
):
if
not
os
.
path
.
exists
(
filepath
):
if
not
os
.
path
.
exists
(
filepath
):
print
(
"路径不存在"
)
print
(
"路径不存在"
)
...
@@ -152,15 +154,19 @@ class LocalDocQA:
...
@@ -152,15 +154,19 @@ class LocalDocQA:
return
None
return
None
elif
os
.
path
.
isdir
(
filepath
):
elif
os
.
path
.
isdir
(
filepath
):
docs
=
[]
docs
=
[]
for
file
in
os
.
listdir
(
filepath
):
for
file
in
tqdm
(
os
.
listdir
(
filepath
),
desc
=
"加载文件"
):
fullfilepath
=
os
.
path
.
join
(
filepath
,
file
)
fullfilepath
=
os
.
path
.
join
(
filepath
,
file
)
try
:
try
:
docs
+=
load_file
(
fullfilepath
)
docs
+=
load_file
(
fullfilepath
)
print
(
f
"{file} 已成功加载"
)
loaded_files
.
append
(
fullfilepath
)
loaded_files
.
append
(
fullfilepath
)
except
Exception
as
e
:
except
Exception
as
e
:
print
(
e
)
failed_files
.
append
(
file
)
print
(
f
"{file} 未能成功加载"
)
if
len
(
failed_files
)
>
0
:
print
(
"以下文件未能成功加载:"
)
for
file
in
failed_files
:
print
(
file
,
end
=
"
\n
"
)
else
:
else
:
docs
=
[]
docs
=
[]
for
file
in
filepath
:
for
file
in
filepath
:
...
@@ -172,6 +178,7 @@ class LocalDocQA:
...
@@ -172,6 +178,7 @@ class LocalDocQA:
print
(
e
)
print
(
e
)
print
(
f
"{file} 未能成功加载"
)
print
(
f
"{file} 未能成功加载"
)
if
len
(
docs
)
>
0
:
if
len
(
docs
)
>
0
:
print
(
"文件加载完毕,正在生成向量库"
)
if
vs_path
and
os
.
path
.
isdir
(
vs_path
):
if
vs_path
and
os
.
path
.
isdir
(
vs_path
):
vector_store
=
FAISS
.
load_local
(
vs_path
,
self
.
embeddings
)
vector_store
=
FAISS
.
load_local
(
vs_path
,
self
.
embeddings
)
vector_store
.
add_documents
(
docs
)
vector_store
.
add_documents
(
docs
)
...
...
编写
预览
Markdown
格式
0%
重试
或
添加新文件
添加附件
取消
您添加了
0
人
到此讨论。请谨慎行事。
请先完成此评论的编辑!
取消
请
注册
或者
登录
后发表评论