Skip to content
项目
群组
代码片段
帮助
当前项目
正在载入...
登录 / 注册
切换导航面板
J
jinchat-server
概览
概览
详情
活动
周期分析
版本库
存储库
文件
提交
分支
标签
贡献者
分支图
比较
统计图
问题
0
议题
0
列表
看板
标记
里程碑
合并请求
0
合并请求
0
CI / CD
CI / CD
流水线
作业
日程表
图表
维基
Wiki
代码片段
代码片段
成员
成员
折叠边栏
关闭边栏
活动
图像
聊天
创建新问题
作业
提交
问题看板
Open sidebar
aigc-pioneer
jinchat-server
Commits
e8a37ff4
提交
e8a37ff4
authored
5月 20, 2023
作者:
imClumsyPanda
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
update loader.py
上级
d5ffdaa2
显示空白字符变更
内嵌
并排
正在显示
2 个修改的文件
包含
5 行增加
和
2 行删除
+5
-2
local_doc_qa.py
chains/local_doc_qa.py
+4
-1
pdf_loader.py
loader/pdf_loader.py
+1
-1
没有找到文件。
chains/local_doc_qa.py
浏览文件 @
e8a37ff4
...
@@ -26,6 +26,9 @@ def load_file(filepath, sentence_size=SENTENCE_SIZE):
...
@@ -26,6 +26,9 @@ def load_file(filepath, sentence_size=SENTENCE_SIZE):
if
filepath
.
lower
()
.
endswith
(
".md"
):
if
filepath
.
lower
()
.
endswith
(
".md"
):
loader
=
UnstructuredFileLoader
(
filepath
,
mode
=
"elements"
)
loader
=
UnstructuredFileLoader
(
filepath
,
mode
=
"elements"
)
docs
=
loader
.
load
()
docs
=
loader
.
load
()
elif
filepath
.
lower
()
.
endswith
(
".txt"
):
loader
=
UnstructuredFileLoader
(
filepath
,
mode
=
"elements"
)
docs
=
loader
.
load
()
elif
filepath
.
lower
()
.
endswith
(
".pdf"
):
elif
filepath
.
lower
()
.
endswith
(
".pdf"
):
loader
=
UnstructuredPaddlePDFLoader
(
filepath
)
loader
=
UnstructuredPaddlePDFLoader
(
filepath
)
textsplitter
=
ChineseTextSplitter
(
pdf
=
True
,
sentence_size
=
sentence_size
)
textsplitter
=
ChineseTextSplitter
(
pdf
=
True
,
sentence_size
=
sentence_size
)
...
@@ -47,7 +50,7 @@ def write_check_file(filepath, docs):
...
@@ -47,7 +50,7 @@ def write_check_file(filepath, docs):
if
not
os
.
path
.
exists
(
folder_path
):
if
not
os
.
path
.
exists
(
folder_path
):
os
.
makedirs
(
folder_path
)
os
.
makedirs
(
folder_path
)
fp
=
os
.
path
.
join
(
folder_path
,
'load_file.txt'
)
fp
=
os
.
path
.
join
(
folder_path
,
'load_file.txt'
)
fout
=
open
(
fp
,
'a'
)
with
open
(
fp
,
'a+'
,
encoding
=
'utf-8'
)
as
fout
:
fout
.
write
(
"filepath=
%
s,len=
%
s"
%
(
filepath
,
len
(
docs
)))
fout
.
write
(
"filepath=
%
s,len=
%
s"
%
(
filepath
,
len
(
docs
)))
fout
.
write
(
'
\n
'
)
fout
.
write
(
'
\n
'
)
for
i
in
docs
:
for
i
in
docs
:
...
...
loader/pdf_loader.py
浏览文件 @
e8a37ff4
...
@@ -19,7 +19,7 @@ class UnstructuredPaddlePDFLoader(UnstructuredFileLoader):
...
@@ -19,7 +19,7 @@ class UnstructuredPaddlePDFLoader(UnstructuredFileLoader):
ocr
=
PaddleOCR
(
lang
=
"ch"
,
use_gpu
=
False
,
show_log
=
False
)
ocr
=
PaddleOCR
(
lang
=
"ch"
,
use_gpu
=
False
,
show_log
=
False
)
doc
=
fitz
.
open
(
filepath
)
doc
=
fitz
.
open
(
filepath
)
txt_file_path
=
os
.
path
.
join
(
full_dir_path
,
"
%
s.txt"
%
(
filename
))
txt_file_path
=
os
.
path
.
join
(
full_dir_path
,
"
%
s.txt"
%
(
filename
))
img_name
=
os
.
path
.
join
(
full_dir_path
,
'
.
tmp.png'
)
img_name
=
os
.
path
.
join
(
full_dir_path
,
'tmp.png'
)
with
open
(
txt_file_path
,
'w'
,
encoding
=
'utf-8'
)
as
fout
:
with
open
(
txt_file_path
,
'w'
,
encoding
=
'utf-8'
)
as
fout
:
for
i
in
range
(
doc
.
page_count
):
for
i
in
range
(
doc
.
page_count
):
...
...
编写
预览
Markdown
格式
0%
重试
或
添加新文件
添加附件
取消
您添加了
0
人
到此讨论。请谨慎行事。
请先完成此评论的编辑!
取消
请
注册
或者
登录
后发表评论