Unverified 提交 6ab496ea 作者: zzxs 提交者: GitHub

Update api.py (#628)

修复websocket的伪流式输出
上级 b922970a
...@@ -4,7 +4,7 @@ import os ...@@ -4,7 +4,7 @@ import os
import shutil import shutil
from typing import List, Optional from typing import List, Optional
import urllib import urllib
import asyncio
import nltk import nltk
import pydantic import pydantic
import uvicorn import uvicorn
...@@ -382,6 +382,7 @@ async def stream_chat(websocket: WebSocket, knowledge_base_id: str): ...@@ -382,6 +382,7 @@ async def stream_chat(websocket: WebSocket, knowledge_base_id: str):
for resp, history in local_doc_qa.get_knowledge_based_answer( for resp, history in local_doc_qa.get_knowledge_based_answer(
query=question, vs_path=vs_path, chat_history=history, streaming=True query=question, vs_path=vs_path, chat_history=history, streaming=True
): ):
await asyncio.sleep(0)
await websocket.send_text(resp["result"][last_print_len:]) await websocket.send_text(resp["result"][last_print_len:])
last_print_len = len(resp["result"]) last_print_len = len(resp["result"])
......
Markdown 格式
0%
您添加了 0 到此讨论。请谨慎行事。
请先完成此评论的编辑!
注册 或者 后发表评论