提交 6d5b1438 作者: imClumsyPanda

Add llm_model_dict to choose llm and add chatglm-6b-int4 as an option

上级 7720bb58
...@@ -22,6 +22,8 @@ class ChatGLM(LLM): ...@@ -22,6 +22,8 @@ class ChatGLM(LLM):
temperature: float = 0.1 temperature: float = 0.1
top_p = 0.9 top_p = 0.9
history = [] history = []
tokenizer: object = None
model: object = None
def __init__(self): def __init__(self):
super().__init__() super().__init__()
......
Markdown 格式
0%
您添加了 0 到此讨论。请谨慎行事。
请先完成此评论的编辑!
注册 或者 后发表评论