-
Notifications
You must be signed in to change notification settings - Fork 138
New issue
Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.
By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.
Already on GitHub? Sign in to your account
Json错误:Empty strings are not legal JSON5 #181
Comments
我又试了几次,这次在prompt里面要求去掉了空白行,可以实现,但是还会有一样的错误。这次我把Agently的debug信息也放了上来。 PS:这次和上次总结的内容并不相同。
|
我做了一个演示实例,里面包含我要做的逻辑,就是总结专利文档的“description”和“claims”部分。有意思的是,如果运行多次,大部分的时候会出现上面说的错误,偶尔可以成功。而且出错的部分基本都是在总结“claims”,总结“description”的时候很少,几乎不会出错。 是“claims”的原始文本有什么特别的,需要处理吗?我没法发现特别的地方。 |
这个问题应该是由于llama3不能遵循Prompt生成JSON格式造成的,我看到请求Prompt里有包括:FORMAT:\n{\n\t"claims": <class 'str'>\n},但是输出的时候并没有看到这个外包裹,造成了JSON解析错误。 如果只是claims一个字段进行输出,可以考虑去掉agent.output()的格式约束表达,这样输出就会和模型输出保持一致了,也不会触发框架的JSON解析和修复逻辑。 |
好的,我去试试看去掉output()的约束,请问我用Ollama,有什么模型对JSON格式的生成支持更好吗? |
各种code相关的模型,国内的通义、智谱的13B+模型,OpenChat 8B |
你好,我在使用Agently总结文章的时候,会碰到以下错误
更详细的错误信息我放到下面的文件里面。
这个问题不会每次都发生,但是发生的时候,Json string都有空白行,我不知道这个是不是原因。
多谢你的帮助和支持
error_logs.txt
The text was updated successfully, but these errors were encountered: