Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

Azure openapi 不支持, azure-openai-proxy 转换了也不行吗 #175

Open
1 task done
geekhuashan opened this issue Jun 8, 2023 · 11 comments
Open
1 task done

Comments

@geekhuashan
Copy link

这个问题是否已有issue

  • 我确认没有已有issue,且已阅读常见问题

运行环境

  • OS: WIN 10
  • Zotero version: 6.0.26
  • Plugin version: 0.29

当前配置信息

image

问题详情

我利用 https://github.com/stulzq/azure-openai-proxy 这个服务,在vps上自建了将azure 的api转换成了openai的api。

在chatbox AMA 客户端中测试成功

这个插件是不支持这个功能吗

#80 这个跟我比较类似

怎么样设置才可以呢,还是需要后期支持这种功能啊

补充说明

No response

@MuiseDestiny
Copy link
Owner

保证填写的api,
构成的${api}/v1/chat/completions${api}/v1/embeddings 可调用就可以。

@geekhuashan
Copy link
Author

geekhuashan commented Jun 9, 2023

保证填写的api, 构成的${api}/v1/chat/completions${api}/v1/embeddings 可调用就可以。
image

自建的服务,无法调用。

微软官方的api 能否支持调用呢,有没有测试过啊,这个应该蛮多人需要的把

@MuiseDestiny
Copy link
Owner

你的调用方式是啥样的

@geekhuashan
Copy link
Author

geekhuashan commented Jun 9, 2023

azure
我用的api endpoint 类似于https://huashanai.openai.azure.com/
密匙用的 生成的key

自建的
api 用的 ip:8010
key 用的 azure的key

@geekhuashan
Copy link
Author

你的调用方式是啥样的

大佬 应该怎么写这个 API 和 key啊

@MuiseDestiny
Copy link
Owner

我不知道具体搭建过程。只需要完全1:1实现openai的调用 传入参数和返回。api和key填入插件就能用。

现在的代理网站就是1:1实现openai的api。其实是转发。所以所有代理api key可以用于本插件。

@geekhuashan
Copy link
Author

我不知道具体搭建过程。只需要完全1:1实现openai的调用 传入参数和返回。api和key填入插件就能用。

现在的代理网站就是1:1实现openai的api。其实是转发。所以所有代理api key可以用于本插件。

大佬 我估计 不太一样的 因为是将azure的API转换所以不太一致

@zawnpn
Copy link

zawnpn commented Jun 16, 2023

用cloudflare worker把azure api包装成openai api的形式
https://github.com/haibbo/cf-openai-azure-proxy

@yangguang760
Copy link
Contributor

目前最大的问题是azure api的embeddings不支持数组输入,导致getRelatedText没法使用
我把多条内容连在一起,结果经常token超长……而且AskPDF的标注功能也没法使用
作者大人有啥好办法么……?比如能不能改成切段多次调用……

@lubuwei001
Copy link

lubuwei001 commented Jul 15, 2023

目前最大的问题是azure api的embeddings不支持数组输入,导致getRelatedText没法使用 我把多条内容连在一起,结果经常token超长……而且AskPDF的标注功能也没法使用 作者大人有啥好办法么……?比如能不能改成切段多次调用……

@yangguang760
👍 看到您提交了 #189
🙏 后续会再出一个用 azure api + cloudflare 的文档吗

更新:已找到解决方案

@derky1202
Copy link

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

6 participants