Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

我竟然找到了白嫖 GPT-4o API 的方法!亲测可用,不看血亏! #130

Open
cssmagic opened this issue Sep 27, 2024 · 0 comments

Comments

@cssmagic
Copy link
Owner

OpenAI 最近发布的 o1 系列模型很火,不过在大多数场景下,GPT-4o 系列还是更合适的选择。但很多开发者可能还没有尝试过 GPT-4o 的 API,这往往是因为 “网络、支付、价格” 这三大障碍实在难以跨越。

今天魔法哥就要分享一种免费调用 GPT-4o API 的方法,非常适合个人开发者进行学习和实践。亲测可用,千万不要错过!

免费计划

GitHub 现在已经不仅是一家代码仓库托管服务商,在被微软收购之后,它已逐渐发展成为覆盖软件研发全流程的大平台。不久前,GitHub 还推出了他们的模型市场,供开发者体验和选择当前的主流模型——这其中自然也包含了 OpenAI 家的旗舰模型

背后有财大气粗的微软 Azure 云服务支持,这个市场目前上架了约 30 款知名大模型,并且免费提供 API 调用额度。说到这里,大家应该明白,开头提到个人开发者所面临的三大障碍都一一解除了:

  • 网络障碍? 直连 Azure 云服务,国内流畅访问。
  • 支付障碍? 无需海外信用卡,无需企业资质,只要有 GitHub 账号就行。
  • 价格障碍? 免费调用,不花钱!

接下来,跟着魔法哥一步一步操作,去获取自己的 GPT-4o 免费 API 吧!

操作指南

简单来说,我们要完成以下三步:申请权限、创建 Token、验证可用。

申请权限

目前 GitHub 模型市场的免费 API 权限还不是完全开放的,需要用户申请并排队。我们登录自己的 GitHub 账号,打开模型市场的首页( https://github.com/marketplace/models ),可以看到目前上架的所有模型。

marketplace-list

我们点击模型列表的第一项,也就是 “Get early access ...” 这个大大的申请入口,会进入申请表单页面:

apply

根据自己的情况填写表单,提交之后,就可以等待审核了。魔法哥在申请后的第 5 天就收到了审核通过的邮件,所以大家耐心等待即可。

审核通过之后,我们再次回到模型市场,点开各个模型的详情页,可以了解模型的简介、测评得分、授权协议等详细信息。

4o-detail

此外,我们还可以在网页界面上直接体验和调试这些模型。比如,进入 GPT-4o 的 “Playground” 页面( https://github.com/marketplace/models/azure-openai/gpt-4o/playground ),可以直接与模型对话,而且可以调整系统提示词Temperature 等模型参数,是个不错的调试工具。

4o-playground

这个页面还提供了详细的 API 接入教程,大家可以详细探索。当然,本文已经提炼了最精华的信息,下面的步骤会帮助你快速通关。

创建 Token

要调用这些模型的 API,我们还需要有一个 GitHub Token 来证明自己的身份

这个 Token 和我们常说的 LLM token 不是一回事哈。这里的 Token 是 GitHub 为我们提供的身份令牌,我们拿自己的令牌作为 API Key 来调用模型的 API,API 服务器就可以根据这个令牌来验证我们在 GitHub 上是谁、是否具有调用权限。

如果你以前调用过 GitHub 的 API,应该对这个 Token 并不陌生,你以前创建过的任何一个 GitHub Token 都可以拿来用。如果你还没有,也不用担心,下面我们一起来走一遍创建流程。

首先,我们需要打开 GitHub Token 的设置页面( https://github.com/settings/tokens )。这里需要提醒一下:在默认情况下,这里创建的 Token 具有最高权限,一旦漏泄,别人可以拿这个 Token 做很多危险操作。

因此,接下来,魔法哥建议大家在左侧菜单中点击 “Fine-grained tokens”,创建一个最低权限的 Token,专门用来调用模型 API。在这个页面中,我们点击右上角的 “Generate new token” 按钮,进入创建页面:

token-create

需要注意的字段有:

  • Token name(Token 名称):这里填写 Token 的用途,比如 “GitHub Models” 就很清晰直观。
  • Expiration(过期时间):可以选择长一些的时间,比如 90 天,最长可以手动设置为一年。Token 到期后,不用删除重建,可以在原来的名称下重新生成。生成新 Token 之后,需要把所有用到老 Token 的地方都替换成新的。
  • Repository access(代码仓库访问权限):这里保持默认的 “Public Repositories (read-only)” 即可,这是最小的访问权限范围。

其他信息都不需要修改,直接提交即可。提交成功之后,我们会进入所有 Token 的列表页面,可以看到刚刚创建的 Token。

token-done

此时,一定要记得立即点击复制,保存下来备用。因为一旦刷新这个页面,我们就再也看不到这个 Token 的实际内容了。(别紧张,如果你真的忘了复制出来,可以点进它的详情页,重新生成一次就好。)

验证可用

这一步就比较简单了,也是我们最后收获成果的一步。

大家可能读过魔法哥写的《Kimi API 还没用起来?请看这篇无门槛快速入门指南》这篇文章,它讲述了普通用户和开发者如何把大模型 API Key 应用到海量的 AI 工具或自己开发的 AI 应用中。

这篇文章里提到调用大模型 API 的 “三要素”。对于本文获取的 GPT-4o 免费 API 来说,这三项的内容分别是:

  • API base URLhttps://models.inference.ai.azure.com (注意:结尾没有 /v1 这一层路径。)
  • API Key:我们刚刚创建的 GitHub Token。
  • 模型名称gpt-4o (其他可选的还有 gpt-4o-mini 等模型。)

有了这 “三要素”,我们就可以开始验证 API 是否可用了。我们可以参考上面这篇文章,通过 Postman、Python 脚本、NextChat 网页版、Dify 智能体搭建平台、浏览器插件等方式,调用这个 API,看看是否能够正常返回结果。

如果你不想研究繁琐的配置,可以尝试魔法哥开发的这款极简的网页版聊天机器人( https://simple-chat.cmcm.app )。填入上面的 “三要素”,就可以开始和 GPT-4o 对话了。

simple-chat

你可能还会问

有啥限制?

由于 GitHub 的这个免费计划面向个人开发者,意在鼓励更多用户迈入 AI 应用开发的大门,因此它有一定的用量限制。对于像 4o 这样的高级模型来说,具体限制如下:

  • 请求数:≤10 次/分钟,≤50 次/天
  • 并发数:2
  • 每个请求的 token 数:8000 输入 + 4000 输出

这个额度对于我们自己使用一些小工具,或者开发调试小应用来说,应该是足够了。

生产环境能用吗?

当你开发的应用已经成熟,准备发布到生产环境时,这个免费服务显然就不适用了。此时,GitHub 建议迁移到 Azure 的付费服务。

这个迁移过程并不需要改代码,只需要把 GitHub Token 换成 Azure 付费账号提供的 Token 就可以了。

个人开发者开通 Azure 账号还是有着不小的门槛,此时可以考虑 API2D 这样的大模型 API 聚合平台( https://cmcm.link/p/api2d ),按量计费,随充随用,相当适合个人开发者和小型团队。

o1 模型呢?

眼尖的同学一定看到了,OpenAI 最新最火的 o1 系列模型也在这个模型市场上架了,目前有 o1-previewo1-mini 两个版本可选。

这两款模型确实也提供了免费计划,不过仅面向 GitHub Copilot 付费用户,而且需要单独申请。因此魔法哥就没有展开介绍了。

小结

对于个人开发者和普通的 AI 爱好者来说,GitHub 模型市场提供的免费 API 服务确实是十分便捷的实践机会。我们可以通过这个平台,体验到当前最先进的 AI 模型,开启自己的 AI 应用开发之旅!

魔法哥最近一年都在做 AI 领域的研发和探索,下期分享更精彩。各位新朋友请关注公众号,下次更新不迷路

weixin-qrcode


📣 AI 魔法群开放啦!

对 AI 感兴趣的同学不妨扫码加群,与数百名同好交流分享:

qun-qr


🔥 往期推荐

AI 应用开发指南:

ChatGPT 高级技巧:

AI 资讯与评述:


© Creative Commons BY-NC-ND 4.0   |   我要订阅   |   我要打赏

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Projects
None yet
Development

No branches or pull requests

1 participant