-
Notifications
You must be signed in to change notification settings - Fork 274
New issue
Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.
By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.
Already on GitHub? Sign in to your account
【重要提醒】GPTs 商店即将开张,坐等赚钱之际,别忘了做好防盗工作 #109
Comments
OpenAI 真是起名鬼才 😂 。GPT 明明是模型的名字,现在又用来表示自定义 ChatGPT,而且单数复数让人头晕。所以全文一律写为 “GPTs”,以便于 GPT 模型作区分。 |
Sign up for free
to join this conversation on GitHub.
Already have an account?
Sign in to comment
近日,OpenAI 向所有 GPTs 开发者发出邮件,预告 GPTs 商店本周上线。这不仅预示着一个全新 AI 生态系统的诞生,更令 AI 应用开发者们看到了创新盈利的机遇!
不过,在兴奋之余,我们是否已经对自己的 GPTs 做好了充分的保护?
GPTs 是什么
GPTs 是 ChatGPT 在去年 11 月发布的新功能。它允许用户针对特定场景定制一个特殊的对话机器人,甚至可以附加自己的知识库或调用外部 API,从而实现比常规 ChatGPT 更高效、更精准的对话效果。
ChatGPT 所属的 OpenAI 公司还宣布 GPTs 商店正在筹备中。消息一出,业界普遍将其视为 AI 领域的 App Store,开发者的分成计划也呼之欲出。
(注:GPTs 功能只开放给 ChatGPT Plus 会员。如果你还不是 Plus 会员,请留意文末福利。)
安全隐患
然而,前段时间,有人发现一段简单的提示词,竟然可以哄骗 ChatGPT 和 Bing Chat 输出自己的系统提示词(System Prompt)。这个漏洞到现在仍然可以重现。
“系统提示词” 是什么?其实,不论是 ChatGPT 还是其他基于大语言模型的对话机器人,他们都是调用模型 API 的产品。在 API 参数中,相当重要的一部分就是系统提示词。
系统提示词设定了机器人的 “世界观”,影响着机器人的工作方式。比如 ChatGPT 的系统提示词是这样的:
对于 ChatGPT 这样的通用对话机器人来说,系统提示词主要用于设定行为准则,不会包含太多的功能逻辑。
但对于 GPTs 这样的定制机器人来说,系统提示词往往就是核心逻辑。你精心设计的 GPTs 一旦泄漏了系统提示词,其他人分分钟就可以克隆出你的 GPTs!
GPTs 的安全危机
危机一
看网友如何套取一个 GPTs 的系统提示词:
天哪!跟上面的套路类似,简直不要太轻松 😵
危机二
更可怕的是,还有人发现可以套取 GPTs 附加的知识库文档:
虽然文档无法下载,但 GPTs 的实现细节已经暴露无遗 😱
GPTs 防盗指南
防盗手段一
解铃还需系铃人,我们还是从 GPTs 的系统提示词入手,来防止被盗。
我自己写了一段防护提示词,把它附加到你的 GPTs 系统提示词的结尾,可以有效抵御上述套取系统提示词的攻击:
防护效果如图:
防盗手段二
对于套取知识库文档的攻击,主要是利用了 GPTs 的 “代码解释器” 功能。这个功能相当于为每个 GPTs 提供了一个沙箱,允许 GPTs 生成代码并在沙箱内运行。而知识库文档也是挂载到这个沙箱内的,因此为攻击者留下了可乘之机。
这个隐患可谓防不胜防,因此,如果你的 GPTs 并不依赖代码运行能力来实现核心功能,则可以直接关闭它,以绝后患。
结语
道高一尺,魔高一丈。我们的防盗措施暂时有效,但也不可掉以轻心。关于 GPTs 的攻防实践,我会持续关注并分享给大家,新朋友记得订阅哦。
GPTs 商店的机遇就在眼前,祝愿大家都能抓住红利,赚到钱!
【福利】
如果有同学还没有创建过自己的 GPTs,甚至还没用过 GPTs,那一定是被注册和支付的层层障碍给拦住了。
如果想快速体验 GPTs,不妨试试拼车账号。不仅摆脱一切繁琐步骤,而且实惠。自备魔法即可畅享 ChatGPT Plus 会员的高端特权。
👉 这里推荐我在用的拼车平台: http://cmcm.link/p/gpt-plus
(限时福利:优惠码
ai2024
享九五折)新的一年,让自己拥抱新的 AI 体验吧~
© Creative Commons BY-NC-ND 4.0 | 我要订阅 | 我要打赏
The text was updated successfully, but these errors were encountered: