ChatGPT学习记录.md

ChatGPT-OpenAI

• demo：chat.openai.com，openai账号某宝可买。

• ChatGPT文章

  • 官方介绍：ChatGPT: Optimizing Language Models for Dialogue (openai.com)
  • 台大陈蕴侬：InstructGPT-ChatGPT前身，从人类回馈中学习_哔哩哔哩_bilibili
  • 李宏毅：ChatGPT是怎么练成的？ https://mp.weixin.qq.com/s/ylY4DOcVEVWP9uFPZZ9iYw
  • 推荐：ChatGPT/InstructGPT详解 - 知乎 (zhihu.com)
  • 【强推】符尧大佬文章-拆解追溯 GPT-3.5 各项能力的起源)

• ChatGPT讨论

  • 国内有类似ChatGPT能力的模型吗？ - 知乎 (zhihu.com)
  • 如何评价 ChatGPT ？会取代搜索引擎吗？ - 知乎 (zhihu.com)
  • 阻碍国内团队研究 ChatGPT 这样产品的障碍有哪些，技术，钱，还是领导力？ - 知乎 (zhihu.com)

• ChatGPT镜像，无需注册：ChatGPT (chatapi.art)

• 目前论文还未放出。

• Reinforcement Learning from Human Feedback (RLHF)教程（Huggingface）

  • 从零实现ChatGPT——RLHF技术笔记 - 知乎 (zhihu.com)
  • Illustrating Reinforcement Learning from Human Feedback (RLHF) (huggingface.co)
  • 直播录像：https://www.youtube.com/watch?v=EAd4oQtEJOM&ab_channel=HuggingFace

• RLHF教程

  • lvwerra/trl: Train transformer language models with reinforcement learning. (github.com)
  • allenai/RL4LMs: A modular RL library to fine-tune language models to human preferences (github.com)
  • CarperAI/trlx: A repo for distributed training of language models with Reinforcement Learning via Human Feedback (RLHF) (github.com)

• ChatGPT谷歌插件：wong2/chatgpt-google-extension: A browser extension that enhance search engines with ChatGPT (github.com)