Skip to content

基于AutoDL快速部署开源大模型,更适合中国宝宝的部署教程

License

Notifications You must be signed in to change notification settings

Unicornlyy/llm-QuicklyDeploy

 
 

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

开源大模型食用指南

项目简介

  本项目是一个围绕开源大模型、针对国内初学者、基于 AutoDL 平台的中国宝宝专属大模型教程,针对各类开源大模型提供包括环境配置、本地部署、高效微调等技能在内的全流程指导,简化开源大模型的部署、使用和应用流程,让更多的普通学生、研究者更好地使用开源大模型,帮助开源、自由的大模型更快融入到普通学习者的生活中。

  本项目的主要内容包括:

  1. 基于 AutoDL 平台(可扩展,例如阿里云)的开源 LLM 环境配置指南,针对不同模型要求提供不同的详细环境配置步骤;
  2. 针对国内外主流开源 LLM 的部署使用教程,包括 LLaMA、ChatGLM、InternLM 等;
  3. 开源 LLM 的部署应用指导,包括命令行调用、在线 Demo 部署、LangChain 框架集成等;
  4. 开源 LLM 的全量微调、高效微调方法,包括分布式全量微调、LoRA、ptuning 等。

  项目的主要内容就是教程,让更多的学生和未来的从业者了解和熟悉开源大模型的食用方法!任何人都可以提出issue或是提交PR,共同构建维护这个项目。

  想要深度参与的同学可以联系我们,我们会将你加入到项目的维护者中。

项目意义

  什么是大模型?

大模型(LLM)狭义上指基于深度学习算法进行训练的自然语言处理(NLP)模型,主要应用于自然语言理解和生成等领域,广义上还包括机器视觉(CV)大模型、多模态大模型和科学计算大模型等。

  百模大战正值火热,开源 LLM 层出不穷。如今国内外已经涌现了众多优秀开源 LLM,国外如 LLaMA、Alpaca,国内如 ChatGLM、BaiChuan、InternLM(书生·蒲语)等。开源 LLM 支持用户本地部署、私域微调,每一个人都可以在开源 LLM 的基础上打造专属于自己的独特大模型。

  然而,当前普通学生和用户想要使用这些大模型,需要具备一定的技术能力,才能完成模型的部署和使用。对于层出不穷又各有特色的开源 LLM,想要快速掌握一个开源 LLM 的应用方法,是一项比较有挑战的任务。

  本项目旨在首先基于核心贡献者的经验,实现国内外主流开源 LLM 的部署、使用与微调教程;在实现主流 LLM 的相关部分之后,我们希望充分聚集共创者,一起丰富这个开源 LLM 的世界,打造更多、更全面特色 LLM 的教程。星火点点,汇聚成海。

  我们希望成为 LLM 与普罗大众的阶梯,以自由、平等的开源精神,拥抱更恢弘而辽阔的 LLM 世界。

项目受众

  本项目适合以下学习者:

  • 想要使用或体验 LLM,但无条件获得或使用相关 API;
  • 希望长期、低成本、大量应用 LLM;
  • 对开源 LLM 感兴趣,想要亲自上手开源 LLM;
  • NLP 在学,希望进一步学习 LLM;
  • 希望结合开源 LLM,打造领域特色的私域 LLM;
  • 以及最广大、最普通的学生群体。

项目规划及进展

   本项目拟围绕开源 LLM 应用全流程组织,包括环境配置及使用、部署应用、微调等,每个部分覆盖主流及特点开源 LLM:

已支持模型

通用环境配置

  • pip、conda 换源 @不要葱姜蒜

  • AutoDL 开放端口 @不要葱姜蒜

  • 模型下载 @不要葱姜蒜

    • hugging face @不要葱姜蒜
    • hugging face 镜像下载 @不要葱姜蒜
    • modelscope @不要葱姜蒜
    • git-lfs @不要葱姜蒜
    • Openxlab
  • Issue && PR

    • Issue 提交 @ Hongru0306
    • PR 提交 @ Hongru0306
    • fork更新 @ Hongru0306

致谢

About

基于AutoDL快速部署开源大模型,更适合中国宝宝的部署教程

Resources

License

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published

Languages

  • Jupyter Notebook 63.3%
  • Python 36.4%
  • Shell 0.3%