企业GPT+应用首选集成方案,简单实用的一站式AGI架构,内置本地化,LLM模型,agent,矢量数据库,智能链链
mini-AGI是zw-AGI的免费开源版本,删除了部分商务模块。
https://github.com/ziwang-com/mini-AGI
- 内置式原生矢量数据库,基于pandas,生态完整。
- 准专利技术:zero-tokenin,从底层内核,智能监控输入文本
- 从内核防止token输入溢出,解决llamacpp输入错误中断,24小时批量实测验证。
- 增加20-30%有效输入token,提升20-30%输出质量。
- 支持:txt,csv,docx, ppt,pdf,markdown等,多种格式文件数据导入。
- 开放式prompts提示词文档,内置多组常用prompts提示词。
- 内置式llm调用:
- 支持清华cgatGLM-6B二代模型,毕竟是国内最强开源llm大模型。
- 首批支持ggml格式,llamcpp纯cpu调用,zw-vicuna-7B,13B,33B实测通过。
- 支持大部分主流开源模型,包括:LLaMA 🦙、Alpaca、 GPT4All、 Chinese LLaMA / Alpaca、 Vigogne (French)、 Vicuna、 GGML、Koala、 OpenBuddy 🐶 (Multilingual)、 Pygmalion / MetharmeB、 WizardLM、 Baichuan and its derivations (such as baichuan-sft)