-
Notifications
You must be signed in to change notification settings - Fork 1.5k
2.2 应用
baixin edited this page May 30, 2024
·
5 revisions
应用是指基于LLM大语言模型构建的实际场景应用。支持全屏和弹框两种样式嵌入到第三方产品,您可以根据需求为不同产品创建所需的应用。
点击【应用】菜单,进入应用列表页面,该页面支持应用创建、编辑、删除、查询等功能。
点击【创建应用】,进入创建应用页面,左侧为应用信息,右侧为调试预览界面。
应用名称:用户提问时对话框的标题和名字。
应用描述:对应用场景及用途的描述。
AI模型: 在【系统设置】-【模型管理】中添加的大语言模型。
提示词:系统默认有智能知识库的提示词,用户可以自定义通过调整提示词内容,可以引导大模型聊天方向.
多轮对话: 开启时当用户提问携带用户在当前会话中最后3个问题;不开启则仅向大模型提交当前问题题。
关联知识库:用户提问后会在关联的知识库中检索分段。
开场白:用户打开对话时,系统弹出的问候语。支持 Markdown 格式;[-]后的内容为快捷问题,一行一个。
问题优化:对用户提出的问题先进行一次 LLM 优化处理,将优化后的问题在知识库中进行向量化检索;
开启后能提高检索知识库的准确度,但由于多一次询问大模型会增加回答问题的时长。
应用信息设置完成后,可以在右侧调试预览中进行提问预览,调试预览中提问内容不计入对话日志。
- 参数设置详细说明
1、检索模式:
> 1.1 向量检索:使用向量模型通过向量距离计算与用户问题最相似的文本分段;
> 1.2.全文检索:通过关键词检索,返回包含关键词最多的文本分段;
> 1.3. 混合检索:同时执行全文检索和向量检索,再进行重排序,从两类查询结果中选择匹配用户问题的最佳结果。
2、相似度:相似度越高代表问题和分段的相关性越强。
3、引用分段数:提问时按相似度携带N个分段生成提示词询问 LLM 模型。
4、引用最大字符数:引用分段内容设置最大字符数,超过时则截断。
5、无引用知识库时,有 2 种处理方式可设置:
> 5.1. 继续提问:可以自定义设置提示词,需要有{question}用户问题的占位符,才会把用户问题发送给模型。
> 5.2. 指定回复内容:当没有命中知识库分段时可以指定回复内容。
在应用列表,点击应用面板的【设置】进入应用设置页面。
所有设置保存后设置生效。
在应用列表,支持对用户创建的应用进行删除操作。
在应用列表页面,点击应用的面板,进入到应用概览页面。
在概览页面可以进行演示、启用/禁用/重新生成公开访问链接、嵌入第三方、访问限制设置和 API Key 管理操作。
在应用概览页面支持查看当前应用的监控统计数据
用户点击演示或复制公开访问链接至浏览器进入问答页面,支持新建对话、查看历史记录和导出对话记录。
公开访问链接支持开关设置和重新生成。
关闭/重新生成公开访问链接时,提示:抱歉,当前正在维护,无法提供服务,请稍后再试!
MaxKB 应用支持零编码嵌入到企业的第三方系统。
当应用设置完成后,在应用概览页面,点击【嵌入第三方】,用户可以复制全屏模式代码或浮窗模式代码嵌入到第三方系统中,嵌入完成后便可在第三方系统中进行用户问答。
MaxKB 支持对应用设置每个客户端提问次数限制和嵌入第三方白名单防盗链设置,并且支持设置用户端是否显示知识来源。
二开时调用当前应用的 API 文档和 API Key 管理,复制凭证地址可以打开 API 文档。
点击 【API Key 】,打开 API Key 的管理对话框。
支持创建、启用/禁用、删除 API Key。
针对每个应用支持统计提问用户数据、新增提问用户数、提问数、 消费Tokens数和用户满意度。
命中测试功能是针对用户提问进行一个模拟测试,用来调整分段内容和关联问题从而提高分段内容的匹配度,提高回答效果。
输入用户测试问题,系统在当前应用关联的知识库中按照所选的检索模型进行检索,检索与问题相关的分段,按照相似度和返回Top 分段数筛选返回满足条件的分段。
用户可以根据返回分段对分段进行编辑或添加关联问题。
在对话日志钟记录了所有用户会话中的问答详情,包括用户对 AI 回答的反馈信息。
维护人员可以通过查看对话日志和用户反馈来修正答案。
支持查询过去 7 天、30 天、90 天、过去半年的对话日志。
支持按摘要和用户反馈查询对话日志。
支持导出对话日志内容。
日志详情为每个用户真实的问答场景,问答中用户的反馈只能查看不能修改。
支持查看 AI 回答时具体引用知识库的分段内容。
维护人员可以根据用户提问和 AI 回答以及用户的反馈来标注答案完善分段内容。