Skip to content

日志处理

Henry edited this page Oct 13, 2019 · 4 revisions

记录访问日志可以起到非常重要的作用,它不仅记录了API的使用情况,更可以反映API各种相关数据;通过分析日志可以得到API不同时间的负载情况,访问效率和流量分布,更进一步还能分析出用户的操作历史和行为这是非常有价值的。由于性能问题Bumblebee默认并不直接写入这些日志,而是通过插件的方式来加载处理。Bumblebee.Logs是组件的日志扩展插件,它支持写入数据和文件两种方式,使用者可以根据自己的需求来开启(由于这两个插件会完全写入所有请求日志,如果应用并发量大时启用需要注意).如果需要更高效的日志处理(如nosql、mq等)或更丰富的日志内容则需要使用者扩展引入。

引用插件

Bumblebee中使用JWT需要引用两个插件,分别是Bumblebee.ConfigurationBumblebee.Logs。加载启动后就可以通过管理工具进行插件配置.

            g = new Gateway();
            g.HttpOptions(
                o =>
                {
                    o.Port = 80;
                    o.LogToConsole = true;
                    o.LogLevel = BeetleX.EventArgs.LogType.Error;
                });
            g.Open();
            g.LoadPlugin(
                typeof(Bumblebee.Configuration.Management).Assembly,
                typeof(Bumblebee.Logs.FileLog).Assembly
               );

如果不想自己编写代码可以下载编译的运行包 https://github.com/IKende/Bumblebee/blob/master/bin/

插件管理

运行程序后进行配置管理工具的插件管理页面,可以看到日志插件,默认是未启用(由于日志写入需要大量的IO操作,在大并发的情况可能会引起IO负载过重,需根据自己情况来启用;如果当前插件在性能上不能满足需求,则需要自己扩展插件)。

image

日志组件提供两个插件,分别是写入本地文件和写入数据库

写入文件

当开始写入文件日志插件时,会在request_logs中写入日志文件,日志格式如下:

2019/10/3 20:15:33	9418d4d1ffef4c28ad93929321026045_158	::ffff:192.168.2.18	GET	/	/json	192.168.2.25:9090	200	1
2019/10/3 20:15:33	9418d4d1ffef4c28ad93929321026045_159	::ffff:192.168.2.18	GET	/	/json	192.168.2.31:9090	200	1
2019/10/3 20:15:33	9418d4d1ffef4c28ad93929321026045_161	::ffff:192.168.2.18	GET	/	/json	192.168.2.27:9090	200	1
2019/10/3 20:15:33	9418d4d1ffef4c28ad93929321026045_163	::ffff:192.168.2.18	GET	/	/json	192.168.2.26:9090	200	1
2019/10/3 20:15:33	9418d4d1ffef4c28ad93929321026045_165	::ffff:192.168.2.18	GET	/	/json	192.168.2.32:9090	200	2
2019/10/3 20:15:33	9418d4d1ffef4c28ad93929321026045_167	::ffff:192.168.2.18	GET	/	/json	192.168.2.28:9090	200	1

主要写入的内容是:时间,ID,客户端IP,请求类型,路径,处理的服务,状态和处理时间(单位ms)。

写入数据库

插件提供日志写入数据库功能,分别支持:MSSQL,MYSQL和PGSQL三种数据库;在插件启用之前先把数据库信息配置好。

image

  • QueueSize 缓存队列大小,为了提高写入性能组件通过批量的方式写入,在写入之前会缓存到队列中。

  • DBType数据库类型,分别为:MSSQL,MYSQL和PGSQL

  • ConnectionString数据库连接字符串

  • Table 存储日志的表名称

MYSQL日志结构

CREATE TABLE `_gateway_log` (
  `ID` varchar(50) NOT NULL,
  `CreateTime` datetime DEFAULT NULL,
  `RemoteIP` varchar(45) DEFAULT NULL,
  `Method` varchar(10) DEFAULT NULL,
  `Path` varchar(45) DEFAULT NULL,
  `Url` varchar(1024) DEFAULT NULL,
  `Server` varchar(45) DEFAULT NULL,
  `Code` int(11) DEFAULT NULL,
  `ProcessTime` int(11) DEFAULT NULL,
  PRIMARY KEY (`ID`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4 COLLATE=utf8mb4_0900_ai_ci;

数据库配置完成后就可以启用插件,启用后相关访问就会写入到对应的数据库上

image

写入记录

image