基于ScheduledSQL对VPCFlowLog实现细粒度时间窗口分析

背景

阿里云专有网络&＃xff08;VPC&＃xff09;提供流日志功能&＃xff0c;支持VPC网络中弹性网卡流量、VPC流量及交换机流量的记录与存储。对流日志分析可以监控访问控制规则、监控网络流量和排查网络故障。

流日志功能捕获的流量信息以日志方式写入SLS&＃xff08;阿里云日志服务&＃xff09;中。每条日志会捕获特定捕获窗口中的特定五元组网络流&＃xff0c;捕获窗口大约为10分钟&＃xff0c;该段时间内流日志功能先聚合数据&＃xff0c;再发布日志。

在 SLS 上可以通过关键词搜索对指定目标地址被拒绝的请求&＃xff1a;

也可以通过 SLS 的 SQL 进行统计分析&＃xff0c;但这里涉及一个捕获窗口的问题&＃xff0c;例如下面两条流日志&＃xff08;字段做了简化&＃xff09;&＃xff1a;

Log#1
start: 2021-05-31 00:00:00
end: 2021-05-31 00:08:30
bytes: 9000
packets: 18Log#2
start: 2021-05-31 00:02:30
end: 2021-05-31 00:03:15
bytes: 5000
packets: 10

采集窗口内产生的 bytes&＃xff0c;落到 start 时间点上去或是平均落到整个采集窗口&＃xff0c;对于流量分析结果会产生明显的差异&＃xff1a;

根据不同的业务背景&＃xff0c;可以有不同的选择&＃xff1a;

一种方法是按采集窗口开始时间计算&＃xff0c;方法简单&＃xff0c;select from_unixtime(start - start % 60) as dt, sum(bytes) as total_bytes group by dt order by dt asc limit 1000。

另一种较为复杂&＃xff0c;拆分采集窗口后计算&＃xff0c;本文介绍基于 SLS SQL 拆分日志后重新聚合的分析实践。

方案

如下是一条 start 与 end 相差501的日志&＃xff0c;表示采集窗口横跨了 502 个秒级时间段&＃xff08;start、end 是左闭右闭区间&＃xff09;&＃xff1a;

利用数据函数 sequence 可以生成一个时间序列到 ta 字段&＃xff1a;

接着将 ta 序列做 unest 展开&＃xff0c;得到 502 条日志&＃xff1a;

到这里&＃xff0c;基本思路就有了。但一定请注意&＃xff1a;

1. packets、bytes 字段是在一个捕获窗口中获得的&＃xff0c;所以展开后的每条日志&＃xff0c;应该将指标值均分到每个拆分后的时间段。
2. 窗口数据展开后&＃xff0c;意味着日志量会膨胀&＃xff0c;可能产生很大的计算压力与存储成本&＃xff0c;建议减少聚合指标分组数目。

为了减少日志条数&＃xff0c;我们将拆分后的秒级日志再按照10秒级粒度重新聚合&＃xff0c;502 条秒级日志变为 51 条十秒级日志&＃xff1a;

Scheduled SQL 实践

将以上方案常驻执行&＃xff0c;就可以实现对于新日志的增量处理&＃xff0c;如果将预处理结果保存到 Logstore&＃xff0c;我们就可以在新的 Logstore 上做分析&＃xff0c;可以做到更低的延迟。

Scheduled SQL 是一项由 SLS 全托管的功能&＃xff0c;主要的场景包括&＃xff1a;

• 定时分析数据&＃xff1a;根据业务需求设置 SQL 语句或查询分析语句&＃xff0c;定时执行数据分析&＃xff0c;并将分析结果存储到目标库中。
• 全局聚合&＃xff1a;对全量、细粒度的数据进行聚合存储&＃xff0c;汇总为存储大小、精度适合的数据&＃xff0c;相当于一定程度的有损压缩数据。

执行如下 SQL 预览并确认结果符合预期&＃xff08;如果希望预处理后的数据量更少一些&＃xff0c;可以按照分钟粒度做聚合&＃xff0c;将 10 替换为 60&＃xff09;&＃xff0c;SQL 代码&＃xff1a;

* | select (t.time - t.time % 10) as __time__, srcaddr, srcport, dstaddr, dstport, action, protocol,sum(bytes * 1.0 / ("end"-start &＃43; 1)) as bytes, sum(packets * 1.0 / ("end"-start &＃43; 1)) as packetsfrom (select start, "end", srcaddr, srcport, dstaddr, dstport, action, protocol, bytes, packets,sequence(start, "end", 1) as ta from log), unnest(ta) as t(time)group by time, srcaddr, srcport, dstaddr, dstport, action, protocol order by __time__ asc limit 1000000

紧接着创建 Scheduled SQL 作业&＃xff1a;

保存作业&＃xff0c;选择”增强型资源池“&＃xff08;收费、但资源可扩展&＃xff0c;适用于有 SLA 要求的业务场景&＃xff09;&＃xff0c;设置存储预处理结果到目标 Logstore aligned_vpc_flowlog。

接下来&＃xff0c;设置 SQL 作业从 5/28 日的数据开始处理&＃xff0c;在存量数据追上进度后&＃xff0c;新数据每 5 分钟执行一次&＃xff0c;每次查询 5 分钟的数据做处理。

注意延迟执行参数&＃xff0c;如果上游 Logstore 的数据到来可能延迟&＃xff0c;建议设置大一些的值来保证计算数据的完整性。

Scheduled SQL 作业每 5 分钟一次的实例&＃xff0c;可以在控制台上查看到。对于 SQL 执行失败&＃xff08;权限、SQL 语法等原因&＃xff09;或者数据迟到导致空跑情况&＃xff0c;可以对指定实例做重试运行。

效果

在 SLS 上制作一个仪表盘对比两种计算方式的流量特征。

• 10秒聚合-原始窗口

* | select from_unixtime(start - start % 10) as dt, sum(packets) as packets, round(sum(bytes)/1024.0/1024.0, 3) as MB group by dt order by dt asc limit 10000

• 10秒聚合-拆分窗口数据

* | select from_unixtime(__time__ - __time__ % 10) as dt, sum(packets) as packetes, round(sum(bytes)/1024.0/1024.0, 3) as MB group by dt order by dt asc limit 10000

通过对比可以看到&＃xff0c;拆分窗口后的数据统计更加均匀。

原文链接

本文为阿里云原创内容&＃xff0c;未经允许不得转载。