python教程分享go zero微服务高在请求量下如何优化

引言

前两篇文章我们介绍了缓存使用的各种最佳实践，首先介绍了缓存使用的基本姿势，分别是如何利用go-zero自动生成的缓存和逻辑代码中缓存代码如何写，接着讲解了在面对缓存的穿透、击穿、雪崩等常见问题时的解决方案，最后还重点讲解了如何保证缓存的一致性。

因为缓存对于高并发服务来说实在是太重要了，所以这篇文章我们还会继续一起学习下缓存相关的知识。

本地缓存

当我们遇到极端热点数据查询的时候，这个时候就要考虑本地缓存了。热点本地缓存主要部署在应用服务器的代码中，用于阻挡热点查询对于redis等分布式缓存或者数据库的压力。

在我们的商城中，首页banner中会放一些广告商品或者推荐商品，这些商品的信息由运营在管理后台录入和变更。这些商品的请求量非常大，即使是redis也很难扛住，所以这里我们可以使用本地缓存来进行优化。

在product库中先建一张商品运营表product_operation，为了简化只保留必要字段，product_id为推广运营的商品id，status为运营商品的状态，status为1的时候会在首页banner中展示该商品。

create table `product_operation` (    `id` bigint unsigned not null auto_increment,    `product_id` bigint unsigned not null default 0 comment '商品id',    `status` int not null default '1' comment '运营商品状态 0-下线 1-上线',    `create_time` datetime not null default current_timestamp comment '创建时间',    `update_time` datetime not null default current_timestamp on update current_timestamp comment '更新时间',    primary key (`id`),    key `ix_update_time` (`update_time`)  ) engine=innodb  default charset=utf8mb4 comment='商品运营表';

本地缓存的实现比较简单，我们可以使用map来自己实现，在go-zero的collection中提供了cache来实现本地缓存的功能，我们直接拿来用，重复造轮子从来不是一个明智的选择，localcacheexpire为本地缓存过期时间，cache提供了get和set方法，使用非常简单

localcache, err := collection.newcache(localcacheexpire)

先从本地缓存中查找，如果命中缓存则直接返回。没有命中缓存的话需要先从数据库中查询运营位商品id，然后再聚合商品信息，最后回塞到本地缓存中。详细代码逻辑如下：

func (l *operationproductslogic) operationproducts(in *product.operationproductsrequest) (*product.operationproductsresponse, error) {    opproducts, ok := l.svcctx.localcache.get(operationproductskey)    if ok {      return &product.operationproductsresponse{products: opproducts.([]*product.productitem)}, nil    }    pos, err := l.svcctx.operationmodel.operationproducts(l.ctx, validstatus)    if err != nil {      return nil, err    }    var pids []int64    for _, p := range pos {      pids = append(pids, p.productid)    }    products, err := l.productlistlogic.productsbyids(l.ctx, pids)    if err != nil {      return nil, err    }    var pitems []*product.productitem    for _, p := range products {      pitems = append(pitems, &product.productitem{        productid: p.id,        name:      p.name,      })    }    l.svcctx.localcache.set(operationproductskey, pitems)    return &product.operationproductsresponse{products: pitems}, nil  }

使用grpurl调试工具请求接口，第一次请求cache miss后，后面的请求都会命中本地缓存，等到本地缓存过期后又会重新回源db加载数据到本地缓存中

~ grpcurl -plaintext -d '{}' 127.0.0.1:8081 product.product.operationproducts  {    "products": [      {        "productid": "32",        "name": "电风扇6"      },      {        "productid": "31",        "name": "电风扇5"      },      {        "productid": "33",        "name": "电风扇7"      }    ]  }

注意，并不是所有信息都适用于本地缓存，本地缓存的特点是请求量超高，同时业务上能够允许一定的不一致，因为本地缓存一般不会主动做更新操作，需要等到过期后重新回源db后再更新。所以在业务中要视情况而定看是否需要使用本地缓存。

自动识别热点数据

首页banner场景是由运营人员来配置的，也就是我们能提前知道可能产生的热点数据，但有些情况我们是不能提前预知数据会成为热点的。

所以就需要我们能自适应地自动的识别这些热点数据，然后把这些数据提升为本地缓存。

我们维护一个滑动窗口，比如滑动窗口设置为10s，就是要统计这10s内有哪些key被高频访问，一个滑动窗口中对应多个bucket，每个bucket中对应一个map，map的key为商品的id，value为商品对应的请求次数。

接着我们可以定时的(比如10s)去统计当前所有buckets中的key的数据，然后把这些数据导入到大顶堆中，轻而易举的可以从大顶堆中获取topk的key，我们可以设置一个阈值，比如在一个滑动窗口时间内某一个key访问频次超过500次，就认为该key为热点key，从而自动地把该key升级为本地缓存。

缓存使用技巧

下面介绍一些缓存使用的小技巧

• key的命名要尽量易读，即见名知意，在易读的前提下长度要尽可能的小，以减少资源的占用，对于value来说可以用int就尽量不要用string，对于小于n的value，redis内部有shared_object缓存。
• 在redis使用hash的情况下进行key的拆分，同一个hash key会落到同一个redis节点，hash过大的情况下会导致内存以及请求分布的不均匀，考虑对hash进行拆分为小的hash，使得节点内存均匀避免单节点请求热点。
• 为了避免不存在的数据请求，导致每次请求都缓存miss直接打到数据库中，进行空缓存的设置。
• 缓存中需要存对象的时候，序列化尽量使用protobuf，尽可能减少数据大小。
• 新增数据的时候要保证缓存务必存在的情况下再去操作新增，使用expire来判断缓存是否存在。
• 对于存储每日登录场景的需求，可以使用bitset，为了避免单个bitset过大或者热点，可以进行sharding。
• 在使用sorted set的时候，避免使用zrange或者zrevrange返回过大的集合，复杂度较高。
• 在进行缓存操作的时候尽量使用pipeline，但也要注意避免集合过大。
• 避免超大的value。
• 缓存尽量要设置过期时间。
• 慎用全量操作命令，比如hash类型的hgetall、set类型的smembers等，这些操作会对hash和set的底层数据结构进行全量扫描，如果数据量较多的话，会阻塞redis主线程。
• 获取集合类型的全量数据可以使用sscan、hscan等命令分批返回集合中的数据，减少对主线程的阻塞。
• 慎用monitor命令，monitor命令会把监控到的内容持续写入输出缓冲区，如果线上命令操作很多，输出缓冲区很快就会溢出，会对redis性能造成影响。
• 生产环境禁用keys、flushall、flushdb等命令。

结束语

已知的热点缓存比较简单，从数据库中提前加载到内存中即可，未知的热点缓存我们需要自适应的识别出热点的数据，然后把这些热点的数据升级为本地缓存。最后介绍了一些实际生产中缓存使用的一些小技巧，在生产环境中要活灵活用尽量避免问题的产生。

代码仓库: https://github.com/zhoushuguang/lebron

项目地址: https://github.com/zeromicro/go-zero

本篇文章介绍了如何使用本地热点缓存应对超高的请求，热点缓存又分为已知的热点缓存和未知的热点缓存,希望大家以后多多支持<编程笔记>！

需要了解更多python教程分享go zero微服务高在请求量下如何优化，都可以关注python教程分享栏目&＃8212;编程笔记