您的当前位置:首页正文

3.Redis高级特性和应用(慢查询、Pipeline、事务、Lua、限流原理)

2024-11-20 来源:个人技术集锦

1. Redis的慢查询

1.1 概念

在数据库系统中,慢查询是指执行时间超过预设阈值的查询操作。Redis也提供了慢查询日志功能,帮助开发和运维人员定位性能瓶颈。慢查询日志记录了执行时间较长的命令,以便进行优化。

1.2 慢查询的执行过程

Redis客户端执行一条命令的过程分为四个步骤:

需要注意,慢查询只统计步骤3的时间,因此可能存在网络问题或命令排队导致的超时,但这些不会被记录为慢查询。

1.3 生活场景示例

想象一下,你在餐馆点了菜。你下单(发送命令),然后服务员把订单放到厨房(命令排队),接着厨师开始做菜(命令执行),最后服务员把菜端到你面前(返回结果)。如果厨师做菜太慢,导致你等得不耐烦,这就类似于Redis的慢查询。

1.4 慢查询配置

Redis提供了两种方式来配置慢查询:

1.4.1 动态设置

使用命令动态修改慢查询阈值:

CONFIG SET slowlog-log-slower-than 20000
  • 默认阈值是10毫秒(10,000微秒)。
  • 设置为0表示记录所有命令,设置为负值表示不记录任何命令。
1.4.2 配置文件设置

在 redis.conf 配置文件中,可以找到以下配置项:

slowlog-max-len 128
  • slowlog-max-len 用于设置慢查询日志的最大条数,默认是128条。

1.5 慢查询操作命令

  • 获取慢查询日志
SLOWLOG GET [n]
  • 获取慢查询日志长度
SLOWLOG LEN
  • 重置慢查询日志
SLOWLOG RESET

1.6 慢查询建议

  • 增加慢查询日志条数:建议设置为1000条以上,以避免丢失重要日志。
  • 调整阈值:根据Redis的并发量调整慢查询阈值,通常设置为1毫秒或更低,以便及时发现性能问题。

2. Pipeline

2.1 概念

Pipeline(流水线)是一种优化技术,可以将多条命令打包在一起,通过一次网络往返(RTT)发送给Redis服务器,从而减少网络延迟,提高执行效率。

2.2 生活场景示例

想象一下,你在超市购物。如果每次都要排队结账(发送命令),你可能会等得很久。但是如果你把所有商品放在购物车里,一次性结账(使用Pipeline),那么你就可以节省很多时间。

2.3 工作原理

在没有Pipeline的情况下,执行n条命令需要n次RTT,而使用Pipeline后,只需一次RTT即可完成所有命令的发送和接收。

2.4 使用场景

  • 执行大量命令时,使用Pipeline可以显著提高性能,尤其是在高延迟网络环境中。

2.5 注意事项

  • 发送的命令数量不宜过多,以免造成网络阻塞和客户端等待时间增加。
  • Pipeline只能操作一个Redis实例,适合批量操作。

2.6 Java代码示例

以下是使用Java的Jedis库实现Pipeline的代码示例:

java

import redis.clients.jedis.Jedis;
import redis.clients.jedis.Pipeline;

public class RedisPipelineExample {
    public static void main(String[] args) {
        // 创建Redis连接
        Jedis jedis = new Jedis("localhost", 6379);

        // 使用Pipeline
        Pipeline pipeline = jedis.pipelined();
        for (int i = 0; i < 1000; i++) {
            pipeline.set("key" + i, String.valueOf(i));  // 批量设置键值对
        }
        // 执行所有命令
        pipeline.sync();
        
        // 关闭连接
        jedis.close();
    }
}

3. 事务

3.1 概念

事务是一组操作,要么全部成功,要么全部失败。Redis事务通过 MULTI 和 EXEC 命令实现。

3.2 生活场景示例

想象一下,你在银行转账。如果转账成功,账户A减少金额,账户B增加金额;如果转账失败,那么两个账户的金额都不变。这就是一个事务的例子。

3.3 事务的基本操作

  1. 开始事务
MULTI
  1. 添加命令
SADD user:1:friends user:2
  1. 提交事务
EXEC
  1. 回滚事务
DISCARD

3.4 事务的特点

  • 事务中的命令在执行 EXEC 之前不会真正执行,而是缓存起来。
  • Redis只支持基本的语法错误检查,运行时错误不会回滚之前的命令。

3.5 Java代码示例

以下是使用Java的Jedis库实现事务的代码示例:

java

import redis.clients.jedis.Jedis;
import redis.clients.jedis.Transaction;

public class RedisTransactionExample {
    public static void main(String[] args) {
        // 创建Redis连接
        Jedis jedis = new Jedis("localhost", 6379);

        // 开始事务
        Transaction transaction = jedis.multi();

        // 添加命令
        transaction.sadd("user:1:friends", "user:2");

        // 提交事务
        transaction.exec();
        
        // 关闭连接
        jedis.close();
    }
}

4. Lua脚本

4.1 概念

Lua是一种轻量级的脚本语言,Redis内置了Lua支持,可以通过Lua脚本实现复杂的操作。

4.2 生活场景示例

想象一下,你在厨房里做菜。你可以把多个步骤(切菜、煮汤、上菜)写成一个食谱(Lua脚本),一次性完成,而不需要每一步都去问别人怎么做。

4.3 Lua脚本的优点

  1. 减少网络开销:多个命令可以放在同一个脚本中运行。
  2. 原子操作:整个脚本作为一个整体执行,中间不会被其他命令插入。
  3. 复用性:脚本可以被多个客户端复用。

4.4 Java代码示例

以下是使用Java的Jedis库执行Lua脚本的代码示例:

java

import redis.clients.jedis.Jedis;

public class RedisLuaExample {
    public static void main(String[] args) {
        // 创建Redis连接
        Jedis jedis = new Jedis("localhost", 6379);

        // Lua脚本示例
        String luaScript = "return redis.call('GET', KEYS[1])";
        
        // 执行Lua脚本
        String result = (String) jedis.eval(luaScript, 1, "key1");
        System.out.println("Result from Lua script: " + result);
        
        // 关闭连接
        jedis.close();
    }
}

5. Redis与限流

5.1 概念

限流是一种控制访问频率的技术,确保系统在高并发情况下保持稳定。它可以防止系统因请求过多而崩溃,同时也能确保各个用户的请求得到公平处理。

5.2 限流原理

限流的原理可以通过以下算法来实现:

  1. 固定窗口算法

    • 将时间划分为固定大小的窗口(例如每分钟)。
    • 在每个窗口内,允许一定数量的请求。
    • 如果请求数超过限制,则拒绝后续请求。

    例子:假设每分钟允许10个请求,如果在第一分钟内接收到了10个请求,那么在接下来的请求将被拒绝,直到下一个窗口开始。

    优点:简单易实现,适合于请求量相对平稳的场景。

    应用场景:适用于API调用、用户登录等场景。

  2. 滑动窗口算法

    • 类似于固定窗口,但时间窗口是动态的,允许在滑动窗口内的请求数。
    • 这样可以更平滑地控制请求,而不容易在窗口边界处出现突发请求。

    优点:可以减少突发请求的情况,适合更复杂的限流需求。

    应用场景:适用于实时性要求较高的系统,如在线支付、抢购等。

  3. 漏桶算法

    • 设想一个漏桶,桶的容量固定,水以固定速率漏出。
    • 请求流入桶中,如果桶满了,则丢弃请求。
    • 这种算法确保了请求的平稳流入。

    优点:可以平滑处理突发流量,适合高并发场景。

    应用场景:适用于流量控制,如视频流、音频流等。

  4. 令牌桶算法

    • 先有一个桶,容量是固定的,用来放令牌。
    • 以固定速率向桶放令牌,如果桶满了就不放令牌。
    • 处理请求时,先从桶拿令牌,拿到令牌才能处理请求,没拿到则被限流。

    优点:允许突发请求,但整体速率受限,适合动态流量。

    应用场景:适用于用户注册、消息发送等场景。

5.3 生活场景示例

  • 固定窗口算法:想象你在一个游乐园,每小时只能进入10个人。如果这个小时已经有10个人进入,那么其他人就需要等到下一个小时才能进入。

  • 滑动窗口算法:你在游乐园,每分钟只能进入2个人。如果这一分钟有2个人进入,下一分钟仍然可以接受2个人,但如果在这段时间内有更多的人,就需要等到下一个时间段。

  • 漏桶算法:想象一个水桶,水流入桶中,但桶底有个洞,水以固定速度流出。如果水流入速度过快,桶满了,水就会溢出。

  • 令牌桶算法:你有一个固定容量的桶,每秒可以放入一个令牌。每当你想处理请求时,必须先从桶中拿到令牌。如果没有令牌,就必须等待。

5.4 使用Redis和Lua实现限流

通过Redis的原子操作和Lua脚本,可以实现高效的限流控制,避免系统过载。

5.5 Java代码示例

以下是使用Java的Jedis库和Lua脚本实现四种限流算法的代码示例:

5.5.1 固定窗口算法

java

import redis.clients.jedis.Jedis;

public class FixedWindowRateLimiter {
    public static void main(String[] args) {
        Jedis jedis = new Jedis("localhost", 6379);
        String key = "fixed_window_key";
        int limit = 5;  // 每分钟允许的请求数
        int window = 60; // 时间窗口,单位为秒

        // 获取当前请求数
        String currentCount = jedis.get(key);
        if (currentCount == null) {
            jedis.setex(key, window, "1"); // 设置初始请求数
            System.out.println("请求被允许");
        } else {
            int count = Integer.parseInt(currentCount);
            if (count < limit) {
                jedis.incr(key); // 增加请求数
                System.out.println("请求被允许");
            } else {
                System.out.println("请求被拒绝,超出限流");
            }
        }

        jedis.close();
    }
}
5.5.2 滑动窗口算法

java

import redis.clients.jedis.Jedis;

public class SlidingWindowRateLimiter {
    public static void main(String[] args) {
        Jedis jedis = new Jedis("localhost", 6379);
        String key = "sliding_window_key";
        int limit = 5;  // 允许的请求数
        int window = 60; // 时间窗口,单位为秒

        long currentTime = System.currentTimeMillis() / 1000;
        long windowStart = currentTime - window;

        // 清理过期请求
        jedis.zremrangeByScore(key, 0, windowStart);

        // 获取当前请求数
        long count = jedis.zcard(key);
        if (count < limit) {
            jedis.zadd(key, currentTime, String.valueOf(currentTime)); // 记录当前请求
            System.out.println("请求被允许");
        } else {
            System.out.println("请求被拒绝,超出限流");
        }

        jedis.close();
    }
}
5.5.3 漏桶算法

java

import redis.clients.jedis.Jedis;

public class LeakyBucketRateLimiter {
    public static void main(String[] args) {
        Jedis jedis = new Jedis("localhost", 6379);
        String key = "leaky_bucket_key";
        int capacity = 10;  // 桶的容量
        int leakRate = 1;   // 漏出速率,单位为每秒

        // 获取当前水位
        String currentWater = jedis.get(key);
        if (currentWater == null) {
            currentWater = "0";
            jedis.set(key, currentWater);
        }

        // 计算当前水位
        int water = Integer.parseInt(currentWater);
        water = Math.max(0, water - leakRate); // 漏水
        jedis.set(key, String.valueOf(water)); // 更新水位

        // 判断是否可以加入请求
        if (water < capacity) {
            water++;
            jedis.set(key, String.valueOf(water)); // 加入请求
            System.out.println("请求被允许");
        } else {
            System.out.println("请求被拒绝,超出限流");
        }

        jedis.close();
    }
}
5.5.4 令牌桶算法

java

import redis.clients.jedis.Jedis;

public class TokenBucketRateLimiter {
    public static void main(String[] args) {
        Jedis jedis = new Jedis("localhost", 6379);
        String key = "token_bucket_key";
        int capacity = 10;  // 桶的容量
        int refillRate = 1; // 令牌放入速率,单位为每秒

        // 获取当前令牌数
        String currentTokens = jedis.get(key);
        if (currentTokens == null) {
            currentTokens = "0";
            jedis.set(key, currentTokens);
        }

        int tokens = Integer.parseInt(currentTokens);
        tokens = Math.min(capacity, tokens + refillRate); // 令牌放入
        jedis.set(key, String.valueOf(tokens)); // 更新令牌数

        // 判断是否可以处理请求
        if (tokens > 0) {
            tokens--;
            jedis.set(key, String.valueOf(tokens)); // 消耗令牌
            System.out.println("请求被允许");
        } else {
            System.out.println("请求被拒绝,超出限流");
        }

        jedis.close();
    }
}

个人技术集锦还为您提供以下相关内容希望对您有帮助:

详解事务模式和Lua脚本,带你吃透Redis 事务

我们通常称 Redis 为内存数据库 , 不同于传统的关系数据库,为了提供了更高的性能,更快的写入速度,在设计和实现层面做了一些平衡,并不能完全支持事务的 ACID。Redis 的事务具备如下特点:从工程角度来看,假设事务操作中每个步骤需要依赖上一个步骤返回的结果,则需要通过 watch 来实现乐观锁 。Lua 由标准 C 编写而...

分布式限流方案(gateway限流,redis+lua实现限流,nginx限流)_百度知 ...

网关限流中,Spring Cloud Gateway提供了RequestRateLimiterGatewayFilterFactory类,它基于令牌桶算法实现,并依赖Redis存储限流配置和统计数据。通过继承或实现特定接口,可以定制限流逻辑。在Redis+Lua实现中,首先引入Lua脚本,用于读取和执行代码。Lua脚本判断是否需要执行限流操作。通过配置,可以实现基于请求速率...

详解Redisson分布式限流的实现原理

Rate不要设置太大,从RRateLimiter的实现原理你也看出了,它采用的是滑动窗口的模式来限流的,而且记录了所有的许可授权信息,所以如果你设置的Rate值过大,在Redis中存储的信息(permitsName对应的zset)也就越多,每次执行那段lua脚本的性能也就越差,这对Redis实例也是一种压力。个人建议如果你是想设置较...

Redis数据持久化机制(备份恢复)、缓存淘汰策略、主从同步原理、常见规范...

混合持久化机制在 Redis 4.0 引入,结合 RDB 和 AOF 的优点,通过在重写时生成 RDB 快照并合并增量修改,提高 Redis 启动速度。数据备份与恢复可以通过手动执行 bgsave 或 bgrewriteaof 指令,将内存数据持久化到硬盘。对于过期键的清除,Redis 提供三种策略:被动删除、主动删除和缓存淘汰策略,后者在内...

Redis的自增也能实现滑动窗口限流?

选择Redis而非直接使用JDK实现,是因为Redis的全局累计特性更适合跨进程和集群环境,而JDK实现的限流器通常只在当前进程有效。以下是基于Spring切面的注解版本,使用起来简单,只需要在需要限流的方法上添加特定注解并传入参数。例如:RedisIncrLimit注解用于标记需要限流的方法,实际的限流逻辑由切面的doBefore(...

Redis 协议 事务 发布订阅 异步连接

redis内置lua解释器来执行lua脚本,通过lua脚本实现原子性。面试点:lua脚本满足原子性和隔离性,不满足一致性和持久性。3.3.1、命令 3.3.2、应用 例:执行加倍操作 4、redia发布订阅 为了支持消息的多播机制,redis引入了发布订阅模块,是一种分布式消息队列机制。订阅者通过特定的频道来接收发送者发送...

面试挂了,批量执行Redis命令的方式有哪些,谁能回答?

Redis事务通过MULTI和EXEC命令,将多个操作封装为一个原子性操作序列,确保操作的协调性和数据一致性。Lua脚本提供在Redis服务器端执行自定义逻辑的能力,EVAL命令用于执行Lua脚本,具有原子性,适合实现复杂且高效的数据操作。实际应用中,可根据需求灵活运用这些方法,如结合使用Pipeline和事务,既能保证数据...

redis常见面试题汇总

lua脚本执行包括加载、编译和执行三个阶段。redis集群内部有同步机制,确保数据一致性。redission的使用场景 用于分布式锁、高可用性和高性能需求的场景,如大规模和高可用性应用。redis zset的实现原理?zset使用zipList和skipList存储结构,zipList适用于小型zset,skipList用于大型zset,以优化查询性能。特别大的...

从零开始学Spring Boot系列-集成Redis

4. 在UserController中创建测试接口,通过UserService的add方法,测试Spring Boot应用与Redis的交互,可以使用单元测试或HTTP工具进行。总结,掌握基本集成后,可以进一步探索Redis的高级功能,如发布/订阅、事务和Lua脚本。理解Redis的持久化、主从复制和集群等特性对优化性能至关重要。最后,查阅官方文档和社区...

架构师如何讲解Redis限流——滑动窗口限流

3.3lua代码实现我们在项目中使用原子性的lua脚步来实现限流的使用会更多,因此这里也提供一个基于操作zset的lua版本 packagecom.lizba.redis.limit;importcom.google.common.collect.ImmutableList;importredis.clients.jedis.Jedis;importredis.clients.jedis.Pipeline;importredis.clients.jedis.Response;/***...

显示全文

猜你还关注