百度360必应搜狗淘宝本站头条
当前位置:网站首页 > IT技术 > 正文

一文彻底搞定Redis与MySQL的数据同步

wptr33 2024-12-31 15:02 22 浏览

一、为什么要进行 Redis 与 MySQL 数据同步

  1. 性能优化
    • MySQL 是关系型数据库,数据存储和读取相对复杂。Redis 是内存数据库,读写速度极快。将热点数据存储在 Redis 中,可以大大提高系统的访问速度。例如,在一个电商系统中,商品的基本信息(如名称、价格等)如果频繁被用户访问,将这些信息存储在 Redis 中,用户查询时可以快速响应。
  1. 数据一致性需求
    • 虽然 Redis 和 MySQL 存储的数据有不同的用途,但在很多场景下,它们的数据需要保持一定程度的一致性。比如,当 MySQL 中的商品库存发生变化时,Redis 中缓存的库存信息也需要相应更新,否则可能会导致数据不一致的问题,如超卖现象。

二、数据同步的实现方式

(一)基于数据库的触发器

  1. 原理
    • 可以在 MySQL 数据库中创建触发器,当表中的数据发生插入、更新或删除操作时,触发器会自动执行一段代码。这段代码可以通过相关的 Redis 客户端库与 Redis 进行通信,将变化的数据同步到 Redis 中。
  1. 示例
    • 假设我们有一个名为products的 MySQL 表,其中包含idnameprice字段。我们要在插入数据时同步到 Redis。首先,我们需要创建一个 Redis 连接:
import redis

   r = redis.Redis(host='localhost', port=6379, db=0)
  • 然后在 MySQL 中创建触发器。以下是一个简单的INSERT触发器示例(假设使用的是 MySQL 数据库):
DELIMITER //

   CREATE TRIGGER sync_product_insert AFTER INSERT ON products

   FOR EACH ROW

   BEGIN

       SET @product_key = CONCAT('product:', NEW.id);

       SET @product_name = NEW.name;

       SET @product_price = NEW.price;

       SET @redis_command = CONCAT('HMSET ', @product_key,'name ', @product_name,'price ', @product_price);

       SELECT sys_exec(@redis_command); 

   END;

   //

   DELIMITER ;
  • 这里使用了sys_exec函数来执行外部命令,实际上是通过 Redis 客户端工具(假设系统中有合适的配置来执行外部命令)来执行HMSET命令将新插入的产品数据同步到 Redis 中。不过这种方式可能会受到安全和性能的限制,在实际生产环境中需要谨慎使用。

(二)应用层双写

  1. 原理
    • 在应用程序代码中,当对 MySQL 进行数据操作(插入、更新、删除)时,同时对 Redis 进行相应的数据更新操作。这种方式的好处是灵活性高,开发者可以根据具体的业务逻辑来决定如何同步数据。
  1. 示例
    • 以 Python 的 Django 框架为例,假设我们有一个Product模型类,并且希望在保存产品数据时同步到 Redis。首先在models.py文件中定义模型:
  • from django.db import models
    class Product(models.Model):
    name = models.CharField(max_length=100)
    price = models.DecimalField(max_length=10, decimal_places=2, max_digits=10)
  • 以 Python 的 Django 框架为例,假设我们有一个Product模型类,并且希望在保存产品数据时同步到 Redis。首先在models.py文件中定义模型:
import redis   r = redis.Redis(host='localhost', port=6379, db=0)

   def save_product(request):

       product_name = request.POST.get('name')

       product_price = request.POST.get('price')

       new_product = Product(name=product_name, price=product_price)

       new_product.save()

       product_key = f"product:{new_product.id}"

       r.hset(product_key, "name", product_name)

       r.hset(product_key, "price", product_price)

       return HttpResponse("Product saved and synced to Redis")
  • 这种方式的缺点是代码耦合度较高,如果有多个地方需要对数据进行操作,就需要在每个地方都添加同步代码。

(三)使用消息队列

  1. 原理
    • 当 MySQL 中的数据发生变化时,通过消息队列发送一条消息,消息中包含数据变化的相关信息(如操作类型、表名、主键等)。然后有一个独立的消费者进程从消息队列中获取消息,并根据消息内容对 Redis 进行数据同步操作。这种方式解耦了数据的产生和处理过程,提高了系统的可扩展性和可靠性。
  1. 示例
    • 以 RabbitMQ 为例,首先在应用程序中,当 MySQL 数据发生变化时,发送消息到 RabbitMQ。假设我们使用 Python 的pika库来操作 RabbitMQ:
import pika

   def send_message_to_queue(data_change_info):

       connection = pika.BlockingConnection(pika.ConnectionParameters('localhost'))

       channel = connection.channel()

       channel.queue_declare(queue='data_sync_queue')

       channel.basic_publish(exchange='', routing_key='data_sync_queue', body=data_change_info)

       connection.close()
  • 然后创建一个消费者来接收消息并同步数据到 Redis。同样使用pika库:
import pika

   import redis

   r = redis.Redis(host='localhost', port=6379, db=0)

   def callback(ch, method, properties, body):

       data_change_info = body.decode('utf - 8')

       # 根据消息内容进行Redis数据同步操作,这里只是示例,实际需要解析消息内容

       print("Received:", data_change_info)

       # 假设消息内容包含操作类型和产品ID,进行简单的同步

       operation_type, product_id = data_change_info.split(":")

       if operation_type == "insert":

           # 假设根据产品ID从MySQL中获取数据并同步到Redis,这里省略获取数据的过程

           product_name = "Sample Name"

           product_price = 10.0

           product_key = f"product:{product_id}"

           r.hset(product_key, "name", product_name)

           r.hset(product_key, "price", product_price)

   connection = pika.BlockingConnection(pika.ConnectionParameters('localhost'))

   channel = connection.channel()

   channel.queue_declare(queue='data_sync_queue')

   channel.basic_consume(queue='data_sync_queue', on_message_callback=callback, auto_ack=True)

   channel.start_consuming()?
  • 这种方式需要额外维护消息队列系统,但在高并发和复杂系统中能够更好地保证数据同步的稳定性和效率。

三、数据同步的注意事项

  1. 数据一致性问题的处理
    • 由于 Redis 和 MySQL 的数据同步可能存在延迟,在一些对数据一致性要求极高的场景下,需要考虑如何处理可能出现的数据不一致情况。例如,可以采用分布式事务或者补偿机制来尽量减少数据不一致带来的影响。
  1. 性能优化
    • 在进行数据同步时,要注意不要因为频繁的同步操作而影响系统的整体性能。例如,在使用消息队列时,要合理设置消息的消费速度,避免消息堆积影响系统的响应时间。同时,对于频繁读取但很少更新的数据,可以适当延长同步周期,以减少不必要的同步操作。
  1. 异常处理
    • 在数据同步过程中,可能会出现网络故障、Redis 或 MySQL 服务故障等情况。需要在代码中添加完善的异常处理机制,例如,当 Redis 连接失败时,可以尝试重新连接或者将数据同步操作放入重试队列中,等待服务恢复后再进行同步。

相关推荐

Linux文件系统操作常用命令(linux文件内容操作命令)

在Linux系统中,有一些常用的文件系统操作命令,以下是这些命令的介绍和作用:#切换目录,其中./代表当前目录,../代表上一级目录cd#查看当前目录里的文件和文件夹ls#...

别小看tail 命令,它难倒了技术总监

我把自己以往的文章汇总成为了Github,欢迎各位大佬star...

lnav:基于 Linux 的高级控制台日志文件查看器

lnav是一款开源的控制台日志文件查看器,专为Linux和Unix-like系统设计。它通过自动检测日志文件的格式,提取时间戳、日志级别等关键信息,并将多个日志文件的内容按时间顺序合并显示,...

声明式与命令式代码(声明模式和命令模式)

编程范式中的术语和差异信不信由你,你可能已经以开发人员的身份使用了多种编程范例。因为没有什么比用编程理论招待朋友更有趣的了,所以这篇文章可以帮助您认识代码中的流行范例。命令式编程命令式编程是我们从As...

linux中的常用命令(linux常用命令和作用)

linux中的常用命令linux中的命令统称shell命令shell是一个命令行解释器,将用户命令解析为操作系统所能理解的指令,实现用户与操作系统的交互shell终端:我们平时输入命令,执行程序的那个...

提高工作效率的--Linux常用命令,能够决解95%以上的问题

点击上方关注,第一时间接受干货转发,点赞,收藏,不如一次关注评论区第一条注意查看回复:Linux命令获取linux常用命令大全pdf+Linux命令行大全pdf...

如何限制他人操作自己的电脑?(如何控制别人的电脑不让发现)

这段时间,小猪罗志祥正处于风口浪尖,具体是为啥?还不知道的小伙伴赶紧去补一下最近的娱乐圈八卦~简单来说,就是我们的小罗同事,以自己超强的体力,以及超强的时间管理能力,重新定义了「多人运动」的含义,重新...

最通俗易懂的命令模式讲解(命令模式百科)

我们先不讲什么是命令模式,先通过一个场景来引出命令模式,看看命令模式能解决什么样的问题。现在有一个渣男张三,他有还几个女朋友,你现在是不是还是单身狗,你就说你气不气?然后他需要每天分别叫几个女朋友起床...

互联网大厂后端必看!Spring Boot 中Runtime执行与停止命令?

你是否曾在使用SpringBoot开发项目时,遇到需要执行系统命令的场景?比如调用脚本进行文件处理,又或是启动外部程序?很多后端开发人员会使用Processexec=Runtime.get...

Linux 常用命令(linux常用的20个命令面试)

日志排查类操作命令...

Java字节码指令:if_icmpgt(0xA3)(java字节码使用的汇编语言)

if_icmpgt是Java字节码中的一条条件跳转指令,其全称是"IfIntegerCompareGreaterThan"。它用于比较两个整数值的大小。如果栈顶的第一个...

外贸干货|如何增加领英的曝光量和询盘

#跨境电商#...

golang执行linux命令(golang调用shell脚本)

需求需要通过openssl生成rsa秘钥,然后保存该秘钥。代码实例packagemainimport("io/ioutil""bytes"&...

LINUX磁盘挂载(linux磁盘挂载到windows)

1、使用root用户查看磁盘挂载情况:fdisk-l2、使用df查看当前磁盘挂载情况,根据和fdisk-l的结果进行对比,查看还有那些磁盘未使用3、挂载:mount磁盘挂载路径...

Linux命令学习——nl命令(linux ln命令的使用)

nl命令主要功能为每一个文件添加行号,每一个输入的文件添加行号后发送到标准输出。当没有文件或文件为-时,读取标准输入...