用MySQL实现分布式锁,你听过吗?
概述
以前参加过一个库存系统,由于其业务复杂性,搞了很多个应用来支撑。这样的话一份库存数据就有可能同时有多个应用来修改库存数据。
比如说,有定时任务域xx.cron,和SystemA域和SystemB域这几个JAVA应用,可能同时修改同一份库存数据。如果不做协调的话,就会有脏数据出现。
对于跨JAVA进程的线程协调,可以借助外部环境,例如DB或者Redis。下文介绍一下如何使用DB来实现分布式锁。 设计
本文设计的分布式锁的交互方式如下: 根据业务字段生成transaction_id,并线程安全的创建锁资源 根据transaction_id申请锁 释放锁 动态创建锁资源
在使用synchronized关键字的时候,必须指定一个锁对象。 synchronized(obj) { }
进程内的线程可以基于obj来实现同步。obj在这里可以理解为一个锁对象。如果线程要进入synchronized代码块里,必须先持有obj对象上的锁。这种锁是JAVA里面的内置锁,创建的过程是线程安全的。那么借助DB,如何保证创建锁的过程是线程安全的呢?
可以利用DB中的UNIQUE KEY特性,一旦出现了重复的key,由于UNIQUE KEY的唯一性,会抛出异常的。在JAVA里面,是 SQLIntegrityConstraintViolationException 异常。 create table distributed_lock ( id BIGINT UNSIGNED PRIMARY KEY AUTO_INCREMENT COMMENT "自增主键", transaction_id varchar(128) NOT NULL DEFAULT "" COMMENT "事务id", last_update_time TIMESTAMP DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP NOT NULL COMMENT "最后更新时间", create_time TIMESTAMP DEFAULT "0000-00-00 00:00:00" NOT NULL COMMENT "创建时间", UNIQUE KEY `idx_transaction_id` (`transaction_id`) )
transaction_id是事务Id,比如说,可以用
仓库 + 条码 + 销售模式
来组装一个transaction_id,表示某仓库某销售模式下的某个条码资源。不同条码,当然就有不同的transaction_id。如果有两个应用,拿着相同的transaction_id来创建锁资源的时候,只能有一个应用创建成功。
一条distributed_lock记录插入成功了,就表示一份锁资源创建成功了。 DB连接池列表设计
在写操作频繁的业务系统中,通常会进行分库,以降低单数据库写入的压力,并提高写操作的吞吐量。如果使用了分库,那么业务数据自然也都分配到各个数据库上了。
在这种水平切分的多数据库上使用DB分布式锁,可以自定义一个DataSouce列表。并暴露一个 getConnection(String transactionId) 方法,按照transactionId找到对应的Connection。
实现代码如下: package dlock; import com.alibaba.druid.pool.DruidDataSource; import org.springframework.stereotype.Component; import javax.annotation.PostConstruct; import java.io.FileInputStream; import java.io.IOException; import java.sql.Connection; import java.util.ArrayList; import java.util.List; import java.util.Properties; @Component public class DataSourcePool { private List dlockDataSources = new ArrayList<>(); @PostConstruct private void initDataSourceList() throws IOException { Properties properties = new Properties(); FileInputStream fis = new FileInputStream("db.properties"); properties.load(fis); Integer lockNum = Integer.valueOf(properties.getProperty("DLOCK_NUM")); for (int i = 0; i < lockNum; i++) { String user = properties.getProperty("DLOCK_USER_" + i); String password = properties.getProperty("DLOCK_PASS_" + i); Integer initSize = Integer.valueOf(properties.getProperty("DLOCK_INIT_SIZE_" + i)); Integer maxSize = Integer.valueOf(properties.getProperty("DLOCK_MAX_SIZE_" + i)); String url = properties.getProperty("DLOCK_URL_" + i); DruidDataSource dataSource = createDataSource(user,password,initSize,maxSize,url); dlockDataSources.add(dataSource); } } private DruidDataSource createDataSource(String user, String password, Integer initSize, Integer maxSize, String url) { DruidDataSource dataSource = new DruidDataSource(); dataSource.setDriverClassName("com.mysql.jdbc.Driver"); dataSource.setUsername(user); dataSource.setPassword(password); dataSource.setUrl(url); dataSource.setInitialSize(initSize); dataSource.setMaxActive(maxSize); return dataSource; } public Connection getConnection(String transactionId) throws Exception { if (dlockDataSources.size() <= 0) { return null; } if (transactionId == null || "".equals(transactionId)) { throw new RuntimeException("transactionId是必须的"); } int hascode = transactionId.hashCode(); if (hascode < 0) { hascode = - hascode; } return dlockDataSources.get(hascode % dlockDataSources.size()).getConnection(); } }
首先编写一个initDataSourceList方法,并利用Spring的PostConstruct注解初始化一个DataSource 列表。相关的DB配置从db.properties读取。 DLOCK_NUM=2 DLOCK_USER_0="user1" DLOCK_PASS_0="pass1" DLOCK_INIT_SIZE_0=2 DLOCK_MAX_SIZE_0=10 DLOCK_URL_0="jdbc:mysql://localhost:3306/test1" DLOCK_USER_1="user1" DLOCK_PASS_1="pass1" DLOCK_INIT_SIZE_1=2 DLOCK_MAX_SIZE_1=10 DLOCK_URL_1="jdbc:mysql://localhost:3306/test2"
DataSource使用阿里的DruidDataSource。
接着最重要的一个实现getConnection(String transactionId)方法。实现原理很简单,获取transactionId的hashcode,并对DataSource的长度取模即可。
连接池列表设计好后,就可以实现往distributed_lock表插入数据了。 package dlock; import org.springframework.beans.factory.annotation.Autowired; import org.springframework.stereotype.Component; import java.sql.*; @Component public class DistributedLock { @Autowired private DataSourcePool dataSourcePool; /** * 根据transactionId创建锁资源 */ public String createLock(String transactionId) throws Exception{ if (transactionId == null) { throw new RuntimeException("transactionId是必须的"); } Connection connection = null; Statement statement = null; try { connection = dataSourcePool.getConnection(transactionId); connection.setAutoCommit(false); statement = connection.createStatement(); statement.executeUpdate("INSERT INTO distributed_lock(transaction_id) VALUES ("" + transactionId + "")"); connection.commit(); return transactionId; } catch (SQLIntegrityConstraintViolationException icv) { //说明已经生成过了。 if (connection != null) { connection.rollback(); } return transactionId; } catch (Exception e) { if (connection != null) { connection.rollback(); } throw e; } finally { if (statement != null) { statement.close(); } if (connection != null) { connection.close(); } } } }根据transactionId锁住线程
接下来利用DB的 select for update 特性来锁住线程。当多个线程根据相同的transactionId并发同时操作select for update 的时候,只有一个线程能成功,其他线程都block住,直到select for update 成功的线程使用commit操作后,block住的所有线程的其中一个线程才能开始干活。
我们在上面的DistributedLock类中创建一个lock方法。 public boolean lock(String transactionId) throws Exception { Connection connection = null; PreparedStatement preparedStatement = null; ResultSet resultSet = null; try { connection = dataSourcePool.getConnection(transactionId); preparedStatement = connection.prepareStatement("SELECT * FROM distributed_lock WHERE transaction_id = ? FOR UPDATE "); preparedStatement.setString(1,transactionId); resultSet = preparedStatement.executeQuery(); if (!resultSet.next()) { connection.rollback(); return false; } return true; } catch (Exception e) { if (connection != null) { connection.rollback(); } throw e; } finally { if (preparedStatement != null) { preparedStatement.close(); } if (resultSet != null) { resultSet.close(); } if (connection != null) { connection.close(); } } }实现解锁操作
当线程执行完任务后,必须手动的执行解锁操作,之前被锁住的线程才能继续干活。在我们上面的实现中,其实就是获取到当时 select for update 成功的线程对应的Connection,并实行commit操作即可。
那么如何获取到呢?我们可以利用ThreadLocal。首先在DistributedLock类中定义 private ThreadLocal threadLocalConn = new ThreadLocal<>();
每次调用lock方法的时候,把Connection放置到ThreadLocal里面。我们修改lock方法。 public boolean lock(String transactionId) throws Exception { Connection connection = null; PreparedStatement preparedStatement = null; ResultSet resultSet = null; try { connection = dataSourcePool.getConnection(transactionId); threadLocalConn.set(connection); preparedStatement = connection.prepareStatement("SELECT * FROM distributed_lock WHERE transaction_id = ? FOR UPDATE "); preparedStatement.setString(1,transactionId); resultSet = preparedStatement.executeQuery(); if (!resultSet.next()) { connection.rollback(); threadLocalConn.remove(); return false; } return true; } catch (Exception e) { if (connection != null) { connection.rollback(); threadLocalConn.remove(); } throw e; } finally { if (preparedStatement != null) { preparedStatement.close(); } if (resultSet != null) { resultSet.close(); } if (connection != null) { connection.close(); } } }
这样子,当获取到Connection后,将其设置到ThreadLocal中,如果lock方法出现异常,则将其从ThreadLocal中移除掉。
有了这几步后,我们可以来实现解锁操作了。我们在DistributedLock添加一个unlock方法。 public void unlock() throws Exception { Connection connection = null; try { connection = threadLocalConn.get(); if (!connection.isClosed()) { connection.commit(); connection.close(); threadLocalConn.remove(); } } catch (Exception e) { if (connection != null) { connection.rollback(); connection.close(); } threadLocalConn.remove(); throw e; } }缺点
毕竟是利用DB来实现分布式锁,对DB还是造成一定的压力。当时考虑使用DB做分布式的一个重要原因是,我们的应用是后端应用,平时流量不大的,反而关键的是要保证库存数据的正确性。对于像前端库存系统,比如添加购物车占用库存等操作,最好别使用DB来实现分布式锁了。 进一步思考
如果想锁住多份数据该怎么实现?比如说,某个库存操作,既要修改物理库存,又要修改虚拟库存,想锁住物理库存的同时,又锁住虚拟库存。其实也不是很难,参考lock方法,写一个multiLock方法,提供多个transactionId的入参,for循环处理就可以了。这个后续有时间再补上。
蚂蚁上市之路近日,蚂蚁集团发布辟谣声明回应网上传言。回顾蚂蚁集团的上市之路,一开始就万众瞩目,号称史上最大IPO,金融巨无霸。股票代码688688,发行价68。8,寓意深刻的数字代表了多少人的
微信3天悄悄更新了两次!这次终于快过苹果啦最近,微信刷手支付冲上热搜指纹刷脸到现在刷手就能支付?难道这次真的要剁手了吗(钱不多,花钱方式倒很多)消息一出,网友纷纷表示以后不敢随便抬手了微信官方回应称刷手支付仅为微信内部技术
影像新标杆微单手机索尼Xperia1IIIChinaJoy实拍体验先为大家介绍今天的主角索尼旗舰微单手机Xperia1III。相比上一代产品,这一代新品在影像屏幕处理器以及系统体验上都有了全面的升级。业界首款潜望式可变长焦镜头,源自索尼微单影像技
CRM和SCRM有什么区别?在传统CRM系统中,每个客户就相当于一条记录,数据是静止的。企业与客户在系统上的互动很少,用户正在摒弃以电子邮件和电话的单向沟通,客户与客户之间除了需求的供给之外,更多需要互动和参
都是内存规范!DDR5LPDDR5GDDR5有什么区别我们在选购智能手机的时候,经常会在配置表中发现LPDDR5内存,而如果对数码比较感兴趣的话,也能知道电脑内存将迎来DDR5时代,一些显卡产品中依然采用GDDR5显存。从名称来看,这
智能车间智能工厂智能制造之间的区别你知道多少?新一代信息技术与制造业深度融合,全球制造业正在加快迈向数字化智能化时代,制造业是国民经济的主体,是立国之本兴国之器强国之基。在制造业智能化过程中,智能车间智能工厂智能制造有什么区别
湖南144个项目报名全国颠覆性技术创新大赛来源红网时刻新闻红网时刻8月24日讯(通讯员刘健记者何青)为加强颠覆性技术供给,培育颠覆性创新文化,探索颠覆性技术发现遴选培育的新机制,发现和挖掘一批颠覆性技术方向。日前,科技部印
腾讯投资雾帜智能,后者专注于将人工智能技术和现实应用场景结合新京报贝壳财经讯企查查APP显示,8月21日,上海雾帜智能科技有限公司发生工商变更,新增股东深圳市腾讯产业创投有限公司,同时公司注册资本由555。56万元人民币增加至633。61万
中国的量子技术处于世界第一,超前水平吗?量子卫星是中国第一个发射,但量子计算机和美国IBM和谷歌公司的相比,还有一定差距。量子信息技术目前的主要应用包括量子通信和量子计算两个方面,虽然潘建伟院士的工作让中国在量子通信方面
锂电池之父苹果年底前或发布AppleCar相关技术由于对锂电池技术作出了突出贡献,吉野彰成为2019年诺贝尔化学奖的获奖人之一。关于苹果造车以及对未来智能汽车的思考,吉野彰在近日的一次采访中表达了自己的看法。吉野彰他说,苹果公司要
要源码上门自取,结果人真上门了!国内企业再惹争议出品开源中国文Travis国内智能设备制造商UMIDIGI因违反GPLv2协议引发争议,并告知开发者想要源码上门自取。此事已引起国外网友热议。UMIDIGI是位于深圳的一家智能设备
高端机中端机低端机是怎么样来划分的?文小伊评科技目前手机行业对于手机的档次划分是越来越细了,低中高端这三个档次显然已经无法满足目前手机市场的需求了,根据目前的实际情况来看,手机行业大体可以细分为如下几个层次(一)入门
技术分析特斯拉撞死交警谁负责?特斯拉高速路冲撞交警致一死一伤的新闻再次让人们大跌眼镜,将特斯拉和自动驾驶技术推向风口浪尖,有网友有人认为是特斯拉技术不过关,也有网友认为事故应该怪司机,自动驾驶没有错。然而,责任
微信打电话和直接打电话有什么区别吗?为什么?区别大了去了,我一个下属总是给我打微信电话,我给他说了他也不听,不仅给我制造尴尬,还让我蒙受损失,气的我想开除他的心都有了。去年合作的一个大供应商,年前和我吃饭提起他有个外甥失业了
电不信联不通移不动的宽带网络,你知多少所谓电不信联不通移不动的戏称是来源于网友的看法而起的名称,其当然是指三大运营商。电信宽带是南方网络质量最好的宽带,而北方则是以联通为首。所以有称南电信,北联通之说法。当然质量好,价
网络购买手机和实体店购买哪个好?文小伊评科技线上和线下各有各的好处,作为在手机圈摸排滚打的普通数码人,给大家两条最佳的择机路线第一条如果认识线下卖手机的或者是身边有比较靠谱的渠道商,建议直接走线下,价格会更低,品
联通没有经过我同意,分纤箱安装在我家自建房上,我该怎么做?联通没有经过我同意,分纤箱安装在我家自建房上,我该怎么做?这个事情在农村是经常发生的,不仅仅是联通,但凡走线的单位都会找农民的便宜。无论哪个单位,不经本人同意,都是不合理的,起码也
你有什么你认为的绝世手机壁纸可以发出来?绿色是生命护眼是王道个人喜爱的无意中见到一套图,真的只能用惊艳来形容,一开始以为是某位大神随便电脑制作的几张图,后来百般寻找终于让我找到了,名为鬼刀,是一部作品,看网上的人说是作者
oled屏长期使用纯黑色壁纸会烧屏吗?如果单单用纯黑色的壁纸的话,就会出现图标一直亮着,背景不亮,图标就会先老化,这样显示纯色的时候就会看到图标的影子,一样是烧屏,省电倒是省点电。只有让每个像素点的工作频率一致,一起老
5G手机马上来了,值得现在买吗?三星华为小米先后发布了自家的5G手机,小米家的mix35G版手机相对来说最便宜。但是我觉得最近两年不适合购买5G手机。下文具体说一说原因。5G手机的成熟度问题目前,支持5G网络的基
支付宝仍不放弃打造社交,再投9亿,与微信争抢市场!想必春节过后很多用户就开始抱怨支付宝了,因为大家集五福的红包一年比一年少了,甚至路边的一颗白菜都买不起了。然而,虽然推出了花花卡,但是能够抢到资格的人,几乎都是别人,数量也是非常稀
当美国还在纠结5G时,华为已发布下一代全光网解决方案在2019世界移动大会上,华为正式发布全光网2。0(OpticalNetworking2。0,ON2。0)解决方案,包含三大核心理念新速率,以摩尔定律驱动带宽升级,最大化光纤价值新