鱼皮笔记
1.控制定时任务的执行
为啥?
- 浪费资源,想象 10000 台服务器同时 “打鸣”
- 脏数据,比如重复插入
要控制定时任务在同一时间只有 1 个服务器能执行。 怎么做?
- 分离定时任务程序和主程序,只在 1 个服务器运行定时任务。成本太大
- 写死配置,每个服务器都执行定时任务,但是只有 ip 符合配置的服务器才真实执行业务逻辑,其他的直接返回。成本最低;但是我们的 IP 可能是不固定的,把 IP 写的太死了
- 动态配置,配置是可以轻松的、很方便地更新的(代码无需重启),但是只有 ip 符合配置的服务器才真实执行业务逻辑。问题:服务器多了、IP 不可控还是很麻烦,还是要人工修改
- 数据库
- Redis
- 配置中心(Nacos、Apollo、Spring Cloud Config)
- 分布式锁,只有抢到锁的服务器才能执行业务逻辑。坏处:增加成本;好处:不用手动配置,多少个服务器都一样。
单机就会存在单点故障。
2.锁
有限资源的情况下,控制同一时间(段)只有某些线程(用户 / 服务器)能访问到资源。 Java 实现锁:synchronized 关键字、并发包的类 问题:只对单个 JVM 有效
3.分布式锁
为啥需要分布式锁?
- 有限资源的情况下,控制同一时间(段)只有某些线程(用户 / 服务器)能访问到资源。
- 单个锁只对单个 JVM 有效
4.分布式锁实现的关键
抢锁机制
怎么保证同一时间只有 1 个服务器能抢到锁? 核心思想 就是:先来的人先把数据改成自己的标识(服务器 ip),后来的人发现标识已存在,就抢锁失败,继续等待。 等先来的人执行方法结束,把标识清空,其他的人继续抢锁。 MySQL 数据库:select for update 行级锁(最简单) (乐观锁) ✔ Redis 实现:内存数据库,读写速度快 。支持 setnx、lua 脚本,比较方便我们实现分布式锁。 setnx:set if not exists 如果不存在,则设置;只有设置成功才会返回 true,否则返回 false
5.注意事项
用完锁要释放(腾地方)√
锁一定要加过期时间 √
如果方法执行时间过长,锁提前过期了?问题:
- 连锁效应:释放掉别人的锁
- 这样还是会存在多个方法同时执行的情况
解决方案:续期
boolean end = false;
new Thread(() -> {
if (!end)}{
续期
})
end = true;
- 释放锁的时候,有可能先判断出是自己的锁,但这时锁过期了,最后还是释放了别人的锁
- Redis 如果是集群(而不是只有一个 Redis),如果分布式锁的数据不同步怎么办?
// 原子操作
if(get lock == A) {
// set lock B
del lock
}
Redis + lua 脚本实现 https://blog.csdn.net/feiying0canglang/article/details/113258494
拒绝自己写!!!
6.Redisson 实现分布式锁
Java 客户端,数据网格 实现了很多 Java 里支持的接口和数据结构 Redisson 是一个 java 操作 Redis 的客户端,提供了大量的分布式数据集来简化对 Redis 的操作和使用,可以让开发者像使用本地集合一样使用 Redis,完全感知不到 Redis 的存在。
2 种引入方式
- spring boot starter 引入(不推荐,版本迭代太快,容易冲突)https://github.com/redisson/redisson/tree/master/redisson-spring-boot-starter
- 直接引入:https://github.com/redisson/redisson#quick-start
示例代码
// list,数据存在本地 JVM 内存中
List<String> list = new ArrayList<>();
list.add("yupi");
System.out.println("list:" + list.get(0));
list.remove(0);
// 数据存在 redis 的内存中
RList<String> rList = redissonClient.getList("test-list");java
rList.add("yupi");
System.out.println("rlist:" + rList.get(0));
rList.remove(0);
7.定时任务 + 锁
- waitTime 设置为 0,只抢一次,抢不到就放弃
- 注意释放锁要写在 finally 中
实现代码
void testWatchDog() {
RLock lock = redissonClient.getLock("yupao:precachejob:docache:lock");
try {
// 只有一个线程能获取到锁
if (lock.tryLock(0, -1, TimeUnit.MILLISECONDS)) {
// todo 实际要执行的方法
doSomeThings();
System.out.println("getLock: " + Thread.currentThread().getId());
}
} catch (InterruptedException e) {
System.out.println(e.getMessage());
} finally {
// 只能释放自己的锁
if (lock.isHeldByCurrentThread()) {
System.out.println("unLock: " + Thread.currentThread().getId());
lock.unlock();
}java
}
}
8.看门狗机制
redisson 中提供的续期机制 开一个监听线程,如果方法还没执行完,就帮你重置 redis 锁的过期时间。 原理:
- 监听当前线程,默认过期时间是 30 秒,每 10 秒续期一次(补到 30 秒)
- 如果线程挂掉(注意 debug 模式也会被它当成服务器宕机),则不会续期
https://blog.csdn.net/qq_26222859/article/details/79645203
Zookeeper 实现(不推荐)
一、redission实现分布式锁
1.引入依赖
https://github.com/redisson/redisson#quick-start
<dependency>
<groupId>org.redisson</groupId>
<artifactId>redisson</artifactId>
<version>3.18.0</version>
</dependency>
注意踩坑处:我这边开了梯子,下载依赖,会有io.netty:netty-codec-dns:jar:4.1.74.Final依赖安装失败, 解决办法:删除maven仓库里redission和netty-codec-dns。然后关闭梯子重新安装依赖
2.写redisson配置
/**
* Redisson 配置
*/
@Configuration
@ConfigurationProperties(prefix = "spring.redis")
@Data
public class RedissonConfig {
private String host;
private String port;
@Bean
public RedissonClient redissonClient(){
//1、创建配置
Config config = new Config();
String redisAddress = String.format("redis://%s:%s", host, port);
config.useSingleServer().setAddress(redisAddress).setDatabase(3);
//2.创建实例
RedissonClient redisson = Redisson.create(config);
return redisson;
}
}
编写测试类来使用edisson 实现分布式锁
@SpringBootTest
public class RedissonTest {
@Resource
private RedissonClient redissonClient;
@Test
void test(){
//List。数据存在本地JVM内存中
ArrayList<Object> list = new ArrayList<>();
list.add("yupi");
System.out.println("list: "+list.get(0));
// list.remove(0);
//数据存在redis的内存中
RList<Object> rList = redissonClient.getList("test-list");
rList.add("yupi");
System.out.println("rList: "+rList.get(0));
// rList.remove(0);
}
}
运行发现redis3库里面已经存入数据
二、定时任务 + 锁
1.修改定时任务
@Slf4j
@Component
public class PreCacheJob {
@Resource
private UserService userService;
@Resource
private RedissonClient redissonClient;
@Resource
private RedisTemplate<String,Object> redisTemplate;
//重点用户
private List<Long> mainUserList = Arrays.asList(1l);
//每天执行,预热推荐用户
@Scheduled(cron = "0 24 18 * * *")
public void doCacheRecommendUser(){
RLock lock = redissonClient.getLock("yupao:precachejob:docache:lock");
try{
//只有一个线程能获取到锁
if (lock.tryLock(0,30000L,TimeUnit.MILLISECONDS)){
System.out.println("getLock: "+Thread.currentThread().getId());
for (Long userId: mainUserList){
QueryWrapper<User> queryWrapper = new QueryWrapper<>();
Page<User> userPage = userService.page(new Page<>(1, 20), queryWrapper);
String redisKey = String.format("yupao:user:recommend:%s", userId);
ValueOperations<String,Object> valueOperations = redisTemplate.opsForValue();
//写缓存
try {
valueOperations.set(redisKey,userPage,30000, TimeUnit.MILLISECONDS);
}catch (Exception e){
log.error("redis set key error",e);
}
}
}
}catch(InterruptedException e){
log.error("doCacheRecommendUser error ",e);
}finally {
//只能释放自己的锁
if (lock.isHeldByCurrentThread()){
System.out.println("unlock: "+Thread.currentThread().getId());
lock.unlock();
}
}
}
}
打包项目,在终端打开两个,主程序启动(由于定时任务太过于麻烦,所以我们提取出来写一个测试)
@Test
void testWatchDog(){
RLock lock = redissonClient.getLock("yupao:precachejob:docache:lock");
try{
//只有一个线程能获取到锁
if (lock.tryLock(0,-1, TimeUnit.MILLISECONDS)){
Thread.sleep(300000);
System.out.println("getLock: "+Thread.currentThread().getId());
}
}catch(InterruptedException e){
System.out.println(e.getMessage());
}finally {
//只能释放自己的锁
if (lock.isHeldByCurrentThread()){
System.out.println("unlock: "+Thread.currentThread().getId());
lock.unlock();
}
}
}
注意锁的存在时间要设置为-1(开启开门狗),默认锁的过期时间是30秒,通过sleep实现 运行,通过quickredis观察,可以发现 每 10 秒续期一次(补到 30 秒) 踩坑处:不要用debug启动,会被认为是宕机