大型视频学习平台项目问题解决笔记

发布于:2025-05-13 ⋅ 阅读:(13) ⋅ 点赞:(0)

一 数据库大量读操作导致数据库压力过大的解决方案

1. 优化SQL语句

2. 缓存

二 数据库大量写操作导致数据库压力过大的解决方案

1. 优化SQL语句

2. 改同步写为异步写——解决复杂事务的高并发写

3. 合并写请求——解决简单事务的高并发写(额外实现一个异步操作来吧数据从缓存写到数据库)

1. 具体案例

遇到的问题:前端同学在播放视频的时候,前端每隔几秒钟就往后端发送当前视频的播放进度,以此来实时记录同学的学习进度。如果同学过多,那么这个请求并发量就会很大。

事务分析:这个请求有3个事务:同学第一次播放视频时插入数据,同学第一次学习完视频后将学习状态修改成已完成,以及实时更新视频数据的进度。前两个都是只在第一次才会发生,以此这个请求的第三个业务才是真正需要优化的高并发业务。

方法选择:由于更新视频学习进度只需要修改几个简单字段,没有其他事务掺和,也没什么判断逻辑,所以选择方案3,利用缓存合并写请求!

再进一步:由于每次判断完“是否是考试后”,都需要查询数据库判断记录是否存在,我们可以直接把记录存在redis里,到时候写操作也可以直接改redis的这个数据

再进一步:我们在什么时候把redis数据写到数据库里呢?第一个想法是用SpringTask,定时写回数据库,但是这有一个问题——定时的时间,太长或者太短都不行。还有假如一分钟写回数据库一次,那么如果用户观看了20分钟视频后退出,前19次的数据库更新是不是没有必要?只有第20次的记录,即用户离开页面时的记录才是重要的。所以我们可以采用延迟任务——比如前端每隔5秒钟传来一次记录,那么我们在更新完redis后发出一个延迟8秒的延迟请求,如果8秒后发现redis数据没变化,说明用户退出了页面,这时候就可以写回数据库;如果数据有变化,则直接扔掉请求。

延迟任务的工具选择:

(01性能好,但是耗内存;02,03不耗内存,但是过于依赖服务器自身和性能不太好;04性能好,但是实现起来比较复杂)

由于我们业务延迟短,数据量不高,因此使用方案一(后续数据量太大也可以转方案二,两种使用起来几乎一样)

delayQueue用法:DelayQueue中只能放实现了Delayed的对象,所以要先写一个任务对象:

package com.tianji.learning.utils;

import lombok.Data;

import java.time.Duration;
import java.util.concurrent.Delayed;
import java.util.concurrent.TimeUnit;

@Data
public class DelayTask<D> implements Delayed {
    private D data;
    private long deadlineNanos;

    public DelayTask(D data, Duration delayTime) {
        this.data = data;
        this.deadlineNanos = System.nanoTime() + delayTime.toNanos();
    }

    @Override
    public long getDelay(TimeUnit unit) {
        return unit.convert(Math.max(0, deadlineNanos - System.nanoTime()), TimeUnit.NANOSECONDS);
    }

    @Override
    public int compareTo(Delayed o) {
        long delay = getDelay(TimeUnit.NANOSECONDS) - o.getDelay(TimeUnit.NANOSECONDS);
        return delay == 0 ? 0 : (delay > 0 ? 1 : -1);
    }
}

具体使用:

package com.tianji.learning.utils;

import lombok.extern.slf4j.Slf4j;
import org.junit.jupiter.api.Test;

import java.time.Duration;
import java.util.concurrent.DelayQueue;

@Slf4j
class DelayTaskTest {
    @Test
    void testDelayQueue() throws InterruptedException {
        // 1.初始化延迟队列
        DelayQueue<DelayTask<String>> queue = new DelayQueue<>();
        // 2.向队列中添加延迟执行的任务
        log.info("开始初始化延迟任务。。。。");
        queue.add(new DelayTask<>("延迟任务3", Duration.ofSeconds(3)));
        queue.add(new DelayTask<>("延迟任务1", Duration.ofSeconds(1)));
        queue.add(new DelayTask<>("延迟任务2", Duration.ofSeconds(2)));
        // 3.尝试执行任务
        while (true) {
            DelayTask<String> task = queue.take();
            log.info("开始执行延迟任务:{}", task.getData());
        }
    }
}

三 点赞等计数系统

可以单独做成一个模块,对外提供接口让别的模板来调用——存下每一条用户点赞记录,业务的总点赞数放在业务模块的数据表里,然后每次有人点赞的时候就统计一下当前业务的总条数然后提醒一下业务服务器

业务:

进阶:

上面的业务进行了多次的数据库读写操作,性能比较差,其实我们可以用缓存来代替,然后使用SpringTask定期把总点赞数返回(注意,每次返回的数据都是一个集合,所以服务器修改要用批处理来提高效率)

有几个好处:

1. 新增点赞记录前不需要查询redis有没有数据了,因为我们使用Set数据结构来存储,插入是否成功会返回一个count条数。

2. 统计点赞数量不需要去使用count查数据库了,redis提供直接查询Set大小的方法,可以直接查到

/**
     * 点赞或者取消点赞
     * @param likeRecordFormDTO
     */
    @Override
    public void addOrDeleteLikes(LikeRecordFormDTO likeRecordFormDTO) {

        // 1. 判断是点赞还是取消点赞
        Long userId = UserContext.getUser();
        Boolean success = likeRecordFormDTO.getLiked() ? addLikes(userId, likeRecordFormDTO) : deleteLikes(userId, likeRecordFormDTO);

        // 2. 判断操作是否成功,失败则返回
        if(!success)
        {
            return;
        }

        // 3. 如果成功,则把点赞数存到Redis中
        Long count = redisTemplate.opsForSet().size(RedisKeyTemplate.LIKED_RECORD_KEY + likeRecordFormDTO.getBizId());
        if(count == null)
        {
            return;
        }
        redisTemplate.opsForZSet().add(
                RedisKeyTemplate.LIKED_COUNT_KEY + likeRecordFormDTO.getBizType(),
                likeRecordFormDTO.getBizId().toString(),
                count
        );

    }

    // 取消点赞
    private Boolean deleteLikes(Long userId, LikeRecordFormDTO likeRecordFormDTO) {

        // 1. 直接删除
        Long count = redisTemplate.opsForSet().remove(
                RedisKeyTemplate.LIKED_RECORD_KEY + likeRecordFormDTO.getBizId(),
                userId.toString()
        );

        // 2. 存在是否删除成功
        return count != null && count > 0;
    }

    // 点赞
    private Boolean addLikes(Long userId, LikeRecordFormDTO likeRecordFormDTO) {
        // 1. 直接插入
        Long count = redisTemplate.opsForSet().add(
                RedisKeyTemplate.LIKED_RECORD_KEY + likeRecordFormDTO.getBizId(),
                userId.toString()
        );

        // 2. 存在是否插入成功
        return count != null && count > 0;

    }

拓展:

我们需要根据其他服务器发来的业务id列表,查询当前用户给列表里的哪些业务点赞:

这里使用了Redis的批处理,下面有注解

/**
     * 查询业务id列表中点赞的业务id
     * @param bizIdList
     * @return
     */
    @Override
    public Set<Long> getBizIsLike(List<Long> bizIdList) {

        // 1. 获取用户id
        Long userId = UserContext.getUser();

        // 2. 通过业务id列表查询已经点赞的业务列表
        List<Object> objects = redisTemplate.executePipelined(
                // new一个RedisCallback,重写批量操作方法
                new RedisCallback<Object>() {
                    @Override
                    public Object doInRedis(RedisConnection connection) throws DataAccessException {
                        // 由于我们使用的是StringRedisTemplate,所以这里的connection是StringRedisConnection
                        StringRedisConnection stringConnection = (StringRedisConnection) connection;
                        // 这里就是批处理,这些命令会被一块打包过去,然后返回结果
                        for (Long l : bizIdList) {
                            String key = RedisKeyTemplate.LIKED_RECORD_KEY + l;
                            // 查询当前业务下面是否有点赞记录
                            stringConnection.sIsMember(key, userId.toString());
                        }
                        return null;
                    }
                }
        );
        Set<Long> result = new HashSet<>();
        for (int i = 0; i < objects.size(); i++) {
            Boolean isMember = (Boolean) objects.get(i);
            if(isMember)
            {
                result.add(bizIdList.get(i));
            }
        }

        // 3. 返回数据
        return result;
    }

四 积分系统

问题1:签到

需要记录每个用户每天的签到情况,如果用户一多,这张表的数据量可能达到一个难以想象的大小

解决方法:

我们按月来统计用户签到信息,签到记录为1,未签到则记录为0

把每一个bit位对应当月的每一天,形成了映射关系。用01标示业务状态,这种思路就称为位图(BitMap)。

Redis中提供了BitMap数据结构,并且提供了很多操作bit的命令。(底层是使用String来实现的)

有些活动需要获取连续签到天数,可以参考getSignDays方法

/**
     * 添加签到记录
     * @return
     */
    @Override
    public SignResultVO addSignRecord() {
        // 1. 拼接密钥
        LocalDate now = LocalDate.now();
        String key = RedisConstant.SIGN_RECORD_KEY + UserContext.getUser()
                + now.format(DateTimeFormatter.ofPattern(DateUtils.DEFAULT_MONTH_FORMAT_COMPACT));

        // 2. 插入签到记录
        Boolean exit = redisTemplate.opsForValue().setBit(key, now.getDayOfMonth() - 1, true);
        if(BooleanUtils.isTrue(exit))
        {
            throw new DbException("重复签到");
        }

        // 3. 获得连续签到天数
        Integer signDays = getSignDays(key, now.getDayOfMonth());

        // TODO 4. 获得签到积分
        Integer rewardPoints = 1;

        // 5. 返回
        SignResultVO result = new SignResultVO();
        result.setSignDays(signDays);
        result.setSignPoints(rewardPoints);
        return result;
    }

    private Integer getSignDays(String key, int dayOfMonth) {
        // 1. 获取当前用户签到数据
        List<Long> result = redisTemplate.opsForValue().bitField(key, BitFieldSubCommands
                .create()
                .get(BitFieldSubCommands
                        .BitFieldType.unsigned(dayOfMonth))
                .valueAt(0));
        if(CollUtils.isEmpty(result))
        {
            return 0;
        }
        long value = result.get(0);

        // 2. 获取连续签到天数
        int count = 0;
        while((value & 1) == 1)
        {
            // 2.1 计数+1
            count ++;

            // 2.2 移除最右边的1位
            value >>>= 1;
        }

        return count;
    }

问题2:实时排名系统

使用传统Mysql数据库,记录每个用户这个月的总分。每次查询排行榜都需要查询排序数据库,效率太低了。而RedisSortedSet底层采用了跳表的数据结构,因此可以非常高效的实现排序功能,百万用户排序轻松搞定。而且每当用户积分发生变更时,我们可以实时更新Redis中的用户积分,而SortedSet也会实时更新排名。实现起来简单、高效,实时性也非常好。缺点就是需要一直占用Redis的内存,当用户量达到数千万万时,性能有一定的下降。

所以我们需要定期把redis数据放回Mysql中,这时候的排行榜就变成了历史排行榜,数据库字段多一个历史排名名词即可,之后查询就不需要排序了

/**
     * 获取积分榜单信息
     * @return
     */
    @Override
    public PointsBoardVO getPointsBoard(PointsBoardQuery query) {

        PointsBoardVO result = new PointsBoardVO();

        // 0. 校验查询的榜单是现在的还是历史的
        boolean isNow = query.getSeason() == null || query.getSeason() == 0;

        // 1. 获取自己的排名和积分
        Long userId = UserContext.getUser();
        LocalDate now = LocalDate.now();
        String key = RedisConstant.POINTS_BOARD_KEY + now.format(DateUtils.POINT_BOARD_SUFFIX_FORMATTER);
        PointsBoard sel = isNow ?
                getMyRankAndPoints(key, userId) :   // 查询现在
                getMyRankAndPointsInHistory(query, userId);  // TODO 查询历史
        if(sel != null)
        {
            result.setPoints(sel.getPoints());
            result.setRank(sel.getRank());
        }

        // 2. 获取榜单信息
        List<PointsBoard> pointsBoardList = isNow ?
                getPointsBoardList(key, query) :   // 查询现在榜单
                getPointsBoardListInHistory(query);  // TODO 查询历史榜单
        if(CollUtils.isEmpty(pointsBoardList))
        {
            return result;
        }

        // 2.1 获取用户信息
        Set<Long> userIds = pointsBoardList.stream().map(PointsBoard::getUserId).collect(Collectors.toSet());
        List<UserDTO> userDTOS = userClient.queryUserByIds(userIds);
        if(CollUtils.isEmpty(userDTOS))
        {
            return result;
        }
        Map<Long, String> userMap = userDTOS.stream().collect(Collectors.toMap(UserDTO::getId, UserDTO::getName));

        // 3.封装返回
        List<PointsBoardItemVO> boards = new ArrayList<>(pointsBoardList.size());
        for (PointsBoard pointsBoard : pointsBoardList) {
            PointsBoardItemVO item = new PointsBoardItemVO();
            item.setName(userMap.get(pointsBoard.getUserId()));
            item.setPoints(pointsBoard.getPoints());
            item.setRank(pointsBoard.getRank());
            boards.add(item);
        }
        result.setBoardList(boards);
        return result;
    }

    private List<PointsBoard> getPointsBoardListInHistory(PointsBoardQuery query) {
        return null;
    }

    private List<PointsBoard> getPointsBoardList(String key, PointsBoardQuery query) {

        // 1. 查出榜单上分页要求的信息
        int startPageNo = (query.getPageNo() - 1) * query.getPageSize();
        Set<ZSetOperations.TypedTuple<String>> typedTuples = redisTemplate.opsForZSet()
                .reverseRangeWithScores(key, startPageNo, startPageNo + query.getPageSize() + 1);
        if(CollUtils.isEmpty(typedTuples))
        {
            return CollUtils.emptyList();
        }

        // 2. 转换数据
        List<PointsBoard> pointsBoardList = new ArrayList<>(typedTuples.size());
        int rank = startPageNo + 1;
        for (ZSetOperations.TypedTuple<String> typedTuple : typedTuples) {
            String userId = typedTuple.getValue();
            Double points = typedTuple.getScore();
            if(userId == null || points == null)
            {
                continue;
            }
            PointsBoard pBoard = new PointsBoard();
            pBoard.setUserId(Long.parseLong(userId));
            pBoard.setPoints(points.intValue());
            pBoard.setRank(rank ++);
            pointsBoardList.add(pBoard);
        }

        return pointsBoardList;

    }

    private PointsBoard getMyRankAndPointsInHistory(PointsBoardQuery query, Long userId) {
        return null;
    }

    private PointsBoard getMyRankAndPoints(String key, Long userId) {

        BoundZSetOperations<String, String> ops = redisTemplate.boundZSetOps(key);

        // 1. 查询我的积分
        Double score = ops.score(userId.toString());

        // 2. 查询我的排名
        Long rank = ops.reverseRank(userId.toString());

        PointsBoard pointsBoard = new PointsBoard();
        pointsBoard.setPoints(score == null ? 0 : score.intValue());
        pointsBoard.setRank(rank == null ? 0 : rank.intValue() + 1);

        return pointsBoard;
    }

五 海量数据该怎么存储存储?

随着数据库存储的数据量越来越大,数据库的检索效率和压力也会越来越大,特别是对于需要高频读写的业务数据,这个问题亟待解决

常见的有4种方案:

1. 表分区

单表数据过多,就会导致文件体积非常大。文件就会跨越多个磁盘分区,数据检索时的速度就会非常慢。为了解决这个问题,MySQL在5.1版本引入表分区功能。简单来说,就是按照某种规则,把表数据对应的ibd文件拆分成多个文件来存储。从物理上来看,一张表的数据被拆到多个表文件存储了;从逻辑上来看,他们对外表现是一张表。

数据库支持的分区只有按照索引范围,枚举类型,某个字段的哈希等,不够灵活

2. 分表

分表是一种表设计方案,由开发者在创建表时按照自己的业务需求拆分表。也就是说这是开发者自己对表的处理,与数据库无关。而且,一旦做了分表,无论是逻辑上,还是物理上,就从一张表变成了多张表!增删改查的方式就发生了变化,必须自己考虑要去哪张表做数据处理。

水平分表:——如下分成board1和board2两张表

垂直分表:——如下把同一个id的4个字段拆成两张表,每张表2个字段

3. 分库和集群

无论是分区,还是分表,我们刚才的分析都是建立在单个数据库的基础上。但是单个数据库也存在一些问题:

  • 单点故障问题:数据库发生故障,整个系统就会瘫痪

  • 单库的性能瓶颈问题:单库受服务器限制,其网络带宽、CPU、连接数都有瓶颈

  • 单库的存储瓶颈问题:单库的磁盘空间有上限,如果磁盘过大,数据检索的速度又会变慢

综上,在大型系统中,我们除了要做分表、还需要对数据做分库,建立综合集群。

首先,在微服务项目中,我们会按照项目模块,每个微服务使用独立的数据库,因此每个库的表是不同的,这种分库模式成为垂直分库

而为了保证单节点的高可用性,我们会给数据库建立主从集群,主节点向从节点同步数据。两者结构一样,可以看做是水平扩展

可以是下面数据库这种,一个主库负责写,其他负责读(主库还会把变动写给从库),每个库数据最终一致;也可以是学习库这种,每个库各自存一些信息,要查的时候去不同库查

4. 结论

(1)解决单表数据量大的问题有哪些方案?

首先是库内表分区或者分表,可以解决大多数问题。如果单个库压力太大,再考虑分库。水平分库结合分表,实现数据分片。进一步提高数据存储规模。

(2)数据库的读写压力较大,并发较高该怎么办?

首先考虑垂直分表,看看能不能将写频繁的数据与其它数据分离,避免互相影响。如果不行则考虑搭建主从集群,实现读写分离。

六 如何让定时任务可以调度?

我们希望能够有这么一个工具,可以让定时任务可以被调度,比如B任务只有在达到时间并且A任务做完后才能执行,还需要能够监控定时任务,SpringTask都不能实现

常规的SpringTask都有两个角色:任务触发器和任务,如果使用多实例部署,那么多个实例就会有多个任务触发器和任务各自工作

而我们希望这些任务只有一个执行就行,那么就必须采用分布式任务调度

主流工具:

七 生成兑换码

1. 兑换码生成算法

要求:

传统生成算法有3种:UUID,自增id,雪花算法,通过筛选,这里我选择自增id

但是如何能高效的生成和校验?这里就要使用BitMap位图,一个位代表一个兑换码(1表示已兑换,0表示未兑换),然后Redis底层的BitMap也是采用数组,我们可以直接根据id来查指定位的兑换码是否已经兑换,这样就可以提高效率。

但是自增id还需要加密:

新鲜值:用来选择一组密钥

签名:逐位与密钥逐位相乘,最后相加得到签名,不足14bit前面补0就行

代码:

Base32加密算法

package com.tianji.promotion.utils;

import cn.hutool.core.text.StrBuilder;

/**
 * 将整数转为base32字符的工具,因为是32进制,所以每5个bit位转一次
 */
public class Base32 {
    private final static String baseChars = "6CSB7H8DAKXZF3N95RTMVUQG2YE4JWPL";

    public static String encode(long raw) {
        StrBuilder sb = new StrBuilder();
        while (raw != 0) {
            int i = (int) (raw & 0b11111);
            sb.append(baseChars.charAt(i));
            raw = raw >>> 5;
        }
        return sb.toString();
    }

    public static long decode(String code) {
        long r = 0;
        char[] chars = code.toCharArray();
        for (int i = chars.length - 1; i >= 0; i--) {
            long n = baseChars.indexOf(chars[i]);
            r = r | (n << (5*i));
        }
        return r;
    }

    public static String encode(byte[] raw) {
        StrBuilder sb = new StrBuilder();
        int size = 0;
        int temp = 0;
        for (byte b : raw) {
            if (size == 0) {
                // 取5个bit
                int index = (b >>> 3) & 0b11111;
                sb.append(baseChars.charAt(index));
                // 还剩下3位
                size = 3;
                temp = b & 0b111;
            } else {
                int index = temp << (5 - size) | (b >>> (3 + size) & ((1 << 5 - size) - 1)) ;
                sb.append(baseChars.charAt(index));
                int left = 3 + size;
                size = 0;
                if(left >= 5){
                    index = b >>> (left - 5) & ((1 << 5) - 1);
                    sb.append(baseChars.charAt(index));
                    left = left - 5;
                }
                if(left == 0){
                    continue;
                }
                temp = b & ((1 << left) - 1);
                size = left;
            }
        }
        if(size > 0){
            sb.append(baseChars.charAt(temp));
        }
        return sb.toString();
    }

    public static byte[] decode2Byte(String code) {
        char[] chars = code.toCharArray();
        byte[] bytes = new byte[(code.length() * 5 )/ 8];
        byte tmp = 0;
        byte byteSize = 0;
        int index = 0;
        int i = 0;
        for (char c : chars) {
            byte n = (byte) baseChars.indexOf(c);
            i++;
            if (byteSize == 0) {
                tmp = n;
                byteSize = 5;
            } else {
                int left = Math.min(8 - byteSize, 5);
                if(i == chars.length){
                    bytes[index] =(byte) (tmp << left | (n & ((1 << left) - 1)));
                    break;
                }
                tmp = (byte) (tmp << left | (n >>> (5 - left)));
                byteSize += left;
                if (byteSize >= 8) {
                    bytes[index++] = tmp;
                    byteSize = (byte) (5 - left);
                    if (byteSize == 0) {
                        tmp = 0;
                    } else {
                        tmp = (byte) (n & ((1 << byteSize) - 1));
                    }
                }
            }
        }
        return bytes;
    }
}

兑换码生成和解析

package com.tianji.promotion.utils;

import com.tianji.common.constants.RegexConstants;
import com.tianji.common.exceptions.BadRequestException;

/**
 * <h1 style='font-weight:500'>1.兑换码算法说明:</h1>
 * <p>兑换码分为明文和密文,明文是50位二进制数,密文是长度为10的Base32编码的字符串 </p>
 * <h1 style='font-weight:500'>2.兑换码的明文结构:</h1>
 * <p style='padding: 0 15px'>14(校验码) + 4 (新鲜值) + 32(序列号) </p>
 *   <ul style='padding: 0 15px'>
 *       <li>序列号:一个单调递增的数字,可以通过Redis来生成</li>
 *       <li>新鲜值:可以是优惠券id的最后4位,同一张优惠券的兑换码就会有一个相同标记</li>
 *       <li>载荷:将新鲜值(4位)拼接序列号(32位)得到载荷</li>
 *       <li>校验码:将载荷4位一组,每组乘以加权数,最后累加求和,然后对2^14求余得到</li>
 *   </ul>
 *  <h1 style='font-weight:500'>3.兑换码的加密过程:</h1>
 *     <ol type='a' style='padding: 0 15px'>
 *         <li>首先利用优惠券id计算新鲜值 f</li>
 *         <li>将f和序列号s拼接,得到载荷payload</li>
 *         <li>然后以f为角标,从提前准备好的16组加权码表中选一组</li>
 *         <li>对payload做加权计算,得到校验码 c  </li>
 *         <li>利用c的后4位做角标,从提前准备好的异或密钥表中选择一个密钥:key</li>
 *         <li>将payload与key做异或,作为新payload2</li>
 *         <li>然后拼接兑换码明文:f (4位) + payload2(36位)</li>
 *         <li>利用Base32对密文转码,生成兑换码</li>
 *     </ol>
 * <h1 style='font-weight:500'>4.兑换码的解密过程:</h1>
 * <ol type='a' style='padding: 0 15px'>
 *      <li>首先利用Base32解码兑换码,得到明文数值num</li>
 *      <li>取num的高14位得到c1,取num低36位得payload </li>
 *      <li>利用c1的后4位做角标,从提前准备好的异或密钥表中选择一个密钥:key</li>
 *      <li>将payload与key做异或,作为新payload2</li>
 *      <li>利用加密时的算法,用payload2和s1计算出新校验码c2,把c1和c2比较,一致则通过 </li>
 * </ol>
 */
public class CodeUtil {
    /**
     * 异或密钥表,用于最后的数据混淆
     */
    private final static long[] XOR_TABLE = {
            61261925471L, 61261925523L, 58169127203L, 64169927267L,
            64169927199L, 61261925629L, 58169127227L, 64169927363L,
            59169127063L, 64169927359L, 58169127291L, 61261925739L,
            59169127133L, 55139281911L, 56169127077L, 59169127167L
    };
    /**
     * fresh值的偏移位数
     */
    private final static int FRESH_BIT_OFFSET = 32;
    /**
     * 校验码的偏移位数
     */
    private final static int CHECK_CODE_BIT_OFFSET = 36;
    /**
     * fresh值的掩码,4位
     */
    private final static int FRESH_MASK = 0xF;
    /**
     * 验证码的掩码,14位
     */
    private final static int CHECK_CODE_MASK = 0b11111111111111;
    /**
     * 载荷的掩码,36位
     */
    private final static long PAYLOAD_MASK = 0xFFFFFFFFFL;
    /**
     * 序列号掩码,32位
     */
    private final static long SERIAL_NUM_MASK = 0xFFFFFFFFL;
    /**
     * 序列号加权运算的秘钥表
     */
    private final static int[][] PRIME_TABLE = {
            {23, 59, 241, 61, 607, 67, 977, 1217, 1289, 1601},
            {79, 83, 107, 439, 313, 619, 911, 1049, 1237},
            {173, 211, 499, 673, 823, 941, 1039, 1213, 1429, 1259},
            {31, 293, 311, 349, 431, 577, 757, 883, 1009, 1657},
            {353, 23, 367, 499, 599, 661, 719, 929, 1301, 1511},
            {103, 179, 353, 467, 577, 691, 811, 947, 1153, 1453},
            {213, 439, 257, 313, 571, 619, 743, 829, 983, 1103},
            {31, 151, 241, 349, 607, 677, 769, 823, 967, 1049},
            {61, 83, 109, 137, 151, 521, 701, 827, 1123},
            {23, 61, 199, 223, 479, 647, 739, 811, 947, 1019},
            {31, 109, 311, 467, 613, 743, 821, 881, 1031, 1171},
            {41, 173, 367, 401, 569, 683, 761, 883, 1009, 1181},
            {127, 283, 467, 577, 661, 773, 881, 967, 1097, 1289},
            {59, 137, 257, 347, 439, 547, 641, 839, 977, 1009},
            {61, 199, 313, 421, 613, 739, 827, 941, 1087, 1307},
            {19, 127, 241, 353, 499, 607, 811, 919, 1031, 1301}
    };

    /**
     * 生成兑换码:批量生成兑换码的时候,推荐使用自增序列作为serialNum,fresh是新鲜值(用来选择PRIME_TABLE取那一组作为密钥,随便传一个数字就行,它会自动取最后四位)
     *
     * @param serialNum 递增序列号
     * @return 兑换码
     */
    public static String generateCode(long serialNum, long fresh) {
        // 1.计算新鲜值
        fresh = fresh & FRESH_MASK;
        // 2.拼接payload,fresh(4位) + serialNum(32位)
        long payload = fresh << FRESH_BIT_OFFSET | serialNum;
        // 3.计算验证码
        long checkCode = calcCheckCode(payload, (int) fresh);
        System.out.println("checkCode = " + checkCode);
        // 4.payload做大质数异或运算,混淆数据
        payload ^= XOR_TABLE[(int) (checkCode & FRESH_MASK)];
        // 5.拼接兑换码明文: 校验码(14位) + payload(36位)
        long code = checkCode << CHECK_CODE_BIT_OFFSET | payload;
        // 6.转码
        return Base32.encode(code);
    }

    private static long calcCheckCode(long payload, int fresh) {
        // 1.获取码表
        int[] table = PRIME_TABLE[fresh];
        // 2.生成校验码,payload每4位乘加权数,求和,取最后13位结果
        long sum = 0;
        int index = 0;
        while (payload > 0) {
            sum += (payload & 0xf) * table[index++];
            payload >>>= 4;
        }
        return sum & CHECK_CODE_MASK;
    }

    public static long parseCode(String code) {
        if (code == null || !code.matches(RegexConstants.COUPON_CODE_PATTERN)) {
            // 兑换码格式错误
            throw new BadRequestException("无效兑换码");
        }
        // 1.Base32解码
        long num = Base32.decode(code);
        // 2.获取低36位,payload
        long payload = num & PAYLOAD_MASK;
        // 3.获取高14位,校验码
        int checkCode = (int) (num >>> CHECK_CODE_BIT_OFFSET);
        // 4.载荷异或大质数,解析出原来的payload
        payload ^= XOR_TABLE[(checkCode & FRESH_MASK)];
        // 5.获取高4位,fresh
        int fresh = (int) (payload >>> FRESH_BIT_OFFSET & FRESH_MASK);
        // 6.验证格式:
        if (calcCheckCode(payload, fresh) != checkCode) {
            throw new BadRequestException("无效兑换码");
        }
        return payload & SERIAL_NUM_MASK;
    }
}

八 多线程安全问题——超卖

业务逻辑:先查询数据库数据,然后进行业务校验(判断库存是否充足),最后新增数据到数据库

问题:高并发情况下出现,发现新增过多数据到数据库里(实际新增数量大于库存,很明显有问题)

问题分析:——高并发情况下,可能出现多个线程同时查出数据,同时校验通过,再插入

解决方法:

悲观锁:最终解决方法,性能低,但是能保证不出问题

乐观锁:性能高,但是成功率低(并行的N个线程只会有1个成功)

最先考虑如何加上乐观锁(一般是在数据库更新时加条件,根据返回结果(修改的条数)来判断执行是否成功)

九 锁失效问题

1. 锁对象

(1)在业务中,我先是使用自定义类UserContext(上下文类,里面有ThreadLocal,存储用户id),调用get方法获取用户id,把这个id作为锁对象来隔离用户操作。但是失败了,因为ThreadLocal每gei一次就会创建一个新的Long对象返回,因此对于单个用户的多次操作,锁不唯一,失败。

(2)紧接着我使用id.toString(),但是还是不行。

它本质上是new String返回,直接那它当锁也不行(因为地址不同)

(3)最后,我们发现,String类中提供了一个intern()方法:

从描述中可以看出,只要两个字符串equals的结果为true,那么intern就能保证得到的结果用 ==判断也是true,其原理就是获取字符串字面值对应到常量池中的字符串常量。因此只要两个字符串一样,intern()返回的一定是同一个对象。因此最后,我们使用userId.toString().intern()作为锁。

2. 事务边界

在我们正确加了锁后,发现,锁依然失效了,下面是我们的代码:

我们发现就算根据userId加了锁,www里的业务还是出现了个人领取的数量大于限领数量的情况,可是我们明明根据用户加了锁,按理来讲它不应该是:

原因就是,我们aaa在调用www方法时,aaa上面有一个事务注解,那么就会出现下面的情况:

没错,事务在提交之前,数据库数据还没变化,先把userId锁给释放了,这时候别的线程抢先拿到锁,去查数据库,发现数据还没变化,于是出现线程安全问题

解决方法:跟换顺序,让事务在锁之前提交

代码变动:aaa的锁放到www上,www内的锁放进aaa里,把事务包在里面即可(这样解决有问题,详见问题10事务失效)

十 事务失效问题

在下面的代码里,我们在www里新增一行抛出错误的命令,发现抛出异常后事务没有回滚,这是就产生了事务失效问题?

1. 事务失效的原因

(1)事务方法非public修饰:由于Spring的事务是基于AOP的方式结合动态代理来实现的。因此事务方法一定要是public的,这样才能便于被Spring做事务的代理和增强。

(2)非事务方法调用事务方法(比如我们的代码):可以看到,www方法是一个事务方法,肯定会被Spring事务管理。Spring会给Service类生成一个动态代理对象,对www方法做增加,实现事务效果。但是现在aaa方法是一个非事务方法,在其中调用了www方法,这个调用其实隐含了一个this.的前缀。也就是说,这里相当于是直接调用原始的Service中的普通方法,而非被Spring代理对象的代理方法。那事务肯定就失效了!

(3)事务方法的异常被捕获了:

在这段代码中,reduceStock方法内部直接捕获了Exception类型的异常,也就是说方法执行过程中即便出现了异常也不会向外抛出。而Spring的事务管理就是要感知业务方法的异常,当捕获到异常后才会回滚事务。现在事务被捕获,就会导致Spring无法感知事务异常,自然不会回滚,事务就失效了。

(4)事务异常类型不对:

Spring的事务管理默认感知的异常类型是RuntimeException,当事务方法内部抛出了一个IOException时,不会被Spring捕获,因此就不会触发事务回滚,事务就失效了。因此,当我们的业务中会抛出RuntimeException以外的异常时,应该通过@Transactional注解中的rollbackFor属性来指定异常类型:

(5)事务传播行为不对:

当createOrder抛出异常时,insertOrder会回滚,但是reduceStock不会,因为它的行为是Propagation.REQUIRES_NEW

(6)没有被Spring管理:这个属于比较低级的错误,Service没有添加@Service注解,因此就没有被Spring管理。你在方法上添加的@Transactional注解根本不会有人帮你动态代理,事务自然失效。

2. 解决方法

针对第二个原因,我们应该要让Spring代理对象来调用aaa方法,而不是this来调用,因此在调用前我们需要获取Service的代理对象

(1)引入依赖:

<!--aspecj-->
<dependency>
    <groupId>org.aspectj</groupId>
    <artifactId>aspectjweaver</artifactId>
</dependency>

(2)在启动类头上加上这个注解:表示允许暴露代理对象

@EnableAspectJAutoProxy(exposeProxy = true)

(3)业务代码修改:

十一 集群下的锁失效

我们先了解一下常规的加锁过程:——每个实例都有自己的JVM,加锁之后锁会指向锁监视器,会去记录获取锁的线程信息,其他线程如果还要获取锁,监视器的owner已经有线程了,就不让它们获取锁了

1. redis实现分布式锁

多实例之后:——每个实例都有自己的JVM,自己的监视器,所以锁会失效

解决方法:

我们不能依赖于JVM的锁,必须使用JVM之外的工具来管理锁信息:

对这个工具只有几个要求:

  • 多JVM实例都可以访问

  • 互斥

能满足上述特征的组件有很多,因此实现分布式锁的方式也非常多,例如:

  • 基于MySQL

  • 基于Redis

  • 基于Zookeeper

  • 基于ETCD

但目前使用最广泛的还应该是基于Redis的分布式锁。

使用命令:

当前仅当key不存在的时候,setnx才能执行成功,并且返回1,其它情况都会执行失败,并且返回0.我们就可以认为返回值是1就是获取锁成功,返回值是0就是获取锁失败,实现互斥效果。

而当业务执行完成时,我们只需要删除这个key即可释放锁。这个时候其它线程又可以再次获取锁(执行setnx成功)了。

不过我们要考虑一种极端情况,比如我们获取锁成功,还未释放锁呢当前实例突然宕机了!那么释放锁的逻辑自然就永远不会被执行,这样lock就永远存在,再也不会有其它线程获取锁成功了!出现了死锁问题。

怎么办?

我们可以利用Redis的KEY过期时间机制,在获取锁时给锁添加一个超时时间:

锁的代码示例:

package com.tianji.promotion.utils;

import com.tianji.common.utils.BooleanUtils;
import lombok.AllArgsConstructor;
import lombok.RequiredArgsConstructor;
import org.springframework.data.redis.core.StringRedisTemplate;

import java.util.concurrent.TimeUnit;

@RequiredArgsConstructor
@AllArgsConstructor
public class RedisLock {

    private String userGetCouponKey;

    private StringRedisTemplate stringRedisTemplate;

    public Boolean tryLock(Long timeout, TimeUnit unit)
    {
        // 1. 获取线程名
        String value = Thread.currentThread().getName();

        // 2. 加锁
        Boolean absent = stringRedisTemplate.opsForValue().setIfAbsent(userGetCouponKey, value, timeout, unit);

        return BooleanUtils.isTrue(absent);
    }

    public void unlock()
    {
        //无论如何都要把锁释放了
        stringRedisTemplate.delete(userGetCouponKey);
    }

}

使用锁的代码:

// 分布式锁
        String key = "lock:userId" + userId;
        RedisLock lock = new RedisLock(key, stringRedisTemplate);
        try {
            Boolean tryLock = lock.tryLock(5L, TimeUnit.SECONDS);
            if(!tryLock)
            {
                throw new BizIllegalException("获取优惠券失败");
            }
            IUserCouponService proxy = (IUserCouponService) AopContext.currentProxy();
            proxy.CheckCouponUserLimitAndAddUserCoupon(coupon, now);
        } finally {
            lock.unlock();
        }

但是这个方案有非常多缺陷:——当然,也有它的解决方法,但是非常麻烦

2. redisson

官网:https://redisson.org

详细看我的其他文章


网站公告

今日签到

点亮在社区的每一天
去签到