百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 编程网 > 正文

Skuid生成器 简单易用 高性能 高可用的id生成系统

yuyutoo 2024-10-18 12:12 3 浏览 0 评论

ID是数据的唯一标识,传统的做法是利用UUID和数据库的自增ID,在互联网企业中,大部分公司使用的都是Mysql,并且因为需要事务支持,所以通常会使用Innodb存储引擎,UUID太长以及无序,所以并不适合在Innodb中来作为主键,自增ID比较合适,但是随着公司的业务发展,数据量将越来越大,需要对数据进行分表,而分表后,每个表中的数据都会按自己的节奏进行自增,很有可能出现ID冲突。这时就需要一个单独的机制来负责生成唯一ID,生成出来的ID也可以叫做分布式ID,或全局ID

下面来是各个生成分布式ID的机制。


下面是我想到的一套策略: 类似滴滴的TinyId生成类似

/**
* @author :
* @program:es-server
* @description: 生成唯一码 <br>
* @create:2019-10-09 15-42
* @return:
*/
public interface SequenceService {
/**
* 方法: generateUniqueKey <br>
* 描述: 根据指定key生成唯一自增值 <br>
* 作者: 
* 时间: 2019-10-09 15-42
* @param key 系统标识
* @param limit
* @return
*/
public Long generateUniqueKey(CommonGenerateKey key, long limit) ;
}


//系统标识key 枚举

package com.ouyue.xiwen.esserver.common.enums;
import lombok.Getter;

public enum CommonGenerateKey {

    API_ACCESS_KEY("API_ACCESS_KEY", "ACCESS_KEY,系统自动生成"),
    ACCOUNTBILLNO("ACCOUNTBILLNO", "账单编号序列"),
    PAYROLLREQUISITIONNO("PAYROLLREQUISITIONNO","请款单号序列"),
    WAY_BILL_NO("WAY_BILL_NO","运输单号序列"),
    ;
    @Getter
    private String key;
    @Getter
    private String des;

    CommonGenerateKey(String intValue, String des) {
        this.key = intValue;
        this.des = des;
    }

    public String toString() {
        return this.des;
    }
}


/**
 * @author :
 * @program:es-server
 * @description:生成唯一码 <br>
 * @create:2019-10-09 15-44
 */
public class SequenceServiceImpl implements SequenceService {

    protected static final Logger logger = LoggerFactory.getLogger(SequenceServiceImpl.class);

    @Resource
    private SequenceDao sequenceDao;


    private final ConcurrentHashMap<String, Map.Entry<Long, Long>> keyMap = new ConcurrentHashMap<>();

    /**
     * 方法: updateBySkuId <br>
     * 描述: 根据sku全量更新 <br>
     * @author :
    * @create:2019-10-09 15-44
     *
     * @return
     */

    public Long generateUniqueKey(CommonGenerateKey key, long limit) {
        // 默认缓存到本地的key域
        if (limit <= 3) {
            limit = 10;
        }
        synchronized (key.getKey()) {
            Map.Entry<Long, Long> entry = keyMap.get(key.getKey());
            if (entry == null) {
                Long generateUniqueKey = sequenceDao.generateUniqueKey(key, limit);
                keyMap.put(key.getKey(), Maps.immutableEntry(generateUniqueKey, generateUniqueKey + limit - 1));
                logger.info("击穿db:" + (generateUniqueKey));
                return generateUniqueKey;
            } else {
                Long start = entry.getKey();
                Long end = entry.getValue();
                Long result = start + 1;
                if (end - start < 2) {
                    keyMap.remove(key.getKey());
                } else {
                    keyMap.put(key.getKey(), Maps.immutableEntry(result, end));
                }
                logger.info("走缓存:" + result);
                return result;
            }
        }
    }

}

/**
 * @author :
 * @program:es-server
 * @description:
 * @create:2019-10-09 15-45
 */
@Component
public class SequenceDao {

    protected static final Logger logger = LoggerFactory.getLogger(SequenceDao.class);

    @Resource
    private DBSequenceMapper dbSequenceMapper;

    /**
     * 方法: updateBySkuId <br>
     * 描述: 根据sku全量更新 <br>
     * 作者: 
     * 时间: 2019年10月9日
     *
     * @return
     */

    @Transactional(propagation = Propagation.REQUIRES_NEW)
    public Long generateUniqueKey(CommonGenerateKey key, long limit) {
        for (int i = 0; i < 20; i++) {
            DBSequence oldSequence = selectByKey(key.getKey());
            if (oldSequence == null) {
                oldSequence = createSequence(key.getKey());
                boolean insert = insert(oldSequence);
                if (!insert) {
                    ExceptionUtil.serviceException("创建seq失败");
                }
            }
            oldSequence.setNewValue(oldSequence.getSeqValue() + limit);
            boolean result = update(oldSequence);
            if (!result) {
                try {
                    logger.error("Sequence.generateKey fail sleep {}", i * 10);
                    Thread.sleep(i * 10);
                } catch (InterruptedException e) {
                    logger.error("Sequence.generateKey sleep {}", key, e);
                }
                continue;
            }
            DBSequence newsequence = selectByKey(key.getKey());
            if (NumberUtils.compare(newsequence.getSeqValue(), oldSequence.getNewValue()) == 0) {
                logger.info("击穿db:" + (oldSequence.getSeqValue() + 1));
                return oldSequence.getSeqValue() + 1;
            }
        }
        ExceptionUtil.serviceException("数据库异常");
        return -1l;
    }

    /**
     * 方法: updateBySkuId <br>
     * 描述: 根据sku全量更新 <br>
     * 作者: 
     * 时间: 2019年10月9日
     *
     * @return
     */
    public boolean insert(DBSequence squence) {
        try {
            squence.setDbUpdateTime(new Date());
            int update = dbSequenceMapper.insertSelective(squence);
            return update > 0;
        } catch (Exception e) {
            logger.error("Sequence.update error {}", JSONObject.toJSONString(squence), e);
            ExceptionUtil.serviceException(ExceptionCode.DB_ERROR);
            return false;
        }
    }

    /**
     * 方法: updateBySkuId <br>
     * 描述: 根据sku全量更新 <br>
     * 作者: 
     * 时间: 2019年10月9日
     * @return
     */
    public boolean update(DBSequence squence) {
        try {
            int update = dbSequenceMapper.updateByPrimaryKeySelective(squence);
            return update > 0;
        } catch (Exception e) {
            logger.error("Sequence.update error {}", JSONObject.toJSONString(squence), e);
            ExceptionUtil.serviceException(ExceptionCode.DB_ERROR);
            return false;
        }
    }

    /**
     * 方法: updateBySkuIdSelective <br>
     * 描述: 根据sku更新 <br>
     * 作者: 
     * 时间: 2019年10月9日
     *
     * @return
     */
    public DBSequence selectByKey(String key) {
        try {
            return dbSequenceMapper.selectBySeqKey(key);
        } catch (Exception e) {
            logger.error("Sequence.selectByKey error {}", key, e);
            ExceptionUtil.serviceException(ExceptionCode.DB_ERROR);
            return null;
        }
    }

    private DBSequence createSequence(String key) {
        DBSequence seq = new DBSequence();
        seq.setSeqKey(key);
        seq.setSeqValue(1l);
        seq.setRemark("system创建");
        seq.setDbCreateTime(new Date());
        return seq;
    }
}



数据库表字段值


CREATE TABLE `db_sequence` (
  `id` bigint(20) NOT NULL AUTO_INCREMENT COMMENT '主键',
  `seq_key` varchar(50) NOT NULL COMMENT '序号键',
  `seq_value` bigint(20) DEFAULT '0' COMMENT '序号值',
  `remark` varchar(100) DEFAULT '' COMMENT '备注',
  `new_value` bigint(20) DEFAULT '0' COMMENT '新的序列值',
  `db_update_time` timestamp NOT NULL DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP COMMENT '修改时间',
  `db_create_time` timestamp NOT NULL DEFAULT '2000-01-01 00:00:00' COMMENT '创建时间',
  PRIMARY KEY (`id`),
  UNIQUE KEY `unique_key` (`seq_key`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4 COMMENT='自增序号表'/* BF=seq_key, POLICY=ims_single, STARTID=1, ASSIGNIDTYPE=USB */;

备注 /* BF=seq_key, POLICY=ims_single, STARTID=1, ASSIGNIDTYPE=USB */ 标识是 分布式数据库id 主键

相关推荐

MyBatis的SQL执行流程不清楚?看完这一篇就够了

推荐学习真香警告!Alibaba珍藏版mybatis手写文档,刷起来...

SpringBoot开发必备!49个内置工具类,让你的代码效率翻倍!

作为一名Java开发者,你是否经常为字符串处理、文件操作、数据验证等重复性代码头疼?SpringBoot的武器库里藏着...

C# 基于命名管道(Named Pipes) 的进程间通信(IPC)

基于命名管道(NamedPipes)的进程间通信(IPC),用于在同一台机器不同进程之间进行高效、可靠的数据传输,是一种基于消息或流的通信机制。管道有一个唯一的名称,客户端和服务器端通过名称连接到...

十年之重修MyBatis原理(mybatis方法重载)

弱小和无知并不是生存的障碍,傲慢才是。--------面试者...

C#串口通信(c#串口通信界面)

串口通信(SerialCommunications)是指外设和计算机间通过数据信号线、地线等按位(bit)进行传输数据的一种通信方式,属于串行通信方式,能够实现远距离通信,长度可达1200米。尽管比...

C#中使用命名管道进行进程通信的实例

1新建解决方案NamedPipeExample...

继GitHub之后 OpenAI为ChatGPT推出OneDrive和SharePoint连接器

上周,OpenAI宣布推出ChatGPT的GitHub连接器,允许用户对其源代码库进行深入研究。将GitHub与ChatGPT连接后,用户可以提出问题,深度研究代理将读取和搜索存储库的...

Power BI:如何在SharePoint中嵌入Power BI报告?

问题描述:今天业务同事来询问如何才能将自己开发的PowerBI报告嵌入团队使用的SharePoint页面中,以更直观地和团队成员分享可视化报告。(SharePoint是微软推出的可以用来存储、整理、...

O365(世纪互联)SharePoint 之调查列表简单介绍

前言SharePoint中为了提供了很多开箱即用的应用程序,比如调查列表就是其中之一,同样,在O365版本里(国际版和世纪互联版本均可),也有这样的调查列表可以供我们使用,而使用起来非常方便和快速,就...

制作Excel电子表格必备的:Excel 2021 mac中文版

MicrosoftExcel2021forMac是一款运行在Mac平台上的办公软件,OfficeExcel2021forMac中文版是办公必不可少的软件,主要用于制作电子表格等,这里带...

微软SharePoint新特性:能以邮件方式向目标发送新闻内容

IT之家8月30日消息,微软今天发布新闻稿,宣布为SharePoint服务引入新特性,允许企业将新闻动态转换为电子邮件,并以时事通讯、安全公告、警告等主题发送给感兴趣的用户。微软在新闻稿中...

在Access中创建Sharepoint列表的链接表

在Access中提供了一个DoCmd.TransferSharePointList方法,一行代码就可以搞定。使用TransferSharePointList方法从SharePointFoun...

BBC推荐:12月最值得一看的5部电影 Five films to watch in December

年终岁末,还有哪些精彩电影在等着我们呢?迪士尼的《欢乐满人间2》绝对是合家欢电影的首选,超级英雄迷们将能看到索尼动画《蜘蛛侠:平行宇宙》,福尔摩斯的粉丝们千万别错过《福尔摩斯与华生》。还有朱莉亚·罗伯...

基于锂离子电池的电池荷电状态 (SOC) 和运行健康状态 (SOH) 估计技术

简介基于锂离子(Li-ion)电池单元的电池组广泛用于各种应用,例如:混合动力汽车(HEV)、电动汽车(EV)、可供日后使用的再生能源储存以及用于各种目的(电网稳定性、调峰和再生能源时移等)的...

深入解析电池充电状态 (SOC) 和运行状态 (SOH) 估计技术

基于锂离子(Li-ion)电池单元的电池组广泛用于各种应用,例如:混合动力汽车(HEV)、电动汽车(EV)、可供日后使用的再生能源储存以及用于各种目的(电网稳定性、调峰和再生能源时移等)的电网...

取消回复欢迎 发表评论: