• Docker實戰之Redis-Cluster集群

    概述

    接上一篇Docker實戰之MySQL主從復制, 這里是Docker實戰系列的第二篇,主要進行Redis-Cluster集群環境的快速搭建。Redis作為基于鍵值對的NoSQL數據庫,具有高性能、豐富的數據結構、持久化、高可用、分布式等特性,同時Redis本身非常穩定,已經得到業界的廣泛認可和使用。

    在Redis中,集群的解決方案有三種

    1. 主從復制
    2. 哨兵機制
    3. Cluster

    Redis Cluster是Redis的分布式解決方案,在 3.0 版本正式推出。

    集群方案的對比

    1. 主從復制

    同Mysql主從復制的原因一樣,Redis雖然讀取寫入的速度都特別快,但是也會產生讀壓力特別大的情況。為了分擔讀壓力,Redis支持主從復制,讀寫分離。一個Master可以有多個Slaves。

    優點

    • 數據備份
    • 讀寫分離,提高服務器性能

    缺點

    • 不能自動故障恢復,RedisHA系統(需要開發)
    • 無法實現動態擴容

    2. 哨兵機制

    Redis Sentinel是社區版本推出的原生高可用解決方案,其部署架構主要包括兩部分:Redis Sentinel集群和Redis數據集群。

    其中Redis Sentinel集群是由若干Sentinel節點組成的分布式集群,可以實現故障發現、故障自動轉移、配置中心和客戶端通知。Redis Sentinel的節點數量要滿足2n+1(n>=1)的奇數個。

    優點

    • 自動化故障恢復

    缺點

    • Redis 數據節點中 slave 節點作為備份節點不提供服務
    • 無法實現動態擴容

    3. Redis-Cluster

    Redis Cluster是社區版推出的Redis分布式集群解決方案,主要解決Redis分布式方面的需求,比如,當遇到單機內存,并發和流量等瓶頸的時候,Redis Cluster能起到很好的負載均衡的目的。

    Redis Cluster著眼于提高并發量

    群集至少需要3主3從,且每個實例使用不同的配置文件。

    在redis-cluster架構中,redis-master節點一般用于接收讀寫,而redis-slave節點則一般只用于備份, 其與對應的master擁有相同的slot集合,若某個redis-master意外失效,則再將其對應的slave進行升級為臨時redis-master。

    在redis的官方文檔中,對redis-cluster架構上,有這樣的說明:在cluster架構下,默認的,一般redis-master用于接收讀寫,而redis-slave則用于備份,當有請求是在向slave發起時,會直接重定向到對應key所在的master來處理。 但如果不介意讀取的是redis-cluster中有可能過期的數據并且對寫請求不感興趣時,則亦可通過readonly命令,將slave設置成可讀,然后通過slave獲取相關的key,達到讀寫分離。具體可以參閱redis官方文檔等相關內容

    優點

    • 解決分布式負載均衡的問題。具體解決方案是分片/虛擬槽slot。
    • 可實現動態擴容
    • P2P模式,無中心化

    缺點

    • 為了性能提升,客戶端需要緩存路由表信息
    • Slave在集群中充當“冷備”,不能緩解讀壓力

    網絡規劃

    這里沒有搭建虛擬機環境,全部在本地部署。本機的ip為 192.168.124.5

    ip port
    192.168.124.5 7001
    192.168.124.5 7002
    192.168.124.5 7003
    192.168.124.5 7004
    192.168.124.5 7005
    192.168.124.5 7006

    Redis配置文件

    在docker環境中,配置文件映射宿主機的時候,(宿主機)必須有配置文件。附件在這里。大家可以根據自己的需求定制配置文件。

    下邊是我的配置文件 redis-cluster.tmpl

    # redis端口
    port ${PORT}
    # 關閉保護模式
    protected-mode no
    # 開啟集群
    cluster-enabled yes
    # 集群節點配置
    cluster-config-file nodes.conf
    # 超時
    cluster-node-timeout 5000
    # 集群節點IP host模式為宿主機IP
    cluster-announce-ip 192.168.124.5
    # 集群節點端口 7001 - 7006
    cluster-announce-port ${PORT}
    cluster-announce-bus-port 1${PORT}
    # 開啟 appendonly 備份模式
    appendonly yes
    # 每秒鐘備份
    appendfsync everysec
    # 對aof文件進行壓縮時,是否執行同步操作
    no-appendfsync-on-rewrite no
    # 當目前aof文件大小超過上一次重寫時的aof文件大小的100%時會再次進行重寫
    auto-aof-rewrite-percentage 100
    # 重寫前AOF文件的大小最小值 默認 64mb
    auto-aof-rewrite-min-size 64mb

    由于節點IP相同,只有端口上的差別,現在通過腳本 redis-cluster-config.sh 批量生成配置文件

    for port in `seq 7001 7006`; do \
      mkdir -p ./redis-cluster/${port}/conf \
      && PORT=${port} envsubst < ./redis-cluster.tmpl > ./redis-cluster/${port}/conf/redis.conf \
      && mkdir -p ./redis-cluster/${port}/data; \
    done

    生成的配置文件如下圖

    Docker環境搭建

    這里還是通過docker-compose進行測試環境的docker編排。

    version: '3.7'
    
    services:
      redis7001:
        image: 'redis'
        container_name: redis7001
        command:
          ["redis-server", "/usr/local/etc/redis/redis.conf"]
        volumes:
          - ./redis-cluster/7001/conf/redis.conf:/usr/local/etc/redis/redis.conf
          - ./redis-cluster/7001/data:/data
        ports:
          - "7001:7001"
          - "17001:17001"
        environment:
          # 設置時區為上海,否則時間會有問題
          - TZ=Asia/Shanghai
    
    
      redis7002:
        image: 'redis'
        container_name: redis7002
        command:
          ["redis-server", "/usr/local/etc/redis/redis.conf"]
        volumes:
          - ./redis-cluster/7002/conf/redis.conf:/usr/local/etc/redis/redis.conf
          - ./redis-cluster/7002/data:/data
        ports:
          - "7002:7002"
          - "17002:17002"
        environment:
          # 設置時區為上海,否則時間會有問題
          - TZ=Asia/Shanghai
    
    
      redis7003:
        image: 'redis'
        container_name: redis7003
        command:
          ["redis-server", "/usr/local/etc/redis/redis.conf"]
        volumes:
          - ./redis-cluster/7003/conf/redis.conf:/usr/local/etc/redis/redis.conf
          - ./redis-cluster/7003/data:/data
        ports:
          - "7003:7003"
          - "17003:17003"
        environment:
          # 設置時區為上海,否則時間會有問題
          - TZ=Asia/Shanghai
    
    
      redis7004:
        image: 'redis'
        container_name: redis7004
        command:
          ["redis-server", "/usr/local/etc/redis/redis.conf"]
        volumes:
          - ./redis-cluster/7004/conf/redis.conf:/usr/local/etc/redis/redis.conf
          - ./redis-cluster/7004/data:/data
        ports:
          - "7004:7004"
          - "17004:17004"
        environment:
          # 設置時區為上海,否則時間會有問題
          - TZ=Asia/Shanghai
    
    
      redis7005:
        image: 'redis'
        container_name: redis7005
        command:
          ["redis-server", "/usr/local/etc/redis/redis.conf"]
        volumes:
          - ./redis-cluster/7005/conf/redis.conf:/usr/local/etc/redis/redis.conf
          - ./redis-cluster/7005/data:/data
        ports:
          - "7005:7005"
          - "17005:17005"
        environment:
          # 設置時區為上海,否則時間會有問題
          - TZ=Asia/Shanghai
    
    
      redis7006:
        image: 'redis'
        container_name: redis7006
        command:
          ["redis-server", "/usr/local/etc/redis/redis.conf"]
        volumes:
          - ./redis-cluster/7006/conf/redis.conf:/usr/local/etc/redis/redis.conf
          - ./redis-cluster/7006/data:/data
        ports:
          - "7006:7006"
          - "17006:17006"
        environment:
          # 設置時區為上海,否則時間會有問題
          - TZ=Asia/Shanghai
    

    啟動結果如圖

    集群配置

    redis集群官方提供了配置腳本,4.x和5.x略有不同,具體可參見集群配置

    下邊是我自己的環境

    docker exec -it redis7001 redis-cli -p 7001 -a 123456 --cluster create 192.168.124.5:7001 192.168.124.5:7002 192.168.124.5:7003 192.168.124.5:7004 192.168.124.5:7005 192.168.124.5:7006 --cluster-replicas 1

    看到如下結果說明集群配置成功

    集群測試

    接下來進行一些集群的基本測試

    1. 查看集群通信是否正常

    redis7001主節點對它的副本節點redis7005進行ping操作。

    -h host -p port -a pwd

    ?  docker docker exec -it redis7001 redis-cli -h 192.168.124.5 -p 7005 -a 123456 ping
    
    Warning: Using a password with '-a' or '-u' option on the command line interface may not be safe.
    PONG

    2. 測試簡單存儲

    redis7001主節點客戶端操作redis7003主節點

    ?  docker docker exec -it redis7001 redis-cli -h 192.168.124.5 -p 7003 -a 123456
    
    Warning: Using a password with '-a' or '-u' option on the command line interface may not be safe.
    192.168.124.5:7003> set name admin
    (error) MOVED 5798 192.168.124.5:7002

    由于Redis Cluster會根據key進行hash運算,然后將key分散到不同slots,name的hash運算結果在redis7002節點上的slots中。所以我們操作redis7003寫操作會自動路由到7002。然而error提示無法路由?沒關系,差一個 -c 參數而已。

    再次運行查看結果如下:

    ?  docker docker exec -it redis7001 redis-cli -h 192.168.124.5 -p 7003 -a 123456 -c
    
    Warning: Using a password with '-a' or '-u' option on the command line interface may not be safe.
    192.168.124.5:7003> set name admin
    -> Redirected to slot [5798] located at 192.168.124.5:7002
    OK
    192.168.124.5:7002> get name
    "admin"
    192.168.124.5:7002>

    3. 查看集群狀態

    4. 查看slots分片

    5. 查看集群信息

    6. 測試讀寫分離

    試試看,發現讀不到,原來在redis cluster中,如果你要在slave讀取數據,那么需要帶先執行 readonly 指令,然后 get key

    7. 簡單壓測

    選項 描述
    -t 指定命令
    -c 客戶端連接數
    -n 總請求數
    -d set、get的value大小(單位byte)

    測試如下

    ?  docker docker exec -it redis7001 bash
    root@cbc6e76a3ed2:/data# redis-benchmark -h 192.168.124.5 -p 7001 -t set -c 100 -n 50000 -d 20
    ====== SET ======
      50000 requests completed in 10.65 seconds
      100 parallel clients
      20 bytes payload
      keep alive: 1
    
    0.00% <= 2 milliseconds
    0.01% <= 3 milliseconds
    ...
    100.00% <= 48 milliseconds
    100.00% <= 49 milliseconds
    4692.63 requests per second

    這里沒啥實際意義,在工作業務上大家可以根據QPS和主機配置進行壓測,計算規劃出節點數量。

    容災演練

    現在我們殺掉主節點redis7001,看從節點redis7005是否會接替它的位置。

    docker stop redis7001

    再試著啟動7001,它將自動作為slave掛載到7005

    SpringBoot配置Redis集群

    在SpringBoot2.x版本中,redis默認的連接池已經更換為Lettuce,而不再是jedis。

    1. 在pom.xml中引入相關依賴
            <dependency>
                <groupId>org.springframework.boot</groupId>
                <artifactId>spring-boot-starter-data-redis</artifactId>
            </dependency>
            <dependency>
                <groupId>org.apache.commons</groupId>
                <artifactId>commons-pool2</artifactId>
            </dependency>
    1. application.yml
    spring:
      redis:
        timeout: 6000
        password: 123456
        cluster:
          max-redirects: 3 # 獲取失敗 最大重定向次數 
          nodes:
            - 192.168.124.5:7001
            - 192.168.124.5:7002
            - 192.168.124.5:7003
            - 192.168.124.5:7004
            - 192.168.124.5:7005
            - 192.168.124.5:7006
        lettuce:
          pool:
            max-active: 1000 #連接池最大連接數(使用負值表示沒有限制)
            max-idle: 10 # 連接池中的最大空閑連接
            min-idle: 5 # 連接池中的最小空閑連接
            max-wait: -1 # 連接池最大阻塞等待時間(使用負值表示沒有限制)
      cache:
        jcache:
          config: classpath:ehcache.xml
    1. redis配置
    @Configuration
    @AutoConfigureAfter(RedisAutoConfiguration.class)
    public class RedisConfig {
        @Bean
        public RedisTemplate<String, Object> redisCacheTemplate(LettuceConnectionFactory redisConnectionFactory) {
            RedisTemplate<String, Object> template = new RedisTemplate<>();
            template.setKeySerializer(new StringRedisSerializer());
            template.setValueSerializer(new GenericJackson2JsonRedisSerializer());
            template.setConnectionFactory(redisConnectionFactory);
            return template;
        }
    }
    1. 基本測試
    @SpringBootTest
    public class RedisTest {
    
        @Autowired
        private RedisTemplate<String, String> redisTemplate;
    
        @Test
        public void test() {
            redisTemplate.opsForValue().set("name", "admin");
            String name = redisTemplate.opsForValue().get("name");
            System.out.println(name); //輸出admin
        }
    }

    總結

    通過以上演示,基本上可以在本地環境下用我們的Redis Cluster集群了。最后再上一張本地映射文件的最終樣子,幫助大家了解Redis持久化及集群相關的東西。感興趣的小伙伴可以自行測試并查看其中的內容。

    內容如有錯漏,還望大家不吝賜教,同時,歡迎大家關注公眾號【當我遇上你】,你們的支持就是我寫作的最大動力。

    參考

    • https://redis.io/topics/cluster-tutorial

    公眾號 【當我遇上你】

    posted @ 2020-03-01 19:17  當我遇上你csy  閱讀(...)  評論(...編輯  收藏
    贵州快三平台贵州快三主页贵州快三网站贵州快三官网贵州快三娱乐贵州快三开户贵州快三注册贵州快三是真的吗贵州快三登入贵州快三快三贵州快三时时彩贵州快三手机app下载贵州快三开奖 台湾省 | 汤阴县 | 墨江 | 集贤县 | 潮安县 | 卢氏县 | 敦化市 | 双鸭山市 | 湘西 | 武冈市 | 运城市 | 海口市 | 巨鹿县 | 田林县 | 汉阴县 | 夏邑县 | 噶尔县 | 中西区 | 屏边 | 喀什市 | 满洲里市 | 汪清县 | 黑河市 | 呼和浩特市 | 太仓市 | 大宁县 | 吉木乃县 | 通江县 | 花垣县 | 青州市 | 鸡东县 | 资阳市 | 库伦旗 | 普兰县 | 东港市 | 田林县 | 务川 | 沽源县 | 平乐县 | 长顺县 | 广宗县 | 岳西县 | 渝北区 | 甘孜 | 永昌县 | 营口市 | 伊金霍洛旗 | 井冈山市 | 平阳县 | 余干县 | 泰兴市 | 秦皇岛市 | 玉门市 | 紫阳县 | 清新县 | 龙海市 | 游戏 | 沅陵县 | 穆棱市 | 囊谦县 | 厦门市 | 楚雄市 | 宝应县 | 彭山县 | 宣武区 | 上栗县 | 德江县 | 丰原市 | 舒兰市 | 临沭县 | 监利县 | 宜宾市 | 玉溪市 | 皋兰县 | 忻州市 | 乌拉特前旗 | 大安市 | 江都市 | 乾安县 | 肃南 | 吉水县 | 宁武县 | 林周县 | 新野县 | 怀宁县 | 青海省 | 霍邱县 | 林周县 | 崇明县 | 隆昌县 | 肇州县 | 泸州市 | 临夏县 | 依安县 | 阳信县 | 溆浦县 | 汕尾市 | 息烽县 | 贵南县 | 德钦县 | 大关县 | 天全县 | 富宁县 | 云浮市 | 新余市 | 襄垣县 | 绥德县 | 澄迈县 | 梁山县 | 莫力 | 郑州市 | 井陉县 | 大渡口区 | 沛县 | 东安县 | 新竹县 | 辉县市 | 华宁县 | 肥乡县 | 凤阳县 | 文登市 | 达州市 | 中超 | 青铜峡市 | 光泽县 | 神农架林区 | 兴业县 | 盐亭县 | 晋宁县 | 马尔康县 | 金阳县 | 巴南区 | 上饶市 | 正镶白旗 | 北川 | 湖南省 | 定襄县 | 陆良县 | 邹平县 | 瑞丽市 | 泰来县 | 大竹县 | 沁源县 | 襄城县 | 民乐县 | 昔阳县 | 高青县 | 崇左市 | 子洲县 | 神木县 | 大城县 | 霍州市 | 松原市 | 扎兰屯市 | 高碑店市 | 盐山县 | 灵石县 | 关岭 | 松潘县 | 株洲县 | 扬中市 | 广河县 | 长葛市 | 固安县 | 谢通门县 | 安丘市 | 盘锦市 | 绥德县 | 竹溪县 | 永平县 | 岢岚县 | 洛阳市 | 六枝特区 | 海兴县 | 溧水县 | 福清市 | 綦江县 | 巴中市 | 会东县 | 甘孜县 | 安顺市 | 龙里县 | 大邑县 | 大冶市 | 德兴市 | 孙吴县 | 嘉义市 | 鲁甸县 | 遂平县 | 榆社县 | 汉源县 | 屏南县 | 峨边 | 中山市 | 古交市 | 汝南县 | 康马县 | 乌拉特中旗 | 大理市 | 石林 | 海淀区 | 岳西县 | 连州市 | 遵义县 | 邹平县 | 巨野县 | 北安市 |