Codis集群3.03安装配置基础

wenjun8888 • • Linux干货

Codis基础


01.codis是一个分布式的Redis解决方案，对于上层的应用来说，连接Codis Proxy和连接原生的Redis Server没有明显的区别。

  • codis底层会处理请求的转发，不停机的数据迁移等工作，所有后边的一切事情，对于前面客户端来说是透明的，可以简单的认为后边连接是一个内存无限大的Redis服务。

  • codis架构图如下：

clipboard.png

02.codis由codis-proxy，codis-redis，codis-dashboard和zookeeper组成。

  • codis-dashboard，codis的主控制节点。

  • codis-proxy，客户端连接redis的代理工具，本身实现了redis协议，和原生的redis没有太多区别。

  • codis-redis，实现redis实例功能。

  • zookeeper，用来存放数据路由和codis-proxy的节点元信息；codis-proxy之间通过zookeeper来同步信息。

03.实现环境：

  • zookeeper，10.1.20.1

  • zookeeper，10.1.20.2

  • zookeeper，10.1.20.3

  • codis-redis，10.1.20.4

  • codis-redis，10.1.20.5

  • codis-proxy，10.1.20.6

  • codis-proxy，10.1.20.7

  • dashboard，10.1.20.24


zookeeper安装


对象：10.1.20.1，10.1.20.2，10.1.20.3

01.zookeeper是一个分布式的开源框架，它能很好的管理集群，而且提供协调分布式应用的基本服务。

  • 它向外部应用暴露一组通用服务——分布式同步（Distributed Synchronization）、命名服务（Naming Service）、集群维护（Group Maintenance）等，简化分布式应用协调及其管理的难度，提供高性能的分布式服务。

  • zookeeper本身可以以standalone模式（单节点状态）安装运行，不过它的长处在于通过分布式zookeeper集群（一个leader，多个follower），基于一定的策略来保证zookeeper集群的稳定性和可用性，从而实现分布式应用的可靠性。

02.zookeeper集群中主要有两个角色，分别是领导者和学习者。

  • 领导者（leader），用于负责进行投票的发起和决议，更新系统状态。

  • 学习者（learner），包括跟随者（follower）和观察者（observer）。

  • 跟随者用于接受客户端请求并向客户端返回结果，在选主过程中参与投票。

  • 观察者用于接受客户端连接，将写请求转发给领导者；但observer不参加投票过程，只同步leader的状态，observer的目的是为了扩展系统并提高读取速度。

03.zookeeper的集群数量：

  • zookeeper节点部署的越多，服务的可靠性也就越高。

  • zookeeper集群中，超过半数的节点宕机才造成整个集群宕机，所以节点应配置为奇数个。


04.安装jdk：

  • cd /root/Downloads，进入下载目录。

  • tar -zxvf jdk-7u60-linux-x64.tar.gz -C /usr/local/，解压至指定目录。

  • vim /etc/profile，修改profile文件，添加如下内容：

export JAVA_HOME=/usr/local/jdk1.7.0_60

export PATH=$JAVA_HOME/bin:$PATH

export PATH=$JAVA_HOME/jre/bin:$PATH

export CLASSPATH=$CLASSPATH:$JAVA_HOME/lib:$JAVA_HOME/jre/lib

  • source /etc/profile，载入profile文件。

  • java -version，确认出现“Java(TM) SE Runtime Environment”等信息确保jdk安装好。

05.安装zookeeper：

  • cd /root/Downloads，进入下载目录。

  • wget http://mirrors.cnnic.cn/apache/zookeeper/zookeeper-3.4.8/zookeeper-3.4.8.tar.gz，下载zookeeper安装包。

  • tar -zxvf zookeeper-3.4.8.tar.gz -C /usr/local/，解压至指定目录。

  • mv /usr/local/zookeeper-3.4.8 /usr/local/zookeeper，更改目录名。

  • chown -R root:root /usr/local/zookeeper，更改目录属主属组。

  • vim /etc/profile，修改profile文件，添加如下内容：

export ZOOKEEPER_HOME=/usr/local/zookeeper

export PATH=$PATH:$ZOOKEEPER_HOME/bin

  • source /etc/profile，载入profile文件。

  • cp /usr/local/zookeeper/conf/zoo_sample.cfg /usr/local/zookeeper/conf/zoo.cfg，修改配置文件名称。

06.启动zookeeper：

  • /usr/local/zookeeper/bin/zkServer.sh start，在任意一台服务器上启动zookeeper。

  • netstat -ntlp | grep 2181，查看2181是否启动。

  • /usr/local/zookeeper/bin/zkServer.sh status，确认zookeeper已启动，并且为standalone状态。

07.配置zookeeper集群：

  • vim /usr/local/zookeeper/conf/zoo.cfg，修改如下参数：

dataLogDir=/usr/local/zookeeper/log

dataDir=/usr/local/zookeeper/data

clientPort=2181

server.1=10.1.20.1:2888:3888

server.2=10.1.20.2:2888:3888

server.3=10.1.20.3:2888:3888

  • mkdir -p /usr/local/zookeeper/{log，data}，创建对应的目录。

  • echo "1" > /usr/local/zookeeper/data/myid，在10.1.20.1服务器上执行，数字根据配置文件中，ip对应的server.#中的数字决定。

  • echo "2" > /usr/local/zookeeper/data/myid，在10.1.20.2服务器上执行。

  • echo "3" > /usr/local/zookeeper/data/myid，在10.1.20.3服务器上执行。

  • /usr/local/zookeeper/bin/zkServer.sh start，启动每天服务器上的zookeeper。

  • /usr/local/zookeeper/bin/zkServer.sh status，分别查询状态，应有1台为leader，2台为follewer。

  • /usr/local/zookeeper/bin/zkCli.sh -server 10.1.20.2:2181，从服务器连接其他zookeeper，查看是否成功。


Codis安装

对象：10.1.20.4，10.1.20.5，10.1.20.6，10.1.20.7，10.1.20.24

01.安装基本依赖包：

  • yum install -y git gcc make g++ gcc-c++ automake openssl-devel zlib-*

02.安装go语言包：

export GOROOT=/usr/local/go

export GOPATH=/usr/local/codis

export PATH=$PATH:$GOPATH/bin:$GOROOT/bin

  • source /etc/profile，刷新/etc/profile文件。

  • go version，测试go语言是否正常。

  • vim /opt/hello.go，测试go命令是否能正常使用，添加如下内容：

package main

    import "fmt"


    func main(){

        fmt.Printf("hello world\n")

        }

  • go run /opt/hello.go，测试输出hello world。

03.安装godep：

  • mkdir -p /usr/local/codis/src/github.com/tools，创建codis目录。

  • cd /usr/local/codis/src/github.com/tools，进入codis工具目录。

  • go get -u github.com/tools/godep，下载godep。

  • cd godep/，进入安装目录。

  • go install ./，安装godep，检查该程序有无安装在/usr/local/codis/bin下。

  • which godep，测试系统是否识别。

04.安装codis：

  • mkdir -p /usr/local/codis/src/github.com/CodisLabs，创建安装目录。

  • cd /root/Downloads，进入下载目录。

  • tar -zxvf /root/Downloads/codis-3.0.3.tar.gz，解压安装文件。

  • cp -rf /root/Downloads/codis-3.0.3 /usr/local/codis/src/github.com/CodisLabs/codis，复制安装目录。

  • cd /usr/local/codis/src/github.com/CodisLabs/codis，进入安装目录。

  • make && make gotest，测试安装，确定不报错为安装成功。

  • 安装成功后，会在/usr/local/codis/src/github.com/CodisLabs/codis/bin目录下产生如下文件：

1.png

Codis集群3.03安装配置基础

05.创建程序目录：

  • mkdir -p /codis/{bin,conf,log,scripts,run,database}，创建目录结构。

  • cp -rp /usr/local/codis/src/github.com/CodisLabs/codis/bin/* /codis/bin/，复制因公程序至程序目录。

  • cp /usr/local/codis/src/github.com/CodisLabs/codis/extern/redis-2.8.21/src/{redis-benchmark,redis-check-aof,redis-check-dump,redis-cli} /codis/bin/，复制redis的程序至程序目录。

  • cp /usr/local/codis/src/github.com/CodisLabs/codis/extern/redis-2.8.21/redis.conf /codis/conf/redis6379.conf，复制redis配置文件至redis主配置。

  • cp /usr/local/codis/src/github.com/CodisLabs/codis/extern/redis-2.8.21/redis.conf /codis/conf/redis6380.conf，复制redis配置文件至redis从配置。

集群配置


01.配置并启动codis-dashboard（10.1.20.24）。

  • /codis/bin/codis-dashboard –default-config | tee /codis/conf/dashboard.toml，生成配置文件。

  • vim /codis/conf/dashboard.toml，修改如下配置：

coordinator_addr = "10.1.20.1:2181,10.1.20.2:2181,10.1.20.3:2181"

product_name = "codis-jym"

  • coordinator_name为外部存储的类型，为zookeeper或者etcd，不能用其他名称；coordinator_addr为外部存储zookeeper的集群地址。

  • product_name为codis集群名称，可以自定义；product_auth为codis集群认证密码，默认为空。

  • nohup /codis/bin/codis-dashboard –config=/codis/conf/dashboard.toml –log=/codis/log/dashboard.log &，启动codis-dashboard，启动后会产生一个18080的端口。


02.配置并启动codis-proxy（10.1.20.6，10.1.20.7）。

  • /codis/bin/codis-proxy –default-config | tee /codis/conf/proxy.toml，产生默认配置文件。

  • vim /codis/conf/proxy.toml，修改如下配置：

product_name = "codis-jym"

jodis_addr = "10.1.20.1:2181,10.1.20.2:2181,10.1.20.3:2181"

  • nohup /codis/bin/codis-proxy –config=/codis/conf/proxy.toml –log=/codis/log/proxy.log &，启动codis-proxy。

  • /codis/bin/codis-admin –dashboard=10.1.20.24:18080 –create-proxy -x 10.1.20.6:11080，将proxy添加进集群管理中。

  • /codis/bin/codis-admin –dashboard=10.1.20.24:18080 –create-proxy -x 10.1.20.7:11080，将proxy添加进集群管理中。

  • http://10.1.20.24:18080/topom，获取dashboard的json文件，查看proxy的状态，如下图：

12.png

  • Codis集群3.03安装配置基础/codis/bin/codis-admin –dashboard=10.1.20.24:18080 –list-proxy，查看proxy集群。

03.配置并启动codis-sever（10.1.20.4，10.1.20.5）。

  • vim /codis/conf/redis6379.conf，将6379配置为master服务器，修改如下配置：

pidfile /codis/run/redis6379.pid

timeout 3600

tcp-keepalive 60

logfile "/codis/log/redis6379.log"

#save 900 1

#save 300 10

#save 60 10000

dbfilename dump6379.rdb

dir /codis/database/redis6379

  • vim /codis/conf/redis6380.conf，将6380配置为master服务器，修改如下配置：

pidfile /codis/run/redis6380.pid

timeout 3600

tcp-keepalive 60

logfile "/codis/log/redis6380.log"

dbfilename dump6380.rdb

dir /codis/database/redis6380

  • /codis/bin/codis-server /codis/conf/redis6379.conf &，启动6379实例。

  • /codis/bin/codis-server /codis/conf/redis6380.conf &，启动6380实例。

  • /codis/bin/codis-admin –dashboard=10.1.20.24:18080  –create-group –gid=1，新建一个redisgroup，gid为1。

  • /codis/bin/codis-admin –dashboard=10.1.20.24:18080  –create-group –gid=2，新建一个redisgroup，gid为2。

10.1.20.4上

    1. /codis/bin/codis-admin –dashboard=10.1.20.24:18080 –group-add –gid=1 –addr=10.1.20.4:6379，将6379加入gid1。

    2. /codis/bin/codis-admin –dashboard=10.1.20.24:18080 –group-add –gid=2 –addr=10.1.20.4:6380，将6380加入gid2。

10.1.20.5上

    1. /codis/bin/codis-admin –dashboard=10.1.20.24:18080 –group-add –gid=2 –addr=10.1.20.5:6379，将6379加入gid1。

    2. /codis/bin/codis-admin –dashboard=10.1.20.24:18080 –group-add –gid=1 –addr=10.1.20.5:6380，将6379加入gid1。

  • 实例的放置倾向于交叉放置，每台codis-sever上放置不同的主从实例。

  • /codis/bin/codis-admin –dashboard=10.1.20.24:18080 –list-group，查看group情况。

04.配置并启动codis-sever（10.1.10.24，可选）：

  • /codis/bin/codis-admin –dashboard-list –zookeeper=10.1.20.1:2181 | tee /codis/conf/fe.json，通过zookeeper下载fe配置文件。

  • nohup /codis/bin/codis-fe –dashboard-list=/codis/conf/fe.json –listen=10.1.20.24:8080 &，启动codis-fe。

  • http://10.1.20.24:8080/，访问图形化界面。

原创文章，作者：wenjun8888，如若转载，请注明出处：http://www.178linux.com/49320

赞 (0)
wenjun8888wenjun8888
0
上一篇 2016-09-26
下一篇 2016-09-26

相关推荐

  • M20 – 1- 第三周博客（2）：Linux用户、组

    一、Linux用户组详解 Linux系统中的每个用户都有一个用户组，系统能对一个用户组中的所有用户进行集中管理。不同Linux系统对用户组的规定有所不同，如Linux下的用户属于和他同名的用户组，这个用户组在创建用户时同时创建。用户组的管理涉及用户组的添加、删除和修改。组的增加、删除和修改实际上就对/etc/group文件的更新。 用户组（group）就是具…

    Linux干货 2016-08-05

  • Linux终端和伪终端简述

    本文简述Linux各种类型终端的区别以及如何用命令查看终端类型

    Linux干货 2018-03-26
  • Linux干货

    为大家准备了几道简单的小题,不知道看过这篇文章后能否做出来？（考验你能力的时候到了，接招吧。。。） 1、将0-9分别替代成a-j 2、将/etc/issue文件中的内容转换为大写后保存至/tmp/issue.out文件中 3、计算1+2+3+..+99+100的值 4、处理字符串“xt.,l 1 jr#!$mn2 c*/fe 3 uz 4”，只保留其中的数字…

    2017-07-22

  • sed&awk

    Evernote Export 1、总结sed和awk的详细用法； awk Linux文本处理工具三剑客：grep、sed和awk。其中grep是一种文本过滤工具，sed是文本编辑器，而awk是一种报表生成器，就是对文件进行格式化处理的，这里的格式化不是文件系统的格式化，而是对文件内容进行各种“排版”，进而格式化显示。 在Linux之上我们使用的是GNU a…

    Linux干货 2017-01-05

  • 初探linux

    计算机的组成及其功能： 存储器:    实现记忆功能的部件用来存放计算程序及参与运算的各种数据 运算器:    负责数据的算术运算和逻辑运算即数据的加工处理 控制器:    负责对程序规定的控制信息进行分析,控制并协调输入,输出操作或内存访问 输入设备:    实现计算程序和原始…

    Linux干货 2016-10-29

  • 用户管理+文本处理+文件查找

    用户管理 erter useradd （使用频率2） /etc/default/useradd用户模板文件说明 /etc/login.defs 关于新建用户的默认配置文件 批量创建用户和修改密码 usermod 修改用户的属性 chpasswd修改密码 2.chage option user 3.finger user 查看用户信息 4.chfn user …

    Linux干货 2017-04-09
电话咨询
在线咨询