mesos 原理与架构
首先, 再次需要强调 Mesos 自身只是一个资源调度框架, 并非一整套完整的应用管理平台, 所以只有 Mesos 自己是不能干活的但是基于 Mesos, 可以比较容易地为各种应用管理框架或者中间件平台 (作为 Mesos 的应用) 提供分布式运行能力; 同时多个框架也可以同时运行在一个 Mesos 集群中, 提高整体的资源使用效率
Mesos 对自己定位范围的划分, 使得它要完成的任务很明确, 其它任务框架也可以很容易的与它进行整合
基本单元
Mesos 中有三个基本的组件:
管理服务(master)
任务服务(slave)
应用框架(framework)
管理服务 - master
跟大部分分布式系统中类似, 主节点起到管理作用, 将看到全局的信息, 负责不同应用框架之间的资源调度和逻辑控制应用框架需要注册到管理服务上才能被使用
用户和应用需要通过主节点提供的 API 来获取集群状态和操作集群资源
任务服务 - slave
负责汇报本从节点上的资源状态 (空闲资源运行状态等等) 给主节点, 并负责隔离本地资源来执行主节点分配的具体任务
隔离机制目前包括各种容器机制, 包括 LXCDocker 等
应用框架 - framework
应用框架是实际干活的, 包括两个主要组件:
调度器(scheduler): 注册到主节点, 等待分配资源;
执行器(executor): 在从节点上执行框架指定的任务(框架也可以使用 Mesos 自带的执行器, 包括 shell 脚本执行器和 Docker 执行器)
应用框架可以分两种: 一种是对资源的需求是会扩展的(比如 HadoopSpark 等), 申请后还可能调整; 一种是对资源需求大小是固定的(MPI 等), 一次申请即可
调度
对于一个资源调度框架来说, 最核心的就是调度机制, 怎么能快速高效地完成对某个应用框架资源的分配, 是核心竞争力所在最理想情况下(大部分时候都无法实现), 最好是能猜到应用们的实际需求, 实现最大化的资源使用率
Mesos 为了实现尽量优化的调度, 采取了两层 (two-layer) 的调度算法
Mesos 拥有许多引人注目的特性, 包括:
支持数万个节点的大规模场景(AppleTwittereBay 等公司实践);
支持多种应用框架, 包括 MarathonSingularityAurora 等;
支持 HA(基于 ZooKeeper 实现);
支持 DockerLXC 等容器机制进行任务隔离;
提供了多个流行语言的 API, 包括 PythonJavaC++ 等;
自带了简洁易用的 webUI, 方便用户直接进行操作
安装与使用
安装
安装主要需要 mesoszookeeper 和 marathon 三个软件包
Mesos 也采用了经典的主 - 从结构, 一般包括若干主节点和大量从节点其中, mesos master 服务和 zookeeper 需要部署到所有的主节点, mesos slave 服务需要部署到所有从节点 marathon 可以部署到主节点
主机名 | IP 地址 | 安装服务 |
mesos-node1 | 192.168.132.131 | mesos-master,mesos-slave,marathon,zookeeper,haproxy |
mesos-node2 | 192.168.132.132 | mesos-master,mesos-slave,marathon,zookeeper,haproxy |
mesos-node3 | 192.168.132.133 | mesos-master,mesos-slave,marathon,zookeeper,haproxy |
源码编译
docker 安装
略过
zookeeper 集群安装
略过
mesos+marathon 集群部署(三台服务器上都要做同样的操作)
1 安装 mesosphere 仓库
rpm -ivh http://repos.mesosphere.com/el/7/noarch/RPMS/mesosphere-el-repo-7-1.noarch.rpm
2 安装 mesos 和 marathon
yum - y install mesos marathon
3 增加 zookeeper 配置
$cat / etc / mesos / zk zk: //192.168.132.131:2181,192.168.132.132:2181,192.168.132.133:2181/mesos
4 配置 mesos-hostname
echo 本地 IP 地址 | tee /etc/mesos-master/ip
echo 本地 IP 地址 | tee /etc/mesos-master/hostname
echo 本地 IP 地址 | tee /etc/mesos-slave/ip
echo 本地 IP 地址 | tee /etc/mesos-slave/hostname
echo 2 > /etc/mesos-master/quorum #这个数字要大于安装的 master 节点的总数的 0.5 倍, 即一半
5 配置 mesos-master slave marathon 开机自启动并启动
- systemctl enable mesos-master mesos-slave marathon
- systemctl start mesos-master mesos-slave marathon
6 分别编辑 3 台服务器的 marathon, 修改配置如下:
- mkdir -p /etc/marathon/conf
- cd /etc/marathon/conf
- vim hostname
添加:
192.168.132.131 (其他 2 台为 132,133)
重启服务命令:
- systemctl restart mesos-master
- systemctl restart marathon.service
- systemctl restart mesos-slave
7 在浏览器打开任意一台服务的 mesos
http://192.168.132.131:5050/
这里如果客户端显示不了的话, 可以尝试清理 mesos 日志:
清理 mesos:rm -rf /var/lib/mesos/*
8 配置 marathon, 使其可以创建 docker 容器(三台服务器上都要做同样的操作):
在所有 mesos-slave 上增加配置参数, 并重启
- #echodocker,
- mesos | tee / etc / mesos - slave / containerizers#systemctl restart mesos - slave#重启Mesos - slave
9 在浏览器中打开 marathon, 默认端口 8080
http://192.168.132.131:8080
来源: http://www.bubuko.com/infodetail-2497235.html