图的三角形计数

实验背景

图的三角形计数问题是一个基本的图计算问题,是很多复杂网络分析(比如社 交网络分析)的基础。目前图的三角形计数问题已经成为了 Spark 系统中 GraphX 图计算库 所提供的一个算法级API。本次实验任务就是要在Hadoop系统上实现Twitter社交网络图的 三角形计数任务。 换句话说,这TM是mapreduce课程的作业啊,不做也得做啊!!!

继续阅读;
May 8th, 2015

Vpn添加路由规则+octopress Push报错

写在前面

关于vpn访问局域网内服务器和octopress deploy的时候报错,记录一下,年纪大了,老是忘记怎么做。

继续阅读;
May 7th, 2015

在coreos系统下,同时添加flannel和私有仓库的参数

写在前面

前面我们已经搭建好了一个coreos集群 看这里,正如这篇blog里面说的一样,我们没有外网,所以我们自己搭建了一个私有仓库,方法可以去官网找,很简答的两行命令,这里就不再叙述。既然搭建了私服,我们就希望我们的这个集群使用这个集群。其次,我们搭建了一个集群,我们也希望屏蔽这是一个集群的概念,让用户用起来就像在使用一个主机的服务器一样,所以我们需要flanel服务。这就涉及到给docker daemon添加多个参数,我们这里记录一下过程。同时,这也是如果在coreos集群中如何运行service的介绍。

继续阅读;
May 6th, 2015

创建不需要输入密码就可以登录的docker Image

写在前面

ssh进入某一个机器的时候,要么提供那台机器的密码,要么采用别的安全协议,比如说rsa协议,我们就是通过rsa协议实现了不输入密码就可以直接登录别的主机。这样做主要是为了,我们在利用mpi进行计算的时候,不能通过输入密码的方式进行访问,所以,有这个需求。

继续阅读;
May 6th, 2015

使用mtt作为mpi的benchmark 测试docker Container计算集群性能

写在前面

docker技术已经十分普遍,利用docker来创建多个虚拟机,实现分布式运算也是一种十分便利的方式,但是docker创建的虚拟机和常规的虚拟机,或者和分布式的集群到底有多少性能的差距,docker能不能通过创建多个container的方式实现常规的分布式运算,我们这里使用openmpi的一个benchmark,mtt来做一个验证。

继续阅读;
May 6th, 2015

使用vagrant搭建coreos集群安装flannel服务并使用mpi测试

写在前面

容器技术已经成为了当前技术的潮流,学习容器技术已经刻不容缓。除了原始的warden容器,docker容器之外,coreos也在发展自己的容器技术,rocket,就连之前不看好容器技术的microsoft也开始创建自己的容器技术,nano server。我们这里尝试搭建coreos集群,并安装了flannel服务,用来实现mpi程序的测试。

继续阅读;
May 6th, 2015

Coreos集群离线安装

写在前面

最近要搭建一个coreos集群,但是实验环境中没有外网,这样就不能使用官网的安装方法,整合了一些大牛的安装经验,加上我自己的安装实践,这里做个记录,希望大家可以少踩一些坑。

继续阅读;
May 6th, 2015

Dokku源码解读四

写在前面

dokku,号称只用了100行左右代码就实现的简单paas平台,号称是你能见到的最小的paas平台,确实,很NB。整个dokku的实现大部分采用了bash脚本命令,只有少数的go语言文件,我们接下来就通过几篇blog,来看看,dokku到底是怎么实现的这个pass平台。

继续阅读;
May 5th, 2015

Dokku源码解读三

写在前面

dokku,号称只用了100行左右代码就实现的简单paas平台,号称是你能见到的最小的paas平台,确实,很NB。整个dokku的实现大部分采用了bash脚本命令,只有少数的go语言文件,我们接下来就通过几篇blog,来看看,dokku到底是怎么实现的这个pass平台。

继续阅读;
May 4th, 2015

Dokku源码解读二

写在前面

dokku,号称只用了100行左右代码就实现的简单paas平台,号称是你能见到的最小的paas平台,确实,很NB。整个dokku的实现大部分采用了bash脚本命令,只有少数的go语言文件,我们接下来就通过几篇blog,来看看,dokku到底是怎么实现的这个pass平台。

继续阅读;
May 4th, 2015