Linux下利用TC工具控制网络流量（图）
【IT168 专稿】随着信息化建设的不断推进，各大企事业单位的活动越来越多的依赖于其关键的业务信息系统，这些业务信息系统对整个机构的运营和发展起着至关重要的作用，一旦发生宕机故障或应用停机，将给机构带来巨大的经济损失。Suse企业版里提供的HA软件是一款专业的高可用集群软件产品，它不仅仅是一款双机热备软件，它还为您提供Linux平台上完整的高可用性解决方案。当集群中的某个节点由于软件或硬件原因发生故障时，集群系统可以把资源切换到其他健康的节点上，使整个系统能连续不间断的对外提供服务，从而为机构24x365的关键业务提供了可靠的保障，达到了系统99.999%的高可用性和可靠性。SuSE Enterprise Linux 10.0是内置Linux 2.6.16内核的企业级服务器，较之SuSE Enterprise Linux 9.0，它在性能、可扩展性、易管理性和安全等方面都予以加强，并有众多硬件和应用软件支持。最近，笔者使用SuSE Enterprise Linux 10.0作为系统平台(使用其它Linux平台在安装部署时可能有小差异)，在其上采用HeartBeat、Mon和Rsync等开源软件打造了一个高可用系统，挖掘了SuSE Linux的高可用性。下面我为大家详细介绍如何在Suse Linux搭建双机的配置过程。
一、HeartBeat、Mon、Rsync简介
HeartBeat是一个高可用性解决方案，其官方网站是www.linux-ha.org。HeartBeat目前被广泛地应用，是很多商业高可用性软件的重要组成部分。大多数Linux厂商已经把它很好地集成在自己的系统中，例如SuSE Linux、RedHat和Debian Linux等。此外，HeartBeat也能很好地部署在Solaris和FreeBSD系统上。
Mon是一个后台服务运行情况的监控和告警软件，能够对大多数标准服务进行监控和告警，其中包括SMTP服务、Telnet服务、FTP服务、NNTP服务、HTTP服务、POP3
服务、Samba服务和NFS服务等，还可以自己编写告警事件和自定义服务。在本系统中，将使用Mon对两台主机的网络连接情况和服务运行情况进行监控，目的是及时告警，并且自动恢复服务。 Rsync是一个用于数据同步的软件，除了数据拷贝外，还有增量备份、同步owner、group和文件权限等重要信息的功能。在本系统中，使用Rsync来同步主服务器和备用服务器的数据。
二、安装环境
首先，需要准备两台PC服务器，每台服务器有两块网卡，其物理网络图如图1
图1 网络拓扑图
虽然在YaST2控制中心里有\"高可用性\"图形化的配置向导，我们这里不介绍一个过程，
中在讲述原理和方法，主要是基于命令行的配置方式。首先在PC服务器上安装SuSE Enterprise Linux 10.0系统，并将eth0配置为192.168.8.*网段，eth1配置为10.1.1.*网段，eth0链接对外的交换机，eth1用于两台机器的对连。
修改/etc/hosts文件，修改内容如下：
10.1.1.1 linux1
10.1.1.2 linux2
192.168.8.92 svr1
192.168.8.93 svr2
192.168.8.112 svr
注意，10.1.1.*为心跳线IP地址，192.168.8.*为对外IP，192.168.8.112为浮动IP。并且，拷贝hosts文件到linux2上：
#scp /etc/hosts 10.1.1.2:/etc
同时，关闭不需要的服务如下：
chkconfig -s alsasound off
chkconfig -s nfs off
chkconfig -s nfsboot off
chkconfig -s portmap off
chkconfig -s slpd off
chkconfig -s smbfs off
chkconfig -s setserial off
chkconfig -s splash off
chkconfig -s splash_early off
chkconfig -s splash_late off
chkconfig -s xdm off
chkconfig -s fbset off
chkconfig -s cups off
chkconfig -s nscd off
chkconfig -s random off
最后，修改启动级别为3。找到/etc/inittab文件的如下几行：
#The default runlevel is defined here id：5：initdefault：
将其改为如下：
#The default runlevel is defined here id：3：initdefault：
三、安装HeartBeat
通过yast2工具添加heartbeat,如图片2
图2 heartbeat安装
1)安装HeartBeat软件包。可以通过SuSE的光盘进行安装，安装命令如下：
#rpm -Uvh heartbeat-1.2.2-0.6.i586.rpm libnet-1.1.1-42.1.i586.rpm heartbeat-pils-1.2.2-0.6.i586.rpm heartbeat-stonith-1.2.2-0.6.i586.rpm
2)修改HeartBeat的配置文件
① 主配置文件/etc/ha.d/ha.cf
将/usr/share/doc/packages/heartbeat/目录下ha.cf、authkeys、haresources 三个文件考入/etc/ha.d/目录下，再将主配置文件/etc/ha.d/ha.cf修改如下：
node linux1
node linux2
keepalive 2
deadtime 30
warntime 10
initdead 120
auto_failback on
bcast eth1
ping 10.1.1.1
ping 10.1.1.2
respawn hacluster /usr/lib/heartbeat/ipfail
② 认证方式文件/etc/ha.d/authkeys
修改认证方式文件/etc/ha.d/authkeys如下：
auth 2
2 crc
③ 资源配置文件/etc/ha.d heresources
假设现在正在进行Apache服务的HA系统，这里设置的服务必须在/etc/ha.d/resource.d和/etc/rc.d/init.d下有响应的脚本。修改资源配置文件/etc/ha.d/haresources如下：
linux1 192.168.8.112 apache2
④ 拷贝配置文件到linux2
#scp /etc/ha.d/ha.cf 10.1.1.2:/etc/ha.d
#scp /etc/ha.d/authkeys 10.1.1.2:/etc/ha.d
#scp /etc/ha.d/haresources 10.1.1.2:/etc/ha.d
3)启动HeartBeat服务：
#chkconfig -s heartbeat on
#chmod 600 /etc/ha.d/authkeys
#/etc/init.d/heartbeat start
系统显示信息如下：
Starting High-Availability servicesheartbeat:2010/4/01_23:05:19 info: Neither logfile nor logfacility found.
heartbeat: 2010/4/01_23:05:19 info: Logging defaulting to /var/log/ha-log
heartbeat: 2010/4/01_23:05:19 info:**************************
heartbeat: 2010/4/01_23:05:19 info:Configuration validated.Starting heartbeat 1.2.2
done
通过运行\"ps -ef|grep heartbeat\"命令来查看进程：
root 4240 1 0 23:25 ? 00：00：01 heartbeat:heartbeat:master control process
nobody 4242 4240 0 23:05 ? 00:00:00 heartbeat:heartbeat:FIFO reader
nobody 4243 4240 0 23:05 ? 00:00:00 heartbeat:heartbeat:write:bcast eth1
nobody 4244 4240 0 23:05 ? 00:00:00 heartbeat:heartbeat:read:bcast eth1
nobody 4245 4240 0 23:05 ?00:00:00 heartbeat:heartbeat:write:ping 10.1.1.1
nobody 4246 4240 0 23:05 ? 00:00:00 heartbeat:heartbeat:read:ping 10.1.1.1
nobody 4247 4240 0 23:05 ? 00:00:00 heartbeat:heartbeat:write:ping 10.1.1.2
nobody 4248 4240 0 23:05 ? 00:00:00 heartbeat:heartbeat:read:ping 10.1.1.2
haclust 4254 4240 0 23:07 ? 00:00:00 /usr/lib/heartbeat/ipfail
1 安装Apache
1)安装Apache和相关软件包如下：
#rpm -Uvh apahe2-2.0.49-27.8.i586.rpm
apache2-prefork-2.0.49-27.8.i586.rpm libapr0-2.0.49-27.8.i586.rpm
#SuSEconfig --module apache2
2)启动Apache：
/etc/init.d/apache2 start
并运行\"ps -ef|grep apache\"查看进程：
root 4387 1 10 23:33 ? 00:00:00 /usr/sbin/httpd2-prefork -f /etc/apache2/httpd.conf
wwwrun 4388 4387 0 23:33 ? 00:00:00 /usr/sbin/httpd2-prefork -f /etc/apache2/httpd.conf
wwwrun 4389 4387 0 23:33 ? 00:00:00 /usr/sbin/httpd2-prefork -f /etc/apache2/httpd.conf
wwwrun 4390 4387 0 23:33 ? 00:00:00 /usr/sbin/httpd2-prefork -f /etc/apache2/httpd.conf
wwwrun 4391 4387 0 23:33 ? 00:00:00 /usr/sbin/httpd2-prefork -f /etc/apache2/httpd.conf
wwwrun 4392 4387 0 23:33 ? 00:00:00 /usr/sbin/httpd2-prefork -f /etc/apache2/httpd.conf
3)创建并编辑一个index.html文件：
#vi /srv/www/htdocs/index.html
在其中输入\"linux ha\"的字样，并保存退出。通过Client端访问浮动IP:192.168.8.112，在linux1上成功安装Apache服务后，在linux2上执行以上操作，并且同样测试其结果如图3。
图3 linux上的测试结果
四、测试HA系统
首先，关闭linux1的网络服务(也可以使用shutdown)：
#/etc/init.d/network stop
然后，查看linux2的log文件。正确结果是HA系统发现linux1已经dead，由linux2接替其工作。
#tail -f /var/log/ha-log
heartbeat: 2010/4/02_14:18:16 WARN: node 10.1.1.1:is dead
heartbeat: 2010/4/02_14:18:16 info: Link 10.1.1.1:10.1.1.1 dead................
heartbeat: 2010/4/02_14:18:27 info: mach_down takeover complete.
heartbeat: 2010/4/02_14:18:27 info: mach_down takeober complete for node linux1.
heartbeat: 2010/4/02_14:18:27 ERROR: Both machines own our resources!
同时，在linux2上面检查浮动IP，此时浮动IP应该绑定在linux2上。用\"ifconfig\"查看如图3示。
这时，通过Client端访问浮动IP：192.168.8.112，HTTP服务正常。
Eth0:0 Link encap:Ethernet HWaddr 00:0C:29:35:E6:63
Inet addr:192.168.0.112 bcast:192.168.9.255 Mask:255.255.254.0
Interrupt:9 Base address:0x1000
重新启动linux1的网络服务，浮动IP将又重新绑定到linux1。此时通过Client端访问浮动IP：192.168.8.112，HTTP服务同样正常。
五、Mon服务监控
使用Mon可以实现监控网络、监控服务、E-mail告警和自动重启服务等。
1) 安装Mon软件及其相关软件包。
从光盘安装Time-period、Convert-BER、perl-Mon和fping：
#rpm -Uvh perl-Time-period-1.20-301.1.i586.rpm
perl-Convert-BER-1.3101-190.1.i586.rpm perl-Mon-0.11-294.1.i586.rpm fping-2.2b1-819.1.i586.rpm
从www.cpan.org下载并安装Time-HiRes:
#tar xvzf Time-HiRes-1.65.tar.gz
#3cd Time-HiRes-1.65/perl Makefile.PL && make &&make test && make install
从www.kernel.org/software/mon/下载并安装软件包mon-0.99.2.tar.bz2:
#tar xvjf mon-0.99.2.tar.bz2
#cp -r mon-0.99.2 /usr/lib/mon
#mkdir /etc/mon
#cp /usr/lib/mon/etc/auth.cf /etc/mon
2)编辑/etc/mon/mon.cf文件：
cfbasedir = /etc/mon
alertdir = /usr/lib/mon/alert.d
mondir = /usr/lib/mon/mon.d
statedir = /usr/lib/mon/state.d
logdir = /usr/lib/mon/log.d
dtlogfile = /usr/lib/mon/log.d/dt.log
maxprocs = 20
histlength = 100
randstart = 60s
dtlogging = yes
authtype = getpwnam
hostgroup servers 10.1.1.1 10.1.1.2
hostgroup www 10.1.1.1
watch servers
service ping
interval 1m
monitor fping.moniter
period wd {Sun-Sat}
alert mail.alert 97140@263.com (请指定邮件地址)
watch www
service http
interval 1m
monitor http.monitor
period wd {Sun-Sat}
alert apacherestart.alert
alert mail.alert 97140@263.com (请指定邮件地址)
然后编辑/ust/lib/mon/alert.d/apacherestart.alert文件：
#!/bin/sh
/etc/init.d/apache2 restart
chmod +x /usr/lib/mon/alert.d/apacherestart.alert
同样地，在linux2完成以上步骤。但注意，在配置/etc/mon/mon.cf时，\"hostgroup www 10.1.1.1\"应设置为\"hostgroup www 10.1.1.2\"。
在两台服务器上分别安装和配置完成后，启动Mon服务：
#/usr/lib/mon/mon -c /etc/mon/mon.cf &
查看log文件，检查服务状态：
#tail /var/log/messages
Nov 2 17:15:20 linux mon[14079]: mon server started
运行\"ps -ef|grep mon\"查看进程，可以看到Mon服务成功启动。
root 14079 1 0 17:15 ? 00:00:00 /usr/bin/perl/usr/lib/mon/mon
-c/etc/mon/mon.cf
3)对Mon服务进行测试。
① 测试Apache服务的邮件告警和服务重启功能
先关闭linux1的Apache服务：
#/etc/init.d/apache2 stop
查看log文件，检查Mon服务的处理步骤。Mon首先发现WWW服务不能访问，然后重启Apache服务，并且发Email到指定的邮箱。
log文件内容如下：
Nov 2 17:15:59 linux mon[14079]: failure for www http 1099386959 10.1.1.1
Nov 2 17:15:59 linux mon[14079]: calling alert apacherestart.alert for www/http(/usr/lib/mon/alert.d/apacherestart.alert,) 10.1.1.1
Nov 2 17:16:03 linux mon[14079]: calling alert mail.alert for www/http(/usr/lib/mon/alert.d/mail.alert,song@heming.org) 10.1.1.1
邮件内容则如下：
ALERT www/http: 10.1.1.1(Tue Nov 2 17:16:03)(标题)
Sunmmary output : 10.1.1.1
Group : www
Service : http
Time noticed : Tue Nov 2 17:16:03 2004
Secs until next alert :
Members : 10.1.1.1
Detailed text (if any) follows:
-------------------------------------
HOST 10.1.1.1: connect: Connection refused
② 测试网络监控和警告
关闭linux1的网络服务：
#/etc/init.d/network stop
Mon会发送告警邮件到指定邮箱，邮件内容略。
六、数据同步
假设这里只更新linux1服务器上的数据，由linux1定时向linux2复制数据，这就需要进行数据同步设置。
首先，设置linux1到linux2的SSH无密码登录：
#ssh-keygen -t dsa
#scp /root/.ssh/id_dsa.pub 10.1.1.2:/root/.ssh/authorized_keys
#ssh 10.1.1.2 (应该不用输入密码就能登录)
然后，在linux1上运行Rsync进行数据同步：
#/usr/bin/rsync -avzoge ssh /srv/www/htdocs 10.1.1.2:/srv/www/htdocs
这时会显示如下内容：
building file list ... done
......
将数据同步服务加入到Crontab，设置30分钟(时间可以根据具体需要决定)定时数据同步一次。命令如下：
#crontab -e
*/30 * * * * /usr/sbin/rsync -avzoge ssh 10.1.1.2:/srv/www/html
至此，具有数据同步、服务监控的高可用性服务系统搭建完成。
因篇幅问题不能全部显示，请点此查看更多更全内容