关于非阻塞模式下的sendmsg()
之前的服务程序使用了多进程模式,创建一对socketpair然后主进程用sendmsg向各个工作进程分发连接fd,工作进程中所有其他的连接都是非阻塞的,但由于传递套接字的消息很小且是单向的,就简单使用了阻塞模式,也没有处理异步读写事件。
最近要主进程和工作进程之间互相传递大量数据,需要把socketpair改成非阻塞的。于是问题就是,socketpair既要传递fd又要传输大量数据,在非阻塞模式下如果缓冲区满了,那么fd还能否传递失败的话会不会丢失;再如果缓冲又有可写空间,是否得重新发送fd。总之对sendmsg函数在非阻塞模式下的行为不甚了解,网上G了一圈也没有发现有说明此类问题的文章。
于是就试一下,代码如下:
#include "msgio.h" #include <stdio.h> #include <unistd.h> #include <fcntl.h> #include <signal.h> #include <sys/wait.h> #include <sys/types.h> #include <sys/socket.h> static int setnonblocking( int fd ) { int opts; if( fd<=0 ) return -1; opts = fcntl( fd, F_GETFL ); if( opts<0 ) return -1; if( fcntl( fd, F_SETFL, opts|O_NONBLOCK ) < 0 ) return -1; return 0; } int main() { int ret; int ss[2]; int pid; ret = socketpair( AF_UNIX, SOCK_STREAM, 0, ss ); if( ret != 0 ) { perror( "create socket pair failed" ); return 1; } pid = fork(); switch( pid ) { case -1: perror( "fork failed" ); return 2; case 0: close( ss[0] ); setnonblocking( ss[1] ); recver( ss[1] ); break; default: close( ss[1] ); setnonblocking( ss[0] ); sender( ss[0] ); break; } if( pid ) { sleep( 2 ); kill( pid, SIGTERM ); wait( &ret ); } return 0; }
#include "msgio.h" #include <stdio.h> #include <unistd.h> #include <fcntl.h> #include <sys/types.h> #include <sys/socket.h> #define MSG_DATA "xyz" #define MSG_LEN sizeof(MSG_DATA) #define LOOP_TIMES 10000 #define print( fmt, ... ) \ fprintf( stderr, fmt "\n", ##__VA_ARGS__ ) int sender( int fd ) { int ret; int i; int xfd; struct msghdr msghdr; struct iovec iov[4]; union { struct cmsghdr cm; char data[CMSG_SPACE(sizeof(int))]; } cmsg; xfd = open( "/dev/zero", O_RDONLY ); if( xfd < 0 ) { perror( "open xfd failed" ); return -1; } cmsg.cm.cmsg_len = CMSG_LEN(sizeof(int)); cmsg.cm.cmsg_level = SOL_SOCKET; cmsg.cm.cmsg_type = SCM_RIGHTS; *(int*)CMSG_DATA(&(cmsg.cm)) = xfd; iov[0].iov_base = MSG_DATA; iov[0].iov_len = MSG_LEN; iov[1].iov_base = MSG_DATA; iov[1].iov_len = MSG_LEN; iov[2].iov_base = MSG_DATA; iov[2].iov_len = MSG_LEN; iov[3].iov_base = MSG_DATA; iov[3].iov_len = MSG_LEN; msghdr.msg_name = NULL; msghdr.msg_namelen = 0; msghdr.msg_iov = iov; msghdr.msg_iovlen = 4; msghdr.msg_control = (caddr_t)&cmsg; msghdr.msg_controllen = sizeof(cmsg); print( "to send %d", MSG_LEN ); for( i=0; i<2; i++ ) { ret = sendmsg( fd, &msghdr, MSG_DONTWAIT ); if( ret < 0 ) { perror( "sendmsg failed" ); continue; } print( "sendmsg %5d sent %d, fd %d", i, ret, xfd ); } return 0; } int recver( int fd ) { int ret; int i; unsigned char buf[10]; int xfd; struct msghdr msghdr; struct iovec iov[1]; union { struct cmsghdr cm; char data[CMSG_SPACE(sizeof(int))]; } cmsg; iov[0].iov_base = buf; iov[0].iov_len = sizeof(buf); msghdr.msg_name = NULL; msghdr.msg_namelen = 0; msghdr.msg_iov = iov; msghdr.msg_iovlen = 1; msghdr.msg_control = (caddr_t)&cmsg; msghdr.msg_controllen = sizeof(cmsg); sleep(1); for( i=0; i<4; i++ ) { ret = recvmsg( fd, &msghdr, 0 ); if( ret < 0 ) { perror( "recvmsg failed" ); continue; } if( cmsg.cm.cmsg_len < CMSG_LEN(sizeof(int)) ) { print( "msg control data len %u", cmsg.cm.cmsg_len ); continue; } if( cmsg.cm.cmsg_level != SOL_SOCKET || cmsg.cm.cmsg_type != SCM_RIGHTS ) { print( "msg control level %d, type %d", cmsg.cm.cmsg_level, cmsg.cm.cmsg_type ); continue; } xfd = *(int*)CMSG_DATA( &(cmsg.cm) ); print( "recvmsg %5d recv %d, fd %d", i, ret, xfd ); //close( xfd ); } return 0; }
测试结果为:
to send 4
sendmsg 0 sent 16, fd 4
sendmsg 1 sent 16, fd 4
recvmsg 0 recv 10, fd 3
recvmsg 1 recv 10, fd 5
recvmsg 2 recv 10, fd 5
recvmsg 3 recv 2, fd 5
父进程分两个发送了32字节数据,每次附带一个fd。子进程分四次接收,数据接收完整,也只收到了两个fd。
特别是第二次的接收,数据中包含父进程两次消息中的数据,但fd为第二个消息的fd。随后的接收到的都是同一个fd。
由此可以猜测,fd的传递和数据类似于两个通道。由于一个进程中的fd是唯一的,子进程在收到fd后可以判断出是否是新的fd。
将recver()函数中的buf大小改为 10*MSG_LEN 进行测试,结果为:
to send 4
sendmsg 0 sent 16, fd 4
sendmsg 1 sent 16, fd 4
recvmsg 0 recv 16, fd 3
recvmsg 1 recv 16, fd 5
recvmsg failed: Resource temporarily unavailable
recvmsg failed: Resource temporarily unavailable
可见两次发送的消息没有合并,猜测内核对此进行了处理,只允许一个消息中包含一个fd。
over
让进程在后台可靠运行的几种方法
www.ibm.com/developerworks/cn/linux/l-cn-nohup/index.html
想让进程在断开连接后依然保持运行?如果该进程已经开始运行了该如何补救? 如果有大量这类需求如何简化操作?
我们经常会碰到这 样的问题,用 telnet/ssh 登录了远程的 Linux 服务器,运行了一些耗时较长的任务, 结果却由于网络的不稳定导致任务中途失败。如何让命令提交后不受本地关闭终端窗口/网络断开连接的干扰呢?下面举了一些例子, 您可以针对不同的场景选择不同的方式来处理这个问题。
如果只是临时有一个命令需要长时间运行,什么方法能最简便的保证它在后台稳定运行呢?
|
我们知道,当用户注销(logout)或者网络断开时,终端会收到 HUP(hangup)信号从而关闭其所有子进程。因此,我们的解决办法就有两种途径:要么让进程忽略 HUP 信号,要么让进程运行在新的会话里从而成为不属于此终端的子进程。
1. nohup
nohup 无疑是我们首先想到的办法。顾名思义,nohup 的用途就是让提交的命令忽略 hangup 信号。让我们先来看一下 nohup 的帮助信息:
NOHUP(1) User Commands NOHUP(1) NAME nohup - run a command immune to hangups, with output to a non-tty SYNOPSIS nohup COMMAND [ARG]... nohup OPTION DESCRIPTION Run COMMAND, ignoring hangup signals. --help display this help and exit --version output version information and exit |
可见,nohup 的使用是十分方便的,只需在要处理的命令前加上 nohup 即可,标准输出和标准错误缺省会被重定向到 nohup.out 文件中。一般我们可在结尾加上"&"来将命令同时放入后台运行,也可用">filename 2>&1"
来更改缺省的重定向文件名。
[root@pvcent107 ~]# nohup ping www.ibm.com &
[1] 3059
nohup: appending output to `nohup.out'
[root@pvcent107 ~]# ps -ef |grep 3059
root 3059 984 0 21:06 pts/3 00:00:00 ping www.ibm.com
root 3067 984 0 21:06 pts/3 00:00:00 grep 3059
[root@pvcent107 ~]#
|
2。setsid
nohup 无疑能通过忽略 HUP 信号来使我们的进程避免中途被中断,但如果我们换个角度思考,如果我们的进程不属于接受 HUP 信号的终端的子进程,那么自然也就不会受到 HUP 信号的影响了。setsid 就能帮助我们做到这一点。让我们先来看一下 setsid 的帮助信息:
SETSID(8) Linux Programmer’s Manual SETSID(8) NAME setsid - run a program in a new session SYNOPSIS setsid program [ arg ... ] DESCRIPTION setsid runs a program in a new session. |
可见 setsid 的使用也是非常方便的,也只需在要处理的命令前加上 setsid 即可。
[root@pvcent107 ~]# setsid ping www.ibm.com
[root@pvcent107 ~]# ps -ef |grep www.ibm.com
root 31094 1 0 07:28 ? 00:00:00 ping www.ibm.com
root 31102 29217 0 07:29 pts/4 00:00:00 grep www.ibm.com
[root@pvcent107 ~]#
|
值得注意的是,上例中我们的进程 ID(PID)为31094,而它的父 ID(PPID)为1(即为 init 进程 ID),并不是当前终端的进程 ID。请将此例与nohup 例中的父 ID 做比较。
3。&
这里还有一个关于 subshell 的小技巧。我们知道,将一个或多个命名包含在“()”中就能让这些命令在子 shell 中运行中,从而扩展出很多有趣的功能,我们现在要讨论的就是其中之一。
当我们将"&"也放入“()”内之后,我们就会发现所提交的作业并不在作业列表中,也就是说,是无法通过jobs
来查看的。让我们来看看为什么这样就能躲过 HUP 信号的影响吧。
[root@pvcent107 ~]# (ping www.ibm.com &)
[root@pvcent107 ~]# ps -ef |grep www.ibm.com
root 16270 1 0 14:13 pts/4 00:00:00 ping www.ibm.com
root 16278 15362 0 14:13 pts/4 00:00:00 grep www.ibm.com
[root@pvcent107 ~]#
|
从上例中可以看出,新提交的进程的父 ID(PPID)为1(init 进程的 PID),并不是当前终端的进程 ID。因此并不属于当前终端的子进程,从而也就不会受到当前终端的 HUP 信号的影响了。
我们已经知道,如果事先在命令前加上 nohup 或者 setsid 就可以避免 HUP 信号的影响。但是如果我们未加任何处理就已经提交了命令,该如何补救才能让它避免 HUP 信号的影响呢?
这时想加 nohup 或者 setsid 已经为时已晚,只能通过作业调度和 disown 来解决这个问题了。让我们来看一下 disown 的帮助信息:
disown [-ar] [-h] [jobspec ...] Without options, each jobspec is removed from the table of active jobs. If the -h option is given, each jobspec is not removed from the table, but is marked so that SIGHUP is not sent to the job if the shell receives a SIGHUP. If no jobspec is present, and neither the -a nor the -r option is supplied, the current job is used. If no jobspec is supplied, the -a option means to remove or mark all jobs; the -r option without a jobspec argument restricts operation to running jobs. The return value is 0 unless a jobspec does not specify a valid job. |
可以看出,我们可以用如下方式来达成我们的目的。
|
- 用
disown -h jobspec
来使某个作业忽略HUP信号。 - 用
disown -ah
来使所有的作业都忽略HUP信号。 - 用
disown -rh
来使正在运行的作业忽略HUP信号。
需要注意的是,当使用过 disown 之后,会将把目标作业从作业列表中移除,我们将不能再使用jobs
来查看它,但是依然能够用ps -ef
查找到它。
但是还有一个问题,这种方法的操作对象是作业,如果我们在运行命令时在结尾加了"&"来使它成为一个作业并在后台运行,那么就万事大吉了,我们可以通过jobs
命令来得到所有作业的列表。但是如果并没有把当前命令作为作业来运行,如何才能得到它的作业号呢?答案就是用 CTRL-z(按住Ctrl键的同时按住z键)了!
CTRL-z 的用途就是将当前进程挂起(Suspend),然后我们就可以用jobs
命令来查询它的作业号,再用bg jobspec
来将它放入后台并继续运行。需要注意的是,如果挂起会影响当前进程的运行结果,请慎用此方法。
disown 示例1(如果提交命令时已经用“&”将命令放入后台运行,则可以直接使用“disown”)
[root@pvcent107 build]# cp -r testLargeFile largeFile & [1] 4825 [root@pvcent107 build]# jobs [1]+ Running cp -i -r testLargeFile largeFile & [root@pvcent107 build]# disown -h %1 [root@pvcent107 build]# ps -ef |grep largeFile root 4825 968 1 09:46 pts/4 00:00:00 cp -i -r testLargeFile largeFile root 4853 968 0 09:46 pts/4 00:00:00 grep largeFile [root@pvcent107 build]# logout |
disown 示例2(如果提交命令时未使用“&”将命令放入后台运行,可使用 CTRL-z 和“bg”将其放入后台,再使用“disown”)
[root@pvcent107 build]# cp -r testLargeFile largeFile2 [1]+ Stopped cp -i -r testLargeFile largeFile2 [root@pvcent107 build]# bg %1 [1]+ cp -i -r testLargeFile largeFile2 & [root@pvcent107 build]# jobs [1]+ Running cp -i -r testLargeFile largeFile2 & [root@pvcent107 build]# disown -h %1 [root@pvcent107 build]# ps -ef |grep largeFile2 root 5790 5577 1 10:04 pts/3 00:00:00 cp -i -r testLargeFile largeFile2 root 5824 5577 0 10:05 pts/3 00:00:00 grep largeFile2 [root@pvcent107 build]# |
我们已经知道了如何让进程免受 HUP 信号的影响,但是如果有大量这种命令需要在稳定的后台里运行,如何避免对每条命令都做这样的操作呢?
此时最方便的方法就是 screen 了。简单的说,screen 提供了 ANSI/VT100 的终端模拟器,使它能够在一个真实终端下运行多个全屏的伪终端。screen 的参数很多,具有很强大的功能,我们在此仅介绍其常用功能以及简要分析一下为什么使用 screen 能够避免 HUP 信号的影响。我们先看一下 screen 的帮助信息:
SCREEN(1) SCREEN(1) NAME screen - screen manager with VT100/ANSI terminal emulation SYNOPSIS screen [ -options ] [ cmd [ args ] ] screen -r [[pid.]tty[.host]] screen -r sessionowner/[[pid.]tty[.host]] DESCRIPTION Screen is a full-screen window manager that multiplexes a physical terminal between several processes (typically interactive shells). Each virtual terminal provides the functions of a DEC VT100 terminal and, in addition, several control functions from the ISO 6429 (ECMA 48, ANSI X3.64) and ISO 2022 standards (e.g. insert/delete line and support for multiple character sets). There is a scrollback history buffer for each virtual terminal and a copy-and-paste mechanism that allows moving text regions between windows. |
使用 screen 很方便,有以下几个常用选项:
- 用
screen -dmS session name
来建立一个处于断开模式下的会话(并指定其会话名)。 - 用
screen -list
来列出所有会话。 - 用
screen -r session name
来重新连接指定会话。 - 用快捷键
CTRL-a d
来暂时断开当前会话。
[root@pvcent107 ~]# screen -dmS Urumchi [root@pvcent107 ~]# screen -list There is a screen on: 12842.Urumchi (Detached) 1 Socket in /tmp/screens/S-root. [root@pvcent107 ~]# screen -r Urumchi |
当我们用“-r”连接到 screen 会话后,我们就可以在这个伪终端里面为所欲为,再也不用担心 HUP 信号会对我们的进程造成影响,也不用给每个命令前都加上“nohup”或者“setsid”了。这是为什么呢?让我来看一下下面两个例子吧。
[root@pvcent107 ~]# ping www.google.com & [1] 9499 [root@pvcent107 ~]# pstree -H 9499 init─┬─Xvnc ├─acpid ├─atd ├─2*[sendmail] ├─sshd─┬─sshd───bash───pstree │ └─sshd───bash───ping |
我们可以看出,未使用 screen 时我们所处的 bash 是 sshd 的子进程,当 ssh 断开连接时,HUP 信号自然会影响到它下面的所有子进程(包括我们新建立的 ping 进程)。
[root@pvcent107 ~]# screen -r Urumchi
[root@pvcent107 ~]# ping www.ibm.com &
[1] 9488
[root@pvcent107 ~]# pstree -H 9488
init─┬─Xvnc
├─acpid
├─atd
├─screen───bash───ping
├─2*[sendmail]
|
而使用了 screen 后就不同了,此时 bash 是 screen 的子进程,而 screen 是 init(PID为1)的子进程。那么当 ssh 断开连接时,HUP 信号自然不会影响到 screen 下面的子进程了。
现在几种方法已经介绍完毕,我们可以根据不同的场景来选择不同的方案。nohup/setsid 无疑是临时需要时最方便的方法,disown 能帮助我们来事后补救当前已经在运行了的作业,而 screen 则是在大批量操作时不二的选择了。
调整分区
根目录快满了,今天将从/home分出5G给/usr/portage,并换成了ReiserFS,小记一下。
主要参考了这篇文章www.cublog.cn/u/13991/showart_138823.html感谢~
1、
/dev/hda6 20G 12G 2.6G 60% /home
2、
记录/dev/hda6的起始柱面s,结束柱面e1,unit值。
3、计算调整后hda6的终止柱面号e2 = s+[(15*1024*1024*1024)/unit],15为调整后为15G
4、一些准备工作:
重新编译内核加入ReiserFS支持。
5、重启进入单用户模式 init 1 ,现在正式开始
6、检查文件系统
7、去除ext3文件系统的日志
8、调整文件系统大小
9、再加上日志
10、再次检查文件系统
11、用fdisk分区
进入后用d删掉hda6。新建分区,起始柱面为s,结束柱面为e2,为hda9。新建分区,起始为e2+1,结束为e1,为/hda10。用w保存退出。
12、格式化新分区
13、修改/etc/fstab,将原来的hda6改为hda10,新加一行
/dev/hda10 /usr/portage reiserfs noatime 0 2
14、将/dev/hda10挂到/media上,将原来/usr/portage中的所有东西移到/media/下面。
16、重启,一切ok
注:没有做备份,/home太大了有12G,没地方放。