Linux Shell管道通信:高效实现进程间通信 (linux shell 管道通信)

在现代计算机系统中,多进程运行很常见。进程间通信是保证多进程协作的重要手段。在Linux系统上,进程间通信的方式有很多,其中shell管道通信是一种简单高效的方式。

Shell管道通信是指在shell环境下通过管道符将一个进程的输出连接到另一个进程的输入的方法。在这种方式下,进程A将输出传递给进程B,这样就可以实现进程间通信,并达到进程协作的目的。下面通过几个具体的例子来详细介绍shell管道通信在Linux系统上如何高效实现进程间通信。

一、通过管道实现进程间通信

假如我们有两个进程,分别是进程A和进程B,需要进行数据的传递。进程A需要将数据输出,进程B需要将输入连接到进程A的输出。通过管道符可以很方便地实现进程间通信。具体实现步骤如下:

1.进程A向管道输出数据,例如:

“`

echo “data to be sent” | pipe

“`

这里,`data to be sent`是进程A输出的数据,`pipe`是管道符号,表示这个进程需要将数据传递给下一个进程。

2.进程B将管道当作输入依赖,例如:

“`

pipe | process B

“`

这里,管道符前面的`pipe`表示数据来源,管道符后面的`process B`表示数据目的地。

通过上述两个例子我们可以看到,使用shell管道实现进程间通信非常容易。其中,除了管道符号外,无需进行其他操作。

二、通过管道批量传输数据

在上面的例子中,我们只演示了单个数据的传输,但对于大量数据传输时,单个数据的传输效率是不高的。因此,我们需要通过一定方式批量传输数据,提高传输效率。下面的例子中演示了如何使用管道批量传输数据。

1.进程A输出大量数据,例如:

“`

more data.txt | pipe

“`

其中,`data.txt`是需要传输的文件名。

2.进程B读取并处理管道数据,例如:

“`

pipe | process B

“`

在这个例子中,进程A通过more命令将需要传输的数据输出到管道中,进程B通过管道符号接收数据,并进行处理。这种方式可以有效的批量传输数据,提高数据传输的效率。

三、通过同时执行多个进程实现并行处理

在一些场景下,我们需要同时执行多个进程,每个进程接收来自其他进程的数据并进行数据处理,这种方式可以实现数据处理的并行处理,提高整个系统的执行效率。下面通过一个实例来详细说明这个过程。

1.定义若干个进程:

“`

process A | pipe1

process B | pipe2

process C | pipe3

process D | pipe4

“`

在这个实例中,我们定义了四个进程A、B、C和D,每个进程产生的数据都通过一个独立的管道(pipe)进行传输,管道的名称分别是pipe1、pipe2、pipe3和pipe4。

2.将所有管道汇聚起来:

“`

cat pipe1 pipe2 pipe3 pipe4 | process E

“`

在这个步骤中,我们将四个管道中的数据合并在一起,然后传输给另一个进程E进行处理。

通过上述实例,我们可以看到,使用shell管道实现进程间通信可以同时执行多个进程并进行并行处理,大大提高了整个处理系统的效率。

四、使用Shell脚本实现数据传输

Shell脚本是Linux系统下主要的脚本语言之一,可以用于自动化操作、快速处理数据等。在数据传输的场景中,使用脚本可以自动化实现数据的输入输出,方便快捷。

下面通过实例演示如何使用Shell脚本实现数据传输。

1.编写脚本:

“`

#!/bin/bash

# A脚本

for i in {1..10}

do

echo “$i”

done | pipe

“`

其中,`A.sh`脚本包含了一个循环,逐个输出1到10之间的数字,并将每个数字通过pipe符输出到管道中。

“`

#!/bin/bash

# B脚本

pipe | while read data

do

echo “Processing data $data …”

done

“`

在这个脚本中,我们使用while循环接收管道数据,并对每个数据进行处理。这个脚本可以作为进程B在进程A运行时,接收管道数据并进行处理。通过上述Shell脚本的编写,我们可以实现自动化的数据传输,大大提高数据处理的效率。

通过shell管道通信可以实现Linux进程间通信的高效实现。使用这种方式,我们可以方便、快捷地实现进程数据的传输和并行处理,提高整个系统的处理效率。如果你还没有接触过shell管道通信方式,不妨在Linux系统中开启一个终端窗口,尝试一下上述例子,掌握这种数据传输方式的实现方法。

相关问题拓展阅读:

学生信的那些事儿之七 – Linux基础之Shell脚本编程

沿着前面的轨迹,接下来是Linux中shell脚本的学习。这对于生信工程师后续处理大量 (海量更合适些) 数据是非常非常脊码重要的,但是同样的,作为一个有点古板的人,对于”脚本”是什么意思我都死磕了好久。主要觉得有些抽象,尤其是跟生信的同事讨论项目分析部分的问题时,他们经常会说道这个词,在他们意识里这是个不言自明的术语,殊不知对外行人而言 (比如我),那简直就是无情的”知识的诅咒”。经常是我假装听懂了,然后继续讨论下面的问题,形成一个模糊的印象。

百度上的解释是:脚本(Script)是一种批处理文件的延伸,是一种纯文本保存的程序,一般来说的计算机脚本程序是确定的一系列控制计算机进行运算操作动作的组合,在其中可以实现一定的逻辑分支等。不知道你能不能看懂,反正我开始的时候真是一知半解。

鸟哥私房菜的解释是:shell script是利用 shell 的功能所写的一个”程序”,这个程序是使用纯文本文件,将一些shell的语法与命令(含外部命令)写在里面,搭配正则表达式、管道命令与数据流重定向等功能,以达到我们所想要的处理的目的。不明觉厉,好像更看不懂了···

Jude 的简单粗暴大白话解释是:脚本就是Linux中很多命令按照一定规则的组合,以实现某个特定的功能。Linux中有很多简单的命令,往往只是进行了简单的对话,比如 cd 就是进入到某个目录,简单直接。但是如果我想进入某个目录A,然后在目录A中创建目录B,再在目录B中创建文本C呢?当然可以一步一步操作,如果想要一步到位呢,那就可以用脚本,把三个命令写在一起,一起执行。好像有点啰嗦···

或者从英语的角度去理解,脚本的对应英文是Script,而这个单词的中文释义中还有剧本的意思。剧本就好理解了啊,剧本就是导演(生信工程师)基于某个主旨(要实现的目标)按照一定的手法(规则)所写的一个故事。不管是哪个演员,都得按照剧本演。所以,学好英语对于生信也是有帮助的~

按照脚本的复杂程度可以分为:

这个无需多说,其实就是若干个简单命令的顺序排列,执行脚本后会按照命令的前后关系从前往后一一执行。

相对于简单的基本脚本,结构化的命令脚本可以施加逻辑流程控制,从而改变程序(命令)执行的顺序。基本脚本中的命令就是从上往下执行,但兄野迅是结构化的命令脚本可以根据逻辑判断重复或者跳过某些命令。

常用的结构化命令(语句)有:

后面还有什么嵌套循环啊啥的,不过我觉得上面的7中命令学到家了,应该可以应付大部分在生信分析里面的应用了。

记得高中的时候,物理老师(也是班主任)在给我们讲解习题时有个有意思的套路:不管什么难题现在下面写个”答:”,以示自己解决问题的决心,也是一种正向的心理暗示。脚本编写也是有套路的,不过总的来说还是比较简单。

对于简单的脚本(超级简单的那种),直接几个命令连在一起即可,中间用”;”隔开。

对于更长更复杂的脚本,一般需要创建一个文本,并在里面编辑。这就涉及到了文本编辑器,比较常用和简单的一般有nano和vim,实在羡此很简单,规则也容易理解,教程随手可得,不多说。

比如用vim创建了一个脚本之后,具体的语法(套路):

ok,脚本写完了,怎么让脚本开始工作呢?这有涉及到之前讲过的环境变量和相对路径、绝对路径了。方法有三:

就这么多吧,应该有点感觉到了,剩下的就是狂练狂练了~

如何使用Linux shell编程来进行系统管理和网络管理

从程序员的角度来看, Shell本身是一种用C语言编写的程序,从用户的角度来看,Shell是用户与Linux操作系统沟通的桥梁。用户既可以输入命令执行,又可以利用 Shell脚本编程,完成更加复杂的操作。在Linux GUI日益完善的今天,在系统管理等领域,Shell编程仍然起着不可忽视的作用。深入地了解和熟练地掌握Shell编程,是每一个Linux用户的必修 功课之一。

Linux的Shell种类众多,常见的有:Bourne Shell(/usr/bin/sh或/bin/弊明sh)、Bourne Again Shell(/bin/bash)、C Shell(/usr/bin/csh)、K Shell(/usr/bin/ksh)、Shell for Root(/in/sh),等等。不同的Shell语言的语法有所不同,所以不能交换使用。卜皮每种Shell都有其特色之处,基本上,掌握其中任何一种 就足够了。在本文中,我们关注的重点是Bash,也就是Bourne Again Shell,由于易用和免费,Bash在日常工作中被广泛使用;同时,Bash也是大多数Linux系统默认的Shell。在一般情况下,人们并不区分 Bourne Shell和Bourne Again Shell,所以,在下面的文字中,我们可以看到#!/bin/sh,它同样也可以改为#!/bin/bash。

利用vi等文本编辑器编写Shell脚本的格式是固定的,如下:

#!/bin/sh

#comments

Your commands go here

首行中的符号#!告诉系统其后路径所指定的程序即是解释此脚本文件的Shell程 序。如果首行没有这句话,在执行脚本文件的时候,将会出现错误。后续的部分就是主程序,Shell脚本像高级语言一样,也有变量赋值,也有控制语句。除第 一行外,以#开头的行就是注释行,直到此行的结束。如果一行未完成,可以在行尾加上”,这个符号表明下一行与此行会合并为同一行。

编辑完毕,将脚本存盘为filename.sh,文件名后缀sh表明这是一个Bash脚本文件。执行脚本的时候,要先将脚本文件的属性改为可执行的:

chmod +x filename.sh

执行脚本的方法是:

./filename.sh

下面我们从经典的“hello world”入手,看一看最简单的Shell脚本的模样。

#!/bin/sh

#print hello world in the console window

a = “hello world”

echo $a

Shell Script是一种弱类型语言,使用变量的时候无需首先声明其类型。新的变量会在本地数据区分配内存进行存储,这个变量归当前的Shell所有,任何子进 程都不能访问本地变量。这些变量与环境变量不同,环境变量被存储在另一内存区,叫做用户环境区,这块内存中的变量可以被子进程访问。变量赋值的方式是:

variable_name = variable_value

如果对一个已经有值的变量赋值,新值将取代旧值。取值的时候要在变量名前加$,$variable_name可以在引号中使用,这一点和其他高级语言是明显不同的。如果出现混淆租弊告的情况,可以使用花括号来区分,例如:

echo “Hi, $as”

就不会输出“Hi, hello worlds”,而是输出“Hi,”。这是因为Shell把$as当成一个变量,而$as未被赋值,其值为空。正确的方法是:

echo “Hi, ${a}s”

单引号中的变量不会进行变量替换操作。

关于变量,还需要知道几个与其相关的Linux命令。

env用于显示用户环境区中的变量及其取值;set用于显示本地数据区和用户环境区中的变量及其取值;unset用于删除指定变量当前的取值,该值将被指定为NULL;export命令用于将本地数据区中的变量转移到用户环境区。

下面我们来看一个更复杂的例子,结合这个例子,我们来讲述Shell Script的语法。

1 #!/bin/bash

2 # we have less than 3 arguments. Print the help text:

3 if ; then

4 cat

ren — renames a number of files using sed regular expressions

6

USAGE: ren ‘regexp’ ‘replacement’ files

EXAMPLE: rename all *.HTM files in *.html:

ren ‘HTM$’ ‘html’ *.HTM

10

11 HELP

exit 0

13 fi

14 OLD=”$1″

15 NEW=”$2″

16 # The shift command removes one argument from the list of

17 # command line arguments.

18 shift

19 shift

20 # $* contains now all the files:

21 for file in $*; do

22 if ; then

newfile=`echo “$file” | sed “s/${OLD}/${NEW}/g”`

if ; then

echo “ERROR: $newfile exists already”

else

echo “renaming $file to $newfile “

mv “$file” “$newfile”

fi

30 fi

31 done

我们从头来看,前面两行上一个例子中已经解释过了,从第三行开始,有新的内容。if语句和其他编程语言相似,都是流程控制语句。它的语法是:

if …; then

elif …; then

else

fi

与其他语言不同,Shell Script中if语句的条件部分要以分号来分隔。第三行中的表示条件测试,常用的条件测试有下面几种:

判断$file是否是一个文件

判断$a的值是否小于3,同样-gt和-le分别表示大于或小于等于

判断$file是否存在且有可执行权限,同样-r测试文件可读性

判断变量$a是否有值,测试空串用-z

判断$a和$b的取值是否相等

判断cond1和cond2是否同时成立,-o表示cond1和cond2有一成立

要注意条件测试部分中的空格。在方括号的两侧都有空格,在-f、-lt、=等符号两侧同样也有空格。如果没有这些空格,Shell解释脚本的时候就会出错。

$#表示包括$0在内的命令行参数的个数。在Shell中,脚本名称本身是$0,剩下的依次是$0、$1、$2…、${10}、${11},等等。$*表示整个参数列表,不包括$0,也就是说不包括文件名的参数列表。

现在我们明白第三行的含义是如果脚本文件的参数少于三个,则执行if和fi语句之间 的内容。然后,从第四行到第十一行之间的内容在Shell Script编程中被称为Here文档,Here文档用于将多行文本传递给某一命令。Here文档的格式是以

第十二行的exit是Linux的命令,表示退出当前进程。在Shell脚本中可以使用所有的Linux命令,利用上面的cat和exit,从一方面来说,熟练使用Linux命令也可以大大减少Shell脚本的长度。

十四、十五两句是赋值语句,分别将之一和第二参数赋值给变量OLD和NEW。紧接下来的两句是注释,注释下面的两条shift的作用是将参数列表中的之一个和第二个参数删除,后面的参数依次变为新的之一和第二参数,注意参数列表原本也不包括$0。

然后,自二十一行到三十一行是一个循环语句。Shell Script中的循环有下面几种格式:

while && { || } …; do

done

for var in …; do

done

for (( cond1; cond2; cond3 )) do

done

until && { || } …; do

done

在上面这些循环中,也可以使用类似C语言中的break和continue语句中断 当前的循环操作。第二十一行的循环是将参数列表中的参数一个一个地放入变量file中。然后进入循环,判断file是否为一个文件,如果是文件的话,则用 sed命令搜索和生成新的文件名。sed基本上可以看成一个查找替换程序,从标准输入,例如管道读入文本,并将结果输出到标准输出,sed使用正则表达式 进行搜索。在第二十三行中,backtick(`)的作用是取出两个backtick之间的命令输出结果,在这里,也就是将结果取出赋给变量 newfile。此后,判断newfile是否已经存在,否则就把file改成newfile。这样我们就明白这个脚本的作用了,Shell Script编写的其他脚本与此相似,只不过是语法和用法稍有不同而已。

通过这个例子我们明白了Shell Script的编写规则,但还有几件事情需要讲述一下。

之一个,除了if语句之外,Shell Script中也有类似C语言中多分支结构的case语句,它的语法是:

case var in

pattern 1 )

… ;;

pattern 2 )

… ;;

*)

… ;;

esac

我们再就下面一个例子,看看case语句的用法。

while getopts vc: OPTION

do

case $OPTION in

c) COPIES=$OPTARG

ehco “$COPIES”;;

v) echo “suyang”;;

\?) exit 1;;

esac

done

上面的getopts类似于C语言提供的函数getopts,在Shell Script中,getopts经常和while语句联合起来使用。getopts的语法如下:

getopts option_string variable

option_string中包含一串单字符选项,若getopts在命令行参数中 发现了连字符,那么它会将连字符之后的字符与option_string进行比较,若匹配成功,则把变量variable的值设为该选项,若无匹配,则把 变量的值设为?。有时候,选项还会带一个值,例如-c5等,这时要在option_string中该选项字母后面加上一个冒号,getopts发现冒号 后,会读取该值,然后将该值放入特殊变量OPTARG中。这个命令比较复杂,如有需要,读者可以详细参阅Shell编写的相关资料。

上面这个循环的作用就是依次取出脚本名称后面的选项,进行处理,如果输入了非法选项,则进入”?指定的部分,退出脚本程序。

第二个,Bash提供了一种用于交互式应用的扩展select,用户可以从一组不同的值中进行选择。其语法如下:

select var in …; do

break;

done

例如,下面这段程序的输出是:

#!/bin/bash

echo “Your choice?”

select var in “a” “b” “c”; do

break

done

echo $var

Your choice?

1) a

2) b

3) c

第三,Shell Script中也可以使用自定义的函数,其语法形式如下:

functionname()

{

}

例如我们可以把上面第二个例子中第四到第十二行放入一个名为help函数体内,以后每次调用的时候直接写help即可。函数中处理函数调用参数的方法是,直接用上面讲过的$1、$2来分别表示之一、第二个参数,用$*表示参数列表。

第四,我们也可以在Shell下调试Shell Script脚本,当然最简单的方法就是用echo输出查看变量取值了。Bash也提供了真正的调试方法,就是执行脚本的时候用-x参数。

sh ?x filename.sh

这会执行脚本并显示脚本中所有变量的取值,也可以使用参数-n,它并不执行脚本,只是返回所有的语法错误。

关于linux shell 管道通信的介绍到此就结束了,不知道你从中找到你需要的信息了吗 ?如果你还想了解更多这方面的信息,记得收藏关注本站。


数据运维技术 » Linux Shell管道通信:高效实现进程间通信 (linux shell 管道通信)