怎么在UBUNTU中编写一个shell 去掉第一行从文件中读取每一行显示出来并统计总行数,要求在shell 去掉第一行运行

Shell编程基础
出自Ubuntu中文
原作者 Leal;请参阅页面底部的编者列表。
授权许可:
我们可以使用任意一种文字编辑器,比如gedit、kedit、emacs、vi等来编写shell脚本,它必须以如下行开始(必须放在文件的第一行):
#!/bin/bash
此行称为 (就是 sharp (#) + bang (!) 的意思),会指引操作系统使用接下来指定的程序运行此文件。此处 /bin/bash 执行我们的文件。
一些人使用 #!/bin/sh 来让 sh 执行文件,按照习惯这表示任何支持 的 sh程序。为了用上我们所喜欢的 bash 拓展语法功能,我们就不这么用了。如果你使用别的脚本,例如 /bin/tcsh,照着样子加个 #! 就行。
编辑结束并保存后,如果直接要执行该脚本,必须先使其具有可执行属性:
chmod +x filename
此后在该脚本所在目录下,输入 ./filename&tt& 即可执行该脚本。
Shell 变量默认全都是字符串。
Shell 编程中,使用变量无需事先声明。变量名的命名遵守正则表达式 &tt&[a-zA-Z_][a-zA-Z0-9_]+,也就是由大小写字母数字和下划线组成,且不能以数字开头。请注意 shell 环境中的确有以数字和特殊符号开头的变量名,但是那些东西不可以用接下来的方式赋值。
需要给变量赋值时,可以这么写:
varname=值 [var2=val2 ....]
请注意这边等号左右不能有空格。
要取用一个变量的值,只需在变量名前面加一个 $:
a=&hello world&
# 等号两边均不能有空格存在
printf '%s\n' &A is: $a&
挑个自己喜欢的编辑器,输入上述内容,并保存为文件 first,然后执行 chmod +x first 使其可执行,最后输入 ./first 执行该脚本。其输出结果如下:
A is: hello world
有时候变量名可能会和其它文字(匹配最长的符合变量名或特殊变量名要求的内容)混淆,比如:
echo &this is the $numnd&
# 输出 this is the
— shell 尝试寻找 $numnd 的值
echo &this is the ${num}nd& # 输出 this is the 2nd
— 修好了!
# 花括号可以隔开变量名,但是放歪了的话…
echo &this is the {$num}nd& # 输出 this is the {2}nd — 切是切开了,但是…
Shell 变量默认都是字符串。这也就是说,你尝试这么做,肯定没用:
var=$var+1
echo $var # 输出 1+1
我们可以用很多方法达成我们的目标。首先是好孩子的方法——C 风格表达式。
# bash 里面可以用 (( )) 执行 C 风格的算术表达式。
# 如果你接下来还会读 if 那一段的话,你还会知道这玩意的返回和 C 的非零真假判断一致。
(( var += 1 )) # 这是一种,现在 var 是 1
(( var++ ))
# 这也是一种自增,2
(( var = var * var )) # 怎么来乘法了!var 现在是 4。
let 'var = var / 3'
# 还是只有 bash 才能用的拓展。除法是整数除法,向 0 舍入,1。
# 来一点不一定要 bash 的方法吧,毕竟 sh 还有很多种,总不能全报错了吧。
# $(( )) 会展开成为这个 C 表达式求值的结果。以前 bash 有个 $[ ] 一样,但是别去用。
echo $((var += 2))
# echo 出 3,var 现在是 3。
var=$((var-1))
# 展开成 var=2,var 现在是……还用说吗,2。
以前还有人用 expr 之类的外部程序来,不过这属于杀鸡用牛刀。并且调用外部程序浪费时间性能差。
var=$(expr &$var& + 1) # expr 收到三个参数 '1' '+' '1',
# 按照 expr --help 里面写的方法运行
# 然后输出替换掉 $() 这里变成 var=2。
var=`expr &$var& + 1`
# 前面一行的老写法,千万千万不要学。
if 表达式如果条件命令组为真,则执行 then 后的部分。标准形式:
判断命令,可以有很多个,真假取最后一个的
如果前述为真做什么
[ # 方括号代表可选,别真打进去了!
可以再来个判断,如果签名为假继续尝试这里
如果前述为真做什么 ]
如果全都不行做什么
fi # 结束,就是倒写的 if 啦。
现实生活中一般判断只有一个命令,所以你看到的一般是:
if ....; then # 你也可以写成 if 之后换行,这样就不用分号了。
大多数情况下,可以使用测试命令来对条件进行测试,比如可以比较字符串、判断文件是否存在及是否可读等等……在 bash 中一般采用更好用的
语法进行条件测试,而通用方法是 [ ... ]&tt&(相当于 &tt&test ...)。两者都接纳的常用测试语句有:
-f "filename"判断是否是一个文件
-x "/bin/ls"判断/bin/ls是否存在并有可执行权限
-n "$var"判断 $var 变量是否有值
"$a" == "$b"判断$a和$b是否相等
前者可以使用 help [[ 查询用法,后者使用 help [ (bash) 或 man test 查询。下面的语句用到了这个内容:
if [ &${SHELL}& == &/bin/bash& ]; then
echo &your login shell is the bash (bourne again shell)&
echo &your login shell is not bash but ${SHELL}&
变量 $SHELL 包含有登录shell的名称,我们拿它和 /bin/bash 进行比较以判断当前使用的shell是否为bash。你可能会问了,要是 bash 路径不是这个呢?
熟悉C语言的朋友可能会喜欢下面的表达式:
[ -f &/etc/shadow& ] && echo &This computer uses shadow passwords&
这里的 && 就是一个快捷操作符,如果左边的表达式为真则执行右边的语句,你也可以把它看作逻辑运算里的与操作。上述脚本表示如果/etc/shadow文件存在,则打印“This computer uses shadow passwords”。同样shell编程中还可以用或操作(||),例如:
#!/bin/bash
mailfolder=/var/spool/mail/james
[ -r &$mailfolder& ] || { echo &Can not read $mailfolder&; exit 1; }
echo &$mailfolder has mail from:&
grep &^From & $mailfolder
该脚本首先判断mailfolder是否可读,如果可读则打印该文件中以"From"开头的行。如果不可读则或操作生效,打印错误信息后脚本退出。需要注意的是,这里我们必须使用如下两个命令:
echo &Can not read $mailfolder&; # 打印错误信息
exit 1; # 退出程序
我们使用花括号以组合命令的形式将两个命令放到一起作为一个命令使用。即使不用与和或操作符,我们也可以用if表达式完成任何事情,但是使用与或操作符会更便利很多。
case表达式可以用来匹配一个给定的字符串,而不是数字(可别和C语言里的switch...case混淆)。
case ... in
...) do something here
file命令可以辨别出一个给定文件的文件类型,如:file lf.gz,其输出结果为:
lf.gz: gzip compressed data, deflated, original filename,
last modified: Mon Aug 27 23:09:18 2001, os: Unix
我们利用这点写了一个名为smartzip的脚本,该脚本可以自动解压bzip2, gzip和zip 类型的压缩文件:
#!/bin/bash
ftype="$(file "$1")"
case "$ftype" in
"$1: Zip archive"*)
unzip "$1"&;;
"$1: gzip compressed"*)
gunzip "$1"&;;
"$1: bzip2 compressed"*)
bunzip2 "$1"&;;
*) echo "File $1 can not be uncompressed with smartzip";;
你可能注意到上面使用了一个特殊变量$1,该变量包含有传递给该脚本的第一个参数值。也就是说,当我们运行:
smartzip articles.zip
$1 就是字符串 articles.zip。
select表达式是bash的一种扩展应用,擅长于交互式场合。用户可以从一组不同的值中进行选择:
select var in ...&; do
.... now $var can be used ....
下面是一个简单的示例:
#!/bin/bash
echo "What is your favourite OS?"
select var in "Linux" "Gnu Hurd" "Free BSD" "Other"; do
echo "You have selected $var"
该脚本的运行结果如下:
What is your favourite OS?
2) Gnu Hurd
3) Free BSD
You have selected Linux
在shell中,可以使用如下循环:
while ...; do
只要测试表达式条件为真,则while循环将一直运行。关键字"break"用来跳出循环,而关键字”continue”则可以跳过一个循环的余下部分,直接跳到下一次循环中。
for循环会查看一个字符串列表(字符串用空格分隔),并将其赋给一个变量:
for var in ....; do
下面的示例会把A B C分别打印到屏幕上:
#!/bin/bash
for var in A B C&; do
echo "var is $var"
下面是一个实用的脚本showrpm,其功能是打印一些RPM包的统计信息:
#!/bin/bash
# list a content summary of a number of RPM packages
# USAGE: showrpm rpmfile1 rpmfile2 ...
# EXAMPLE: showrpm /cdrom/RedHat/RPMS/*.rpm
for rpmpackage in "$@"; do
if [ -r "$rpmpackage" ];then
echo "=============== $rpmpackage =============="
rpm -qi -p $rpmpackage
echo "ERROR: cannot read file $rpmpackage"
这里出现了第二个特殊变量$@,该变量包含有输入的所有命令行参数值。如果你运行showrpm openssh.rpm w3m.rpm webgrep.rpm,那么 "$@"(有引号) 就包含有 3 个字符串,即openssh.rpm, w3m.rpm和 webgrep.rpm。$*的意思是差不多的。但是只有一个字串。如果不加引号,带空格的参数会被截断。
在向程序传递任何参数之前,程序会扩展通配符和变量。这里所谓的扩展是指程序会把通配符(比如*)替换成适当的文件名,把变量替换成变量值。我们可以使用引号来防止这种扩展,先来看一个例子,假设在当前目录下有两个jpg文件:mail.jpg和tux.jpg。
#!/bin/bash
echo *.jpg
运行结果为:
mail.jpg tux.jpg
引号(单引号和双引号)可以防止通配符*的扩展:
#!/bin/bash
echo "*.jpg"
echo '*.jpg'
其运行结果为:
其中单引号更严格一些,它可以防止任何变量扩展;而双引号可以防止通配符扩展但允许变量扩展:
#!/bin/bash
echo $SHELL
echo "$SHELL"
echo '$SHELL'
运行结果为:
此外还有一种防止这种扩展的方法,即使用转义字符——反斜杆:\:
echo \*.jpg
echo \$SHELL
输出结果为:
当要将几行文字传递给一个命令时,用here document是一种不错的方法。对每个脚本写一段帮助性的文字是很有用的,此时如果使用here document就不必用echo函数一行行输出。Here document以 && 开头,后面接上一个字符串,这个字符串还必须出现在here document的末尾。下面是一个例子,在该例子中,我们对多个文件进行重命名,并且使用here document打印帮助:
#!/bin/bash
# we have less than 3 arguments. Print the help text:
if [ $# -lt 3 ]&; then
cat && HELP
ren -- renames a number of files using sed regular expressions USAGE: ren 'regexp' 'replacement' files...
EXAMPLE: rename all *.HTM files in *.html:
ren 'HTM$' 'html' *.HTM
#这里HELP要顶格写,前面不能有空格或者TAB制表符。如果cat一行写成cat && -HELP,前边可以带TAB.
# The shift command removes one argument from the list of
# command line arguments.
# $@ contains now all the files:
for file in "$@"; do
if [ -f "$file" ]&; then
newfile=`echo "$file" | sed "s/${OLD}/${NEW}/g"`
if [ -f "$newfile" ]; then
echo "ERROR: $newfile exists already"
echo "renaming $file to $newfile ..."
mv "$file" "$newfile"
示例有点复杂,我们需要多花点时间来说明一番。第一个if表达式判断输入命令行参数是否小于3个 (特殊变量$# 表示包含参数的个数) 。如果输入参数小于3个,则将帮助文字传递给cat命令,然后由cat命令将其打印在屏幕上。打印帮助文字后程序退出。如果输入参数等于或大于3个,我们就将第一个参数赋值给变量OLD,第二个参数赋值给变量NEW。下一步,我们使用shift命令将第一个和第二个参数从参数列表中删除,这样原来的第三个参数就成为参数列表$*的第一个参数。然后我们开始循环,命令行参数列表被一个接一个地被赋值给变量$file。接着我们判断该文件是否存在,如果存在则通过sed命令搜索和替换来产生新的文件名。然后将反短斜线内命令结果赋值给newfile。这样我们就达到了目的:得到了旧文件名和新文件名。然后使用 mv命令进行重命名
如果你写过比较复杂的脚本,就会发现可能在几个地方使用了相同的代码,这时如果用上函数,会方便很多。函数的大致样子如下:
functionname()
# inside the body $1 is the first argument given to the function
# $2 the second ...
函数没有必要声明。只要在执行之前出现定义就行
下面是一个名为xtitlebar的脚本,它可以改变终端窗口的名称。这里使用了一个名为help的函数,该函数在脚本中使用了两次:
#!/bin/bash
cat && HELP
xtitlebar -- change the name of an xterm, gnome-terminal or kde konsole
USAGE: xtitlebar [-h] &string_for_titelbar&
OPTIONS: -h help text
EXAMPLE: xtitlebar &cvs&
# in case of error or if -h is given we call the function help:
[ -z &$1& ] && help
[ &$1& = &-h& ] && help
# send the escape sequence to change the xterm titelbar:
echo -e &\033]0;$1\007&
在脚本中提供帮助是一种很好的编程习惯,可以方便其他用户(和自己)使用和理解脚本。
我们已经见过$* 和 $1, $2 ... $9 等特殊变量,这些特殊变量包含了用户从命令行输入的参数。迄今为止,我们仅仅了解了一些简单的命令行语法(比如一些强制性的参数和查看帮助的-h选项)。但是在编写更复杂的程序时,您可能会发现您需要更多的自定义的选项。通常的惯例是在所有可选的参数之前加一个减号,后面再加上参数值 (比如文件名)。
有好多方法可以实现对输入参数的分析,但是下面的使用case表达式的例子无疑是一个不错的方法。
#!/bin/bash
cat && HELP
This is a generic command line parser demo.
USAGE EXAMPLE: cmdparser -l hello -f -- -somefile1 somefile2
while [ -n "$1" ]; do
case "$1" in
-h)shift 1;; # function help is called
-f) opt_f=1;shift 1;; # variable opt_f is set
-l) opt_l=$2;shift 2;; # -l takes an argument -& shift by 2
--); # end of options
-*) echo "error: no such option $1. -h for help";exit 1;;
echo "opt_f is $opt_f"
echo "opt_l is $opt_l"
echo "first arg is $1"
echo "2nd arg is $2"
你可以这样运行该脚本:
cmdparser -l hello -f -- -somefile1 somefile2
返回结果如下:
opt_f is 1
opt_l is hello
first arg is -somefile1
2nd arg is somefile2
这个脚本是如何工作的呢?脚本首先在所有输入命令行参数中进行循环,将输入参数与case表达式进行比较,如果匹配则设置一个变量并且移除该参数。根据unix系统的惯例,首先输入的应该是包含减号的参数。
现在我们来讨论编写一个脚本的一般步骤。任何优秀的脚本都应该具有帮助和输入参数。写一个框架脚本(framework.sh),该脚本包含了大多数脚本需要的框架结构,是一个非常不错的主意。这样一来,当我们开始编写新脚本时,可以先执行如下命令:
cp framework.sh myscript
然后再插入自己的函数。
让我们来看看如下两个示例。
脚本 b2d 将二进制数 (比如 1101) 转换为相应的十进制数。这也是一个用expr命令进行数学运算的例子:
#!/bin/bash
# vim: set sw=4 ts=4 et:
cat && HELP
b2d -- convert binary to decimal
USAGE: b2d [-h] binarynum
OPTIONS: -h help text
EXAMPLE: b2d 111010
will return 58
# print an error and exit
lastchar()
# return the last character of a string in $rval
if [ -z "$1" ]; then
# empty string
# wc puts some space behind the output this is why we need sed:
numofchar=`echo -n "$1" | sed 's/ //g' | wc -c `
#sed 's/ //g'
所有空白去掉
sed 's/ /\t/g' 所有空白用t代替
# now cut out the last char
抓取第numofchar个字节
rval=`echo -n "$1" | cut -b $numofchar`
# remove the last character in string and return it in $rval
if [ -z "$1" ]; then
# empty string
# wc puts some space behind the output this is why we need sed:
numofchar=`echo -n "$1" | wc -c | sed 's/ //g' `
if [ "$numofchar" = "1" ]; then
# only one char in string
numofcharminus1=`expr $numofchar "-" 1`
# now cut all but the last char:
rval=`echo -n "$1" | cut -b -$numofcharminus1`
#原来的 rval=`echo -n "$1" | cut -b 0-${numofcharminus1}`运行时出错.
#原因是cut从1开始计数,应该是cut -b 1-${numofcharminus1}
while [ -n "$1" ]; do
case $1 in
-h)shift 1;; # function help is called
--); # end of options
-*) error "error: no such option $1. -h for help";;
# The main program
# one arg must be given:
[ -z "$1" ] && help
binnum="$1"
binnumorig="$1"
while [ -n "$binnum" ]; do
lastchar "$binnum"
if [ "$rval" = "1" ]; then
sum=`expr "$weight" "+" "$sum"`
# $expr 10 + 10
20 expr提示是计算操作
# remove the last position in $binnum
chop "$binnum"
binnum="$rval"
weight=`expr "$weight" "*" 2`
echo "binary $binnumorig is decimal $sum"
该脚本使用的算法是利用十进制和二进制数权值 (1,2,4,8,16,..),比如二进制"10"可以这样转换成十进制:
0 * 1 + 1 * 2 = 2
为了得到单个的二进制数我们是用了lastchar 函数。该函数使用wc –c计算字符个数,然后使用cut命令取出末尾一个字符。Chop函数的功能则是移除最后一个字符。
你可能有这样的需求并一直都这么做:将所有发出邮件保存到一个文件中。但是过了几个月之后,这个文件可能会变得很大以至于该文件的访问速度变慢;下面的脚本 rotatefile 可以解决这个问题。这个脚本可以重命名邮件保存文件(假设为outmail)为outmail.1,而原来的outmail.1就变成了 outmail.2 等等...
#!/bin/bash
# vim: set sw=4 ts=4 et:
cat && HELP
rotatefile -- rotate the file name
USAGE: rotatefile [-h] filename
OPTIONS: -h help text
EXAMPLE: rotatefile out
This will e.g rename out.2 to out.3, out.1 to out.2, out to out.1[BR]
and create an empty out-file
The max number is 10
version $ver
while [ -n "$1" ]; do
case $1 in
-h)shift 1;;
-*) echo "error: no such option $1. -h for help";exit 1;;
# input check:
if [ -z "$1" ]&; then
error "ERROR: you must specify a file, use -h for help"
filen="$1"
# rename any .1 , .2 etc file:
for n in 9 8 7 6 5 4 3 2 1; do
if [ -f "$filen.$n" ]; then
p=`expr $n + 1`
echo "mv $filen.$n $filen.$p"
mv $filen.$n $filen.$p
# rename the original file:
if [ -f "$filen" ]; then
echo "mv $filen $filen.1"
mv $filen $filen.1
echo touch $filen
touch $filen
这个脚本是如何工作的呢?在检测到用户提供了一个文件名之后,首先进行一个9到1的循环;文件名.9重命名为文件名.10,文件名.8重命名为文件名. 9……等等。循环结束之后,把原始文件命名为文件名.1,同时创建一个和原始文件同名的空文件(touch $filen)
最简单的调试方法当然是使用echo命令。你可以在任何怀疑出错的地方用echo打印变量值,这也是大部分shell程序员花费80%的时间用于调试的原因。Shell脚本的好处在于无需重新编译,而插入一个echo命令也不需要多少时间。
shell也有一个真正的调试模式,如果脚本"strangescript"出错,可以使用如下命令进行调试:
sh -x strangescript
上述命令会执行该脚本,同时显示所有变量的值。
shell还有一个不执行脚本只检查语法的模式,命令如下:
sh -n your_script
这个命令会返回所有语法错误。
我们希望你现在已经可以开始编写自己的shell脚本了,尽情享受这份乐趣吧!&:)11937人阅读
Shell脚本(10)
按行读取文件
#!/bin/bash
echo &##### 方法 1 #####&
while read line1
echo $line1
echo &##### 方法 2 #####&
cat $1 | while read line2
echo $line2
echo &##### 方法 3 #####&
for line3 in $(&$1)
echo $line3
snail@ubuntu:5.read-line$ cat file.bin&
hello world
snail@ubuntu:5.read-line$ ./read-line.sh file.bin&
##### 方法 1 #####
hello world
##### 方法 2 #####
hello world
##### 方法 3 #####
使用for读取时,自动按空格作为间隔符。
如果输入文本每行中没有空格,则line在输入文本中按换行符分隔符循环取值.
如果输入文本中包括空格或制表符,则不是换行读取,line在输入文本中按空格分隔符或制表符或换行符特环取值.
可以通过把IFS设置为换行符来达到逐行读取的功能.
echo &##### 方法 3 #####&
for line3 in $(&$1)
echo $line3
* 以上用户言论只代表其个人观点,不代表CSDN网站的观点或立场
访问:992698次
积分:11589
积分:11589
排名:第691名
原创:232篇
转载:183篇
评论:180条
(9)(1)(9)(5)(4)(3)(8)(7)(5)(12)(11)(1)(14)(17)(18)(41)(8)(6)(1)(31)(27)(8)(24)(8)(34)(16)(25)(6)(8)(7)(10)(29)第8章 shell编程_百度文库
两大类热门资源免费畅读
续费一年阅读会员,立省24元!
第8章 shell编程
上传于||暂无简介
阅读已结束,如果下载本文需要使用1下载券
想免费下载本文?
下载文档到电脑,查找使用更方便
还剩2页未读,继续阅读
你可能喜欢linux shel l_百度文库
两大类热门资源免费畅读
续费一年阅读会员,立省24元!
linux shel l
上传于||文档简介
&&l​i​n​u​x​网​络​服​务​器​基​本​配​置​与​安​全​应​用
阅读已结束,如果下载本文需要使用2下载券
想免费下载本文?
下载文档到电脑,查找使用更方便
还剩19页未读,继续阅读
你可能喜欢在ubuntu中如何使用hadoop shell命令?_百度知道
在ubuntu中如何使用hadoop shell命令?
在运行命令时;参数怎么写我装的是单机版的hadoop,不知道&path&gt
我有更好的答案
调用文件系统(FS)Shell命令应使用 bin/hadoop fs &args&的形式。 所有的的FS shell命令使用URI路径作为参数。URI格式是scheme://authority/path。对HDFS文件系统,scheme是hdfs,对本地文件系统,scheme是file。其中scheme和authority参数都是可选的,如果未加指定,就会使用配置中指定的默认scheme。一个HDFS文件或目录比如/parent/child可以表示成hdfs://namenode:namenodeport/parent/child,或者更简单的/parent/child(假设你配置文件中的默认值是namenode:namenodeport)。大多数FS Shell命令的行为和对应的Unix Shell命令类似,不同之处会在下面介绍各命令使用详情时指出。出错信息会输出到stderr,其他信息输出到stdout。
使用方法:hadoop fs -cat URI [URI …]
将路径指定文件的内容输出到st...
其他类似问题
为您推荐:
hadoop的相关知识
等待您来回答
下载知道APP
随时随地咨询
出门在外也不愁}

我要回帖

更多关于 shell 遍历文件每一行 的文章

更多推荐

版权声明:文章内容来源于网络,版权归原作者所有,如有侵权请点击这里与我们联系,我们将及时删除。

点击添加站长微信