Linux中awk后面的RS, ORS, FS, OFS 含义
轉(zhuǎn)載自http://blog.csdn.net/qq416647781/article/details/40649419
一、RS 與 ORS 差在哪
我們經(jīng)常會說,awk是基于行列操作文本的,但如何定義“行”呢?這就是RS的作用。
默認(rèn)情況下,RS的值是
。下面通過實例來理解下RS。
echo '1a2a3a4a5' | awk '{print $1}'
1a2a3a4a5
echo '1a2a3a4a5' | awk 'BEGIN{RS="a"}{print $1}'
1
2
3
4
5
我們可以看到,在更改了RS的值后,awk定義的行已經(jīng)不是我們實際意義中的行了。
上面RS固定的字符串,RS也可以定義為正則表達(dá)式。
echo '1ab2bc3cd4de5' | awk 'BEGIN{RS="[a-z]+"}{print $1,RS,RT}'
1 [a-z]+ ab
2 [a-z]+ bc
3 [a-z]+ cd
4 [a-z]+ de
5 [a-z]+
當(dāng)我們將RS設(shè)置為正則表達(dá)式的時候,RT這個變量就有作用了,RS的值始終為我們設(shè)定的正則,RT的值則是這個正則實際匹配到的內(nèi)容。
如果RS被設(shè)置為空,那么awk會將連續(xù)的空行作為行分隔符,與RS設(shè)置成"
+"有什么區(qū)別???
1、忽略文件開頭和結(jié)尾的空行。且文件不以記錄分隔符結(jié)束,即最后不是空行,會將最后一個記錄的尾
去掉
2、不設(shè)置RT變量(測試未發(fā)現(xiàn)規(guī)律,暫時認(rèn)為RT變量不可用)
3、影響FS變量
總結(jié)下RS的3種情況:
1) 非空字符串
以固定字符串作為行分隔符,同時設(shè)置變量RT為固定字符串
2) 正則表達(dá)式
以正則表達(dá)式作為行分隔符,同時設(shè)置變量RT為正則表達(dá)式實際匹配到的字符串
3) 空字符
以連續(xù)的空行作為行分隔符,如果FS為單個字符,會將
強制加入到FS變量中
理解了RS,再來理解ORS就簡單了。RS是awk讀取文件時的行分隔符,ORS則是awk輸出時的行結(jié)束符。
更簡單的講,就是awk在輸出時,會在每行記錄后面增加一個ORS變量所設(shè)定的值。
ORS的值只能設(shè)定為字符串,默認(rèn)情況下,ORS的值是
seq 5 | awk '{print $0}'
1
2
3
4
5
seq 5 | awk 'BEGIN{ORS="a"}{print $0}'
1a2a3a4a5a
我們平常用的 print $0 等價于 printf $0 ORS
二、FS 與 OFS 差在哪
RS是awk用來定義“行”的,那么FS就是awk用來定義“列”的。
設(shè)置變量 FS 與使用 -F 參數(shù)是一樣的。
echo '1,2' | awk -F , '{print $1}'
1
echo '1,2' | awk 'BEGIN{FS=","}{print $1}'
1
與 RS 類似,F(xiàn)S 同樣可以設(shè)置為正則表達(dá)式
echo '1ab2bc3cd4de5' | awk 'BEGIN{FS="[a-z]+"}{print $1,$2,$5}'
1 2 5
FS 有1個特例,就是將FS設(shè)置為一個空格,F(xiàn)S=" " ,這也是FS的默認(rèn)值
1.In the special case that FS is a single space, fields are separated by runs of spaces and/or tabs and/or newlines.
此時,awk會將連續(xù)的 空格 或 制表符( ) 或 換行符(
) 作為列的分隔符
那么,F(xiàn)S=" " 與 FS="[
]+" 有區(qū)別么???
答案是肯定的
echo ' 1 2' | awk 'BEGIN{FS=" "}{print $1}'
1
echo ' 1 2' | awk 'BEGIN{FS="[
]+"}{print $1}'
當(dāng)FS=" "時,awk會自動去掉行首和行尾的 空格 或 制表符( ) 或 換行符(
),但FS="[
]+"是不會的
同樣,F(xiàn)S也可以設(shè)置為空
echo '123' | awk 'BEGIN{FS=""}{print $1,$2}'
1 2
當(dāng)FS被設(shè)置為空字符串的時候,awk會將一行記錄的每個字符做為單獨的一列
類似的,當(dāng)我們想以固定的長度來分隔列的時候,可以使用 FIELDWIDTHS 來代替 FS
例如,一行記錄的前3個字符作為第一列,接下來的2個字符作為第二列,接下來的4個字符作為第三列
echo '123456789' | awk 'BEGIN{FIELDWIDTHS="3 2 4"}{print $1,$2,$3}'
123 45 6789
echo '123456789' | awk 'BEGIN{FIELDWIDTHS="3 2 3"}{print $1,$2,$3}'
123 45 678
echo '123456789' | awk 'BEGIN{FIELDWIDTHS="3 2 5"}{print $1,$2,$3}'
123 45 6789
如果定義的長度小于實際的長度,awk會截斷,如果大于實際長度,則以實際長度為準(zhǔn)。
總結(jié)下FS的4種情況:
1) 非空字符串
以固定字符串作為列分隔符
2) 正則表達(dá)式
以正則表達(dá)式作為列分隔符
3) 單個空格
以連續(xù)的 空格 或 制表符( ) 或 換行符(
)作為列分隔符
4) 空字符
以每個字符做為單獨的一列
接下來我們來看看上節(jié)提到的問題:
當(dāng) RS="" 時,會將
強制加入到FS變量中
cat urfile
1
a
2
a
3
awk -v RS="" '{print "#" $0 "#"}' urfile
#1
a#
#2
a#
#3#
awk -F "b" -v RS="" '{print $1}' urfile
1
2
3
awk -F "c" -v RS="" '{print $1}' urfile
1
2
3
awk -F "c" -v RS="
+" '{print "#" $1 "#"}' urfile
#1
a#
#2
a#
#3
#
如果FS為單個字符,
始終存在在 FS 中,而 RS="
+" 則不會。
了解的 FS ,我們來看看 OFS ,F(xiàn)S是awk讀入記錄時的列分隔符,OFS則是awk輸出時的列分隔符。
我們平時使用的 print $1,$2 等價于 print $1 OFS $2
echo '1 2' | awk -v OFS="|" '{print $1,$2}'
1|2
echo '1 2' | awk -v OFS="|" '{print $1 OFS $2}'
1|2
如果一行記錄有很多列,同時想改變輸出的分隔符,print $1,$2,$3 ... 啟不是很麻煩?
當(dāng)然有簡單的方法:
echo '1 2 3 4 5' | awk -v OFS="|" '{print $0}'
1 2 3 4 5
echo '1 2 3 4 5' | awk -v OFS="|" '{$1=$1;print $0}'
1|2|3|4|5
echo '1 2 3 4 5' | awk -v OFS="|" '{NF+=0;print $0}'
1|2|3|4|5
為了使OFS的設(shè)置生效,需要改變 $0 ,這里我們是對 awk 撒了個小謊
$1=$1 或者 NF+=0, $0 本身的內(nèi)容實際上沒有任何改變,只是為了使 OFS 的設(shè)置生效
在理解了 RS 和 FS 之后,我們來回顧開始的那句話:“awk是基于行列操作文本的”
這個說法實際上不是很準(zhǔn)確,因為在改變了 RS 后,awk 中的“行”已經(jīng)不是一般的“行”了
同樣,改變了 FS 后,awk 中的“列”也已經(jīng)不是一般的“列”了
因此,準(zhǔn)確的應(yīng)該這樣講:“awk是基于 記錄(record) 和 域(field) 操作文本的”
三、0 與 "0" 差在哪
我們先來看一個例子:
awk 'BEGIN{if(0) print "true";else print "false"}'
false
awk 'BEGIN{if("0") print "true";else print "false"}'
true
為什么同樣是 0 ,結(jié)果卻不一樣?
其實要解釋這個問題,只需要弄清楚awk中的“真”與“假”。
以下3種情況是“假”,其他情況都為“真”
1) 數(shù)字 0
2) 空字符串
3) 未定義的值
awk 'BEGIN{a=0;if(a) print "true";else print "false"}'
false
awk 'BEGIN{a="";if(a) print "true";else print "false"}'
false
awk 'BEGIN{if(a) print "true";else print "false"}'
false
awk如何去重?
1.awk '! a[$0] ++'
在解釋之前,我們先要了解awk的一個特性:
awk 會根據(jù)語境來給未定義的變量賦初始值
awk 'BEGIN{print a "" 1}'
1
awk 'BEGIN{print a + 1}'
1
對于未定義的變量,如果要進(jìn)行字符串操作,會被賦成空字符串 ""
如果要進(jìn)行數(shù)學(xué)運算,會被賦成數(shù)字 0
現(xiàn)在我們看看上面的代碼 ! a[$0] ++ 等價于 if(! a[$0] ++) print $0
對于首次出現(xiàn)的記錄,a[$0]的值是未定義的,由于后面的 ++ 是數(shù)學(xué)計算,所以a[$0]會被賦值成數(shù)字0
也是由于 ++ 操作符,會先取值,再計算,所以對于第一行記錄實際上是if(! 0) print $0
! 是取反,0 是假,! 0 就是真,那么就會執(zhí)行后面的 print $0
對于后面出現(xiàn)的重復(fù)記錄,a[$0] 經(jīng)過 ++ 的計算已經(jīng)變?yōu)?1、2、3 。。。
而 ! 1 ! 2 ! 3 ... 都為假,不會打印。
下面我們用黑哥的一段代碼來深刻體會一下,用awk打印奇數(shù)行:
seq 10 | awk 'i=!i'
1
3
5
7
9
總結(jié)
以上是生活随笔為你收集整理的Linux中awk后面的RS, ORS, FS, OFS 含义的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: ETL模型设计
- 下一篇: KBQA: 知识图谱上的问答系统概述