awk語句過濾文檔

A. 如何用awk去掉開頭和結尾沒用的文本

farfaef=ferAB.CD
fefhui=fgyijiAB.CD
ferhi=AB.CD
這些數據中要把「=」與AB.CD中間的數據全部刪除了，得出結果如下。
farfaef=AB.CD
fefhui=AB.CD
ferhi=AB.CD
（註：元素數據一列，AB.CD數據一列）
是字元不是一個欄位

B. 利用awk命令提取其中一列包括特定字元的所有行怎麼辦

awk：用復於一行中分成數個「欄位」來處制理。適合處理 小型數據。
運行模式：awk '條件類型1{動作1} 條件類型2{動作2} ...' filename

# last | awk '{print $1 "\t" $3}' <== 查看登錄者的數據，只顯示登錄名和ip地址，並以[tab]隔開

awk 的內置變數
變數名稱 代表的含義

NF 每一行（$0）擁有的欄位總數

NR 當前 awk 所處理的是 「第幾行」 數據

FS 當前分隔符，默認空格鍵

awk 的邏輯運算符
運算單元 代表含義
> 大於
< 小於
>= 大於或等於
<= 小於或等於
== 等於
!= 不等於

範例：
cat /etc/passwd | awk '{FS=":"} $3 < 10 {print $1 "\t" $3}' <== 文件/etc/passwd是以":"分隔的，查看第三欄小於10的數據，並且只顯示帳號與第三欄

C. 如何使用 awk 和正則表達式過濾文本或文件中的字元串

awk默認使用空格做為分隔符，可以看到，我輸出了"a b c d e" 每個字母之間都有個空格

剛好我可以利用awk默認使用空格作為分隔符這一特點來進行分割過濾

這樣過濾出來的第一列就是a，第二列就是b......以此類推。

如果有復雜的、難處理的可以繼續追問，我也很喜歡解決這些問題

D. Unix shell語言 我想從file中逐行讀取，使用awk分隔欄位，篩選含有指定標簽

tag="TPP"
catfile|awk-vtag=$tag'BEGIN{a=0}
$1=="<"tag">"{a=1}
a==1{print$0>>tag".tmp"}
$1=="</"tag">"{exit}'

這里的tag也可以設成從腳本參數進行賦值

思路：設置一個變數，開始是0（也可以設置成字元等），遇到<tag>，變數改變成1

後面只要a==1就將此行（整行用$0表示）導出到文件。遇到</tag>時，退出awk，不再列印後面的內容。

E. 如何在Linux下查找文件內容包含某個特定字元串的文件

查找目錄下的所有文件中是否含有某個字元串
find .|xargs grep -ri "IBM"
查找目錄下的所有文件中是否含有某個字元串,並且只列印出文件名
find .|xargs grep -ri "IBM" -l
1.正則表達式
（1）正則表達式一般用來描述文本模式的特殊用法，由普通字元（例如字元a-z）以及特殊字元（稱為元字元，如/、*、?等）組成。
（2）基本元字元集及其含義
^ ：只匹配行首。 如^a 匹配以a開頭的行abc,a2e,a12,aaa,......
$ ：只匹配行尾。 如^a 匹配以a結尾的行bca,12a,aaa,.......
* ：匹配0個或多個此單字元。 如(a)* 匹配 空，a,aa,aaa,....
[] ：只匹配[]內字元。可以是一個單字元，也可以是字元序列，用","將裡面要匹配的不同字元串分開。也可以使用-來表示[]內字元序列的范圍，如[1-5]表示[12345]
\ ：只用來屏蔽一個元字元的特殊含義。 如\*,\',\",\|,\+,\^,\. 等
.：（點）只匹配任意單字元。
pattern\{n\}：只用來匹配前面pattern出現的次數.n為次數。如a\{2\}匹配aa.
pattern\{n,\}：含義同上，但次數最少為n.如a\{2,\}匹配aa,aaa,aaaa,.....
pattern\{n,m\}：含義同上，但次數在n和m之間。如a\{2,4\}匹配aa,aaa,aaaa三個
(3)舉例說明：
^$ ：匹配空行
^.$ ：匹配包含一個字元的行
\*\.pas ：匹配以*.pas結尾的所有字元或文件
[0123456789]或[0-9] ：假定要匹配任意一個數字
[a-z] ：任意小寫字母
[A-Za-z] ：任意大小寫字母
[S,s] ：匹配大小寫S
[0-9]\{3\}\.[0-9]\{3\}\.[0-9]\{3\}\.[0-9]\{3\} ：匹配IP地址 [0-9]\{3\}三個0-9組成的字元串；\. ：匹配點（注意這里點是特殊的字元，所以要用"\"來屏蔽其含義）
2.find介紹
（1）查找具有某些特徵文件的命令，可遍歷當前目錄甚至於整個文件系統來查看某些文件或目錄，其遍歷大的文件系統時一般放在後台執行。
（2）find命令的一般形式
find pathname -options [-print -exec -ok]
-pathname :find命令所查找的目錄路徑。如用"."來表示當前的目錄，用/來表示系統根目錄
-print :find命令將匹配的文件輸出到標准輸出
-exec: find命令對匹配的文件執行該參數所給出的shell命令，相應的命令形式為
'command'{} \; (注意{}和\之間的空格)
-ok 和 -exec的作用相同，只不過以一種更為安全的模式來執行該參數所給出的shell命令，在執行每一個命令之前，都會給出提示，讓用戶來確定是否執行。
options有如下幾種：
-name ：按照文件名查找文件
-perm ：按照文件許可權來查找文件
-user ：按照文件屬主來查找文件
-group ：按照文件所屬的組來查找文件
-mtime -n +n 按照文件的更改時間來查找文件，-n表示文件更改時間距現在n天以內，+n表示文件更改時間距現在n天以前。find命令還有-atime 和-ctime選項，但它們都和-mtime選項相似。
-size n[c]查找文件長度為n塊的文件，帶有c時表示文件長度以位元組計。
-nogroup 查找無有效所屬組的文件，即該文件所屬的組在/etc/groups中不存在
-newer file1 !file2查找更改時間比文件file1新但比文件file2舊的文件
-depth 先查找指定目錄有無匹配文件，若無則再在子目錄中查找
-type 查找某一類型的文件，如
b :塊設備文件
d：目錄
e：字元設備文件
p；管道文件
l：符號鏈接文件
f：普通文件
（3）find命令舉例
find -name "*.txt" -print 查找txt結尾的文件並輸出到屏幕上
find /cmd ".sh" -print 查找/cmd目錄下所有sh文件，並輸出
find . -perm 755 -print 查找當前目錄下許可權為755的文件，並輸出
find `pwd` -user root -print 查找當前目錄下屬主為root的文件，並輸出
find ./ -group sunwill -print 查找當前目錄下所屬主是sunwill的文件
find /var -mtime -5 -print 查找/var目錄下更改時間為5天內的所有文件
find /var -mtime +5 -print 查找/var目錄下更改時間為5天以前的所有文件
find /var -newer "myfile1" ! -newer "myfile2" -print 查找/var目錄下比myfile1新，但是比myfile2舊的所有文件。
find /var -type d -print 查找/var目錄下所有目錄
find /var -type l -print 查找/var目錄下所有的符號鏈接文件。
find . -size +1000000c -print 查找當前目錄下大於1000000位元組的文件
find / -name "con.file" -depth -print 查找根目錄下有無"con.file",若無則在其子目錄中查找
find . -type f -exec ls -l {} \; 查找當前目錄下是否有普通文件，若有則執行ls -l
（4）xargs命令
在 使用find命令的-exec選項處理匹配到的文件時，find命令將所有匹配到的文件一起傳遞給exec。不幸的是，有些系統對能夠傳遞給exec的命 令長度有限制，這樣find命令運行幾分鍾之後就算出現溢出錯誤。錯誤信息通常是「參數列太長」或「參數列溢出」。這就是xargs的用處所在，特別是與 find命令一起使用,exec會發起多個進程，而xargs會多個，只有一個
find ./ -perm -7 -print | xargs chmod o-w 查找許可權為7的文件並傳遞給chmod處理
3.grep介紹
(1)grep 的一般格式為 grep [options] 基本正則表達式 [文件]
字元串參數最好採用是雙引號括，一是以防被誤解為shell命令，二是可以用來查找多個單片語成的字元串
-c：只輸出匹配行的記數
-i：不區分大小寫（只適用於單個字元）
-h：查詢多個文件時不顯示文件名
-H：只顯示文件名
-l：查詢多文件時只輸出包含匹配字元的文件名
-n：只顯示匹配行及其行號
-s：不顯示不存在或無匹配文本的錯誤信息。
-v：顯示不包含匹配文本的所有行。
（2）舉例說明：
grep ^[^210] myfile 匹配myfile中以非2、1、0開頭的行
grep "[5-8][6-9][0-3]" myfile 匹配myfile中第一位為5|6|7|8，第二位6|7|8|9，第三位為0|1|2|3的三個字元的行
grep "4\{2,4\}" myfile 匹配myfile中含有44,444或4444的行
grep "\?" myfile匹配myfile中含有任意字元的行
（3）grep命令類名
[[:upper:]] 表示[A-Z]
[[:alnum:]] 表示[0-9a-zA-Z]
[[:lower:]] 表示[a-z]
[[:space:]] 表示空格或者tab鍵
[[:digit:]] 表示[0-9]
[[:alpha:]] 表示[a-zA-Z]
如：grep "5[[:digit:]][[:digit:]]" myfile 匹配myfile中含有5開頭接下去兩位都是數字的行。
4.awk介紹
可以從文件或字元串中基於指定規則瀏覽和抽取信息，是一種自解釋的變成語言。
（1）awk命令行方式 awk [-F filed-spearator] 'command' input-files
awk腳本：所有awk命令插入一個文件，並使awk程序可執行，然後用awk命令解釋器作為腳本的首行，以便通過鍵入腳本名稱來調用它。awk腳本是由各種操作和模式組成。
模式部分決定動作語句何時觸發及觸發事件。（BEGIN,END）
動作對數據進行處理，放在{}內指明（print）
（2）分隔符、域和記錄
awk執行時，其瀏覽域標記為$1,$2,...$n.這種方法成為域標識。$0為所有域。
（3）舉例說明:
awk '{print $0}' test.txt |tee test.out 輸出test.txt中所有行$0表示所有域
awk -F : '{print $1} test.txt |tee test.out' 同上。。只是分隔符為":"
awk 'BEGIN {print "IPDate\n"}{print $1 "\t" $4} END{print "end-of-report"}' test.txt
開始時列印「IPDate」結束時列印「end-of-report」中間列印主體信息，比如總共匹配三條信息，則輸出如下：
IPDate
1 first
2 second
3 third
end-of-report
（4）匹配操作符 ~ 匹配,!~ 不匹配
cat test.txt |awk '$0~/210.34.0.13/' 匹配test.txt中為210.34.0.13的行
awk '$0!~/210.34.0.13' test.txt 匹配test.txt中不是210.34.0.13的行
awk '{if($1=="210.34.0.13") print $0}' test.txt 匹配 test.txt中第一個域為210.34.0.13的行。
5.sed介紹
sed不與初始化文件打交道，它操作的只是一個拷貝，然後所有的改動如果沒有重定向到一個文件，將輸出到屏幕。
sed是一種很重要的文本過濾工具，使用一行命令或者使用管道與grep與awk相結合。是一種非交互性文本流編輯。
（1）調用sed的三種方式
使用sed命令行格式為：sed [options] sed命令 輸入文件
使用sed腳本文件格式為：sed[options] -f sed腳本文件 輸入文件
sed腳本文件[options] 輸入文件
--不管是使用shell命令行方式或腳本文件方式，如果沒有指定輸入文件，sed從標准輸入中接受輸入，一般是鍵盤或重定向結果。
（2）sed 命令的options如下
-n：不列印
-c：下一命令是編輯命令
-f：如果正在調用sed腳本文件
（3）sed在文件中查詢文本的方式
--使用行號，可以是一個簡單的數字，或是一個行號的范圍
--使用正則表達式
（4）讀取文本的方式
x x為一行號
x,y 表示行號范圍從x到y
/pattern/ 查詢包含模式的行
/pattern/pattern/ 查詢包含兩個模式的行
pattern/,x 在給定的行號上查詢包含模式的行
x,/pattern/ 通過行號和模式查詢匹配行
x,y! 查詢不包含指定行號x和y的行
（5）基本sed編輯命令
p 列印匹配行
d 刪除匹配行
= 顯示文件行號
a\ 在定位行號後附加新文本信息
i\ 在定位行號後插入新文本信息
c\ 用新文本替換定位文本
s 使用替換模式替換相應模式
r 從另一個文件中讀文件
w 寫文本到一個文件
q 第一個模式匹配完成後推出或立即退出
l 顯示與八禁止ASCII代碼等價的控制字元
{} 在定位行執行的命令組
n 從另一個文件中讀文本下一行，並附加在下一行
g 將模式2粘貼到/pattern n/
y 傳送字元
（6）舉例說明：
sed -n '2p' test.txt 列印第二行的信息(注意：-n是不列印不匹配的信息，若沒加-n，則列印文件的所有信息而不是匹配信息)
sed -n '1,4p' test.txt 列印第一行到第四行的信息
sed -n '/los/p' test.txt模式匹配los，並列印出來
sed -n '2,/los/p' test.txt 從第二行開始。。知道匹配第一個los
sed -n '/^$/p' test.txt 匹配空行
sed -n -e '/^$/p' -e '/^$/=' test.txt 列印空行及行號
sed -n '/good/a\morning' test.txt 在匹配到的good後面附加morning
sed -n '/good/i\morning' test.txt 在匹配到的good前面插入morning
sed -n '/good/c\morning' test.txt 將匹配到的good替換成morning
sed '1,2d' test.txt 刪除第1和2行
sed 's/good/good morning/g' test.txt 匹配good並替換成goodmorning
send 's/good/& hello /p' test.txt 匹配到good就在其後面加上hello
send 's/good/ hello &/p' test.txt 匹配到good就在其前面加上hello
6.合並與分割（sort,uniq,join,cut,paste,split）
(1)sot命令
sort [options] files 許多不同的域按不同的列順序排序
-c 測試文件是否已經排序
-m 合並兩個排序文件
-u 刪除所有同樣行
-o 存儲sort結果的輸出文件名
-t 域分隔符，用非空格或tab開始排序
+n ：n 為列號，使用此列號開始排序
-n 指定排序是域上的數字分類項
-r 比較求逆
sort -c test.txt 測試文件是否分類過
sort -u test.txt 排序並合並一樣的行
sort -r test.txt 以相反的順序排列
sort -t "/" +2 test.txt 以"/"分隔，第二個域開始分類
（2）uniq命令
uniq [options ] files 從一個文本文件中去除或禁止重復行
-u 只顯示不重復行
-d 只顯示有重復數據行，每種重復行只顯示其中一行
-c 列印每一重復行出現次數
-f ：n為數字，前n個域被忽略
uniq -f 2 test.txt 忽略前2個域
（3）join 命令
join [options] file1 file2 用來將來自兩個分類文本文件的行連在一起
-an，n為一數字，用於連接時從文件n中顯示不匹配行
-onm ，連接域，n為文件號，m為域號
-jnm，n為文件號，m為域號，使用其他域作連接域
-t ，域分隔符。用來設置非空格或tab鍵的域分隔符。
（4）split命令
split -output_file_size intput_filename output_filename
用來將大文件分割成小文件。
-b n，每個分割文件的大小n
-C n，每個分割文件一行最多n位元組
-l n，每個分割文件的行數
-n，同-l n
split -10 test.txt 將test.txt分割成10行的小文件
（5）cut 命令
cut -c n1-n2 filename 顯示每行從開頭算起 n1 到 n2 的文字。
cut -c 3-5 test.txt 顯示test.txt中每行從第3到第5個字元
Linux查找文件內容的常用命令方法：

1、從文件內容查找匹配指定字元串的行：
$ grep "被查找的字元串" 文件名

2、從文件內容查找與正則表達式匹配的行：
$ grep –e 「正則表達式」 文件名

3、查找時不區分大小寫：
$ grep –i "被查找的字元串" 文件名

4、查找匹配的行數：
$ grep -c "被查找的字元串" 文件名

5、從文件內容查找不匹配指定字元串的行：
$ grep –v "被查找的字元串" 文件名

6、從根目錄開始查找所有擴展名為.log的文本文件，並找出包含」ERROR」的行
find / -type f -name "*.log" | xargs grep "ERROR"

7、例子 ：查找/SqLogs/access.log文件中包含".exe" 或者"TCP_DENIED"的記錄
方法1：grep /SqLogs/access.log –e ".exe」
grep /SqLogs/access.log –e "TCP_DENIED」
方法2：find /SqLogs –type f –name access.log | xargs grep ".exe"
find /SqLogs –type f –name access.log | xargs grep "TCP_DENIED"
因為公司是通過SQUID代理伺服器共享上網的，有時候因為某些原因，新版本的應用程序或者財務報稅軟體會無法使用，所以只有查看 access.log文件，查找原因！由於LOG文件太大了，雖然每天都執行壓縮重建LOG文件，但幾十M的LOG文件里的內容太多，直接打開查看再查找很浪費時間，也很麻煩！之前用
tail –n 100 /SqLogs/access.log命令找起來也很麻煩，上面的兩個命令幫了我很大的忙，很短的時間就可以幫我找到問題所在！

F. 如何使用Awk過濾文本或字元串使用模式特定操作 –

awk只能某一個分隔符切割字元串 ` echo "aa,bb,cc"|awk -F ',' '{print $1} '` 輸出結果就是aa $1 就是第一項 $NF是最後一項 你這種分隔符不一致的沒法用awk分割啊

G. 利用grep,sed或awk命令如何過濾出test.txt文件中第二列中大於10的數

awk '{if(NR==n) $n=新數據;print $0}'
面命令n行數列數
的交線……） 空間有幾種距離？如何求距離？點與點，點與線

H. awk如何截取文本指定段

你這個用sed做比較簡單，我的思路是提取文本中CI,ci2這種標簽。然後套到變數里。

例子:

sed-n'/CI/,/ci2/{/ci2/d;p}'file

I. 如何用SED、AWK、GREP 批處理命令 刪除 文本文件 指定的幾個行

sed -e '2d' -e '10d' myfile.txt > mynewfile.txt
刪除第二第十行，輸出保存在mynewfile.txt

'Xd' X就是指定的行號，d是刪除操作