日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問(wèn) 生活随笔!

生活随笔

當(dāng)前位置: 首頁(yè) > 运维知识 > linux >内容正文

linux

linux中的文本处理方法集锦

發(fā)布時(shí)間:2023/12/10 linux 29 豆豆
生活随笔 收集整理的這篇文章主要介紹了 linux中的文本处理方法集锦 小編覺(jué)得挺不錯(cuò)的,現(xiàn)在分享給大家,幫大家做個(gè)參考.

sed awk grep
這三個(gè)工具都要用到正則表達(dá)式,把常用貼出來(lái)。

?1.行的匹配
[root@mypc /]# sed -n ‘2p’ /etc/passwd? 打印出第2行
[root@mypc /]# sed -n ‘1,3p’ /etc/passwd 打印出第1到第3行
[root@mypc /]# sed -n ‘$p’ /etc/passwd?? 打印出最后一行
[root@mypc /]# sed -n ‘/user/p' /etc/passwd 打印出含有user的行
[root@mypc /]# sed -n ‘/\$/p' /etc/passwd? 打印出含有$元字符的行,$為特殊字符,表示最后一行

2.插入文本和附加文本(插入新行)
[root@mypc /]# sed -n ‘/FTP/p’ /etc/passwd? 打印出有FTP的行
ftp:x:14:50:FTP User:/var/ftp:/sbin/nologin
[root@mypc /]# sed ‘/FTP/ a/ 456′ /etc/passwd 在含有FTP的行后面新插入一行,內(nèi)容為456
[root@mypc /]# sed ‘/FTP/ i/ 123′ /etc/passwd在含有FTP的行前面新插入一行,內(nèi)容為123
[root@mypc /]# sed ‘/FTP/ i/ “123″‘ /etc/passwd在含有FTP的行前面新插入一行,內(nèi)容為”123″
[root@mypc /]# sed ‘5 a/ 123′ /etc/passwd???????? 在第5行后插入一新行,內(nèi)容為123
[root@mypc /]# sed ‘5 i/ “12345″‘ /etc/passwd?? 在第5行前插入一新行,內(nèi)容為”12345″

3.刪除文本
[root@mypc /]# sed ‘1d’ /etc/passwd? 刪除第1行
[root@mypc /]# sed ‘1,3d’ /etc/passwd? 刪除第1至3行
[root@mypc /]# sed ‘/user/d’ /etc/passwd? 刪除帶有user的行

4. 替換文本,替換命令用替換模式替換指定模式,格式為:
[ a d d r e s s [,address]] s/ pattern-to-find /replacement-pattern/[g p w n]
[root@mypc /]# sed ’s/user/USER/’ /etc/passwd???? 將第1個(gè)user替換成USER,g表明全局替換
[root@mypc /]# sed ’s/user/USER/g’ /etc/passwd??? 將所有user替換成USER
[root@mypc /]# sed ’s/user/#user/’ /etc/passwd??? 將第1個(gè)user替換成#user,如用于屏蔽作用
[root@mypc /]# sed ’s/user//’ /etc/passwd???????? 將第1個(gè)user替換成空
[root@mypc /]# sed ’s/user/&11111111111111/’ /etc/passwd? 如果要附加或修改一個(gè)很長(zhǎng)的字符串,可以使用( &)命令,&命令保存發(fā)現(xiàn)模式以便重新調(diào)用它,然后把它放在替換字符串里面,這里是把&放前面
[root@mypc /]# sed ’s/user/11111111111111&/’ /etc/passwd? 這里是將&放后面

5. 快速一行命令
下面是一些一行命令集。([ ]表示空格,[ ]表示t a b鍵)

[plain]?view plaincopy
  • ‘s?/?/?.?$?/?/?g’?刪除以句點(diǎn)結(jié)尾行??
  • ‘-e?/abcd/d’?刪除包含a?b?c?d的行??
  • ‘s?/?[?]?[?]?[?]?*?/?[?]?/?g’?刪除一個(gè)以上空格,用一個(gè)空格代替??
  • ‘s?/?^?[?]?[?]?*?/?/?g’?刪除行首空格??
  • ‘s?/?/?.?[?]?[?]?*?/?[?]?/?g’?刪除句點(diǎn)后跟兩個(gè)或更多空格,代之以一個(gè)空格??
  • ‘/?^?$?/?d’?刪除空行??
  • ‘s?/?^?.?/?/?g’?刪除第一個(gè)字符??
  • ‘s?/COL?/?(?.?.?.?/?)?/?/?g’?刪除緊跟C?O?L的后三個(gè)字母??
  • ‘s?/?^?/?/?/?/?g’?從路徑中刪除第一個(gè)/??
  • ‘s?/?[?]?/?[?]?/?/?g’?刪除所有空格并用t?a?b鍵替代??
  • ‘S?/?^?[?]?/?/?g’?刪除行首所有t?a?b鍵??
  • ‘s?/?[?]?*?/?/?g’?刪除所有t?a?b鍵??
  • 's/^/:/g'??在每行首部加一個(gè):??
  • 's/$/:/g'???在第行尾部加一個(gè):??
  • 如果使用s e d對(duì)文件進(jìn)行過(guò)濾,最好將問(wèn)題分成幾步,分步執(zhí)行,且邊執(zhí)行邊測(cè)試結(jié)果。

    vim

    移動(dòng)光標(biāo)的方法

    h 或 向左箭頭鍵(←)

    光標(biāo)向左移動(dòng)一個(gè)字符

    j 或 向下箭頭鍵(↓)

    光標(biāo)向下移動(dòng)一個(gè)字符

    k 或 向上箭頭鍵(↑)

    光標(biāo)向上移動(dòng)一個(gè)字符

    l 或 向右箭頭鍵(→)

    光標(biāo)向右移動(dòng)一個(gè)字符

    如果你將右手放在鍵盤(pán)上的話,你會(huì)發(fā)現(xiàn) hjkl 是排列在一起的,因此可以使用這四個(gè)按鈕來(lái)移動(dòng)光標(biāo)。 如果想要進(jìn)行多次移動(dòng)的話,例如向下移動(dòng) 30 行,可以使用 "30j" 或 "30↓" 的組合按鍵, 亦即加上想要進(jìn)行的次數(shù)(數(shù)字)后,按下動(dòng)作即可!

    [Ctrl] + [f]

    屏幕『向下』移動(dòng)一頁(yè),相當(dāng)于 [Page Down]按鍵 (常用)

    [Ctrl] + [b]

    屏幕『向上』移動(dòng)一頁(yè),相當(dāng)于 [Page Up] 按鍵 (常用)

    [Ctrl] + [d]

    屏幕『向下』移動(dòng)半頁(yè)

    [Ctrl] + [u]

    屏幕『向上』移動(dòng)半頁(yè)

    +

    光標(biāo)移動(dòng)到非空格符的下一列

    -

    光標(biāo)移動(dòng)到非空格符的上一列

    n<space>

    那個(gè) n 表示『數(shù)字』,例如 20 。按下數(shù)字后再按空格鍵,光標(biāo)會(huì)向右移動(dòng)這一行的 n 個(gè)字符。例如 20<space> 則光標(biāo)會(huì)向后面移動(dòng) 20 個(gè)字符距離。

    0 或功能鍵[Home]

    這是數(shù)字『 0 』:移動(dòng)到這一行的最前面字符處 (常用)

    $ 或功能鍵[End]

    移動(dòng)到這一行的最后面字符處(常用)

    H

    光標(biāo)移動(dòng)到這個(gè)屏幕的最上方那一行的第一個(gè)字符

    M

    光標(biāo)移動(dòng)到這個(gè)屏幕的中央那一行的第一個(gè)字符

    L

    光標(biāo)移動(dòng)到這個(gè)屏幕的最下方那一行的第一個(gè)字符

    G

    移動(dòng)到這個(gè)檔案的最后一行(常用)

    nG

    n 為數(shù)字。移動(dòng)到這個(gè)檔案的第 n 行。例如 20G 則會(huì)移動(dòng)到這個(gè)檔案的第 20 行(可配合 :set nu)

    gg

    移動(dòng)到這個(gè)檔案的第一行,相當(dāng)于 1G 啊! (常用)

    n<Enter>

    n 為數(shù)字。光標(biāo)向下移動(dòng) n 行(常用)

    搜尋與取代

    /word

    向光標(biāo)之下尋找一個(gè)名稱為 word 的字符串。例如要在檔案內(nèi)搜尋 vbird 這個(gè)字符串,就輸入 /vbird 即可! (常用)

    ?word

    向光標(biāo)之上尋找一個(gè)字符串名稱為 word 的字符串。

    n

    這個(gè) n 是英文按鍵。代表『重復(fù)前一個(gè)搜尋的動(dòng)作』。舉例來(lái)說(shuō), 如果剛剛我們執(zhí)行 /vbird 去向下搜尋 vbird 這個(gè)字符串,則按下 n 后,會(huì)向下繼續(xù)搜尋下一個(gè)名稱為 vbird 的字符串。如果是執(zhí)行 ?vbird 的話,那么按下 n 則會(huì)向上繼續(xù)搜尋名稱為 vbird 的字符串!

    N

    這個(gè) N 是英文按鍵。與 n 剛好相反,為『反向』進(jìn)行前一個(gè)搜尋動(dòng)作。 例如 /vbird 后,按下 N 則表示『向上』搜尋 vbird 。

    使用 /word 配合 n 及 N 是非常有幫助的!可以讓你重復(fù)的找到一些你搜尋的關(guān)鍵詞!

    :n1,n2s/word1/word2/g

    n1 與 n2 為數(shù)字。在第 n1 與 n2 行之間尋找 word1 這個(gè)字符串,并將該字符串取代為 word2 !舉例來(lái)說(shuō),在 100 到 200 行之間搜尋 vbird 并取代為 VBIRD 則:
    『:100,200s/vbird/VBIRD/g』。(常用)

    :1,$s/word1/word2/g

    從第一行到最后一行尋找 word1 字符串,并將該字符串取代為 word2 !(常用)

    :1,$s/word1/word2/gc

    從第一行到最后一行尋找 word1 字符串,并將該字符串取代為 word2 !且在取代前顯示提示字符給用戶確認(rèn) (confirm) 是否需要取代!(常用)

    刪除、復(fù)制與貼上

    x, X

    在一行字當(dāng)中,x 為向后刪除一個(gè)字符 (相當(dāng)于 [del] 按鍵), X 為向前刪除一個(gè)字符(相當(dāng)于 [backspace] 亦即是退格鍵) (常用)

    nx

    n 為數(shù)字,連續(xù)向后刪除 n 個(gè)字符。舉例來(lái)說(shuō),我要連續(xù)刪除 10 個(gè)字符, 『10x』。

    dd

    刪除游標(biāo)所在的那一整列(常用)

    ndd

    n 為數(shù)字。刪除光標(biāo)所在的向下 n 列,例如 20dd 則是刪除 20 列 (常用)

    d1G

    刪除光標(biāo)所在到第一行的所有數(shù)據(jù)

    dG

    刪除光標(biāo)所在到最后一行的所有數(shù)據(jù)

    d$

    刪除游標(biāo)所在處,到該行的最后一個(gè)字符

    d0

    那個(gè)是數(shù)字的 0 ,刪除游標(biāo)所在處,到該行的最前面一個(gè)字符

    yy

    復(fù)制游標(biāo)所在的那一行(常用)

    nyy

    n 為數(shù)字。復(fù)制光標(biāo)所在的向下 n 列,例如 20yy 則是復(fù)制 20 列(常用)

    y1G

    復(fù)制游標(biāo)所在列到第一列的所有數(shù)據(jù)

    yG

    復(fù)制游標(biāo)所在列到最后一列的所有數(shù)據(jù)

    y0

    復(fù)制光標(biāo)所在的那個(gè)字符到該行行首的所有數(shù)據(jù)

    y$

    復(fù)制光標(biāo)所在的那個(gè)字符到該行行尾的所有數(shù)據(jù)

    p, P

    p 為將已復(fù)制的數(shù)據(jù)在光標(biāo)下一行貼上,P 則為貼在游標(biāo)上一行! 舉例來(lái)說(shuō),我目前光標(biāo)在第 20 行,且已經(jīng)復(fù)制了 10 行數(shù)據(jù)。則按下 p 后, 那 10 行數(shù)據(jù)會(huì)貼在原本的 20 行之后,亦即由 21 行開(kāi)始貼。但如果是按下 P 呢? 那么原本的第 20 行會(huì)被推到變成 30 行。 (常用)

    J

    將光標(biāo)所在列與下一列的數(shù)據(jù)結(jié)合成同一列

    c

    重復(fù)刪除多個(gè)數(shù)據(jù),例如向下刪除 10 行,[ 10cj ]

    u

    復(fù)原前一個(gè)動(dòng)作。(常用)

    [Ctrl]+r

    重做上一個(gè)動(dòng)作。(常用)

    這個(gè) u 與 [Ctrl]+r 是很常用的指令!一個(gè)是復(fù)原,另一個(gè)則是重做一次~ 利用這兩個(gè)功能按鍵,你的編輯,嘿嘿!很快樂(lè)的啦!

    .

    不要懷疑!這就是小數(shù)點(diǎn)!意思是重復(fù)前一個(gè)動(dòng)作的意思。 如果你想要重復(fù)刪除、重復(fù)貼上等等動(dòng)作,按下小數(shù)點(diǎn)『.』就好了! (常用)

    ?

    進(jìn)入插入或取代的編輯模式

    i, I

    進(jìn)入插入模式(Insert mode):
    i 為『從目前光標(biāo)所在處插入』, I 為『在目前所在行的第一個(gè)非空格符處開(kāi)始插入』。 (常用)

    a, A

    進(jìn)入插入模式(Insert mode):
    a 為『從目前光標(biāo)所在的下一個(gè)字符處開(kāi)始插入』, A 為『從光標(biāo)所在行的最后一個(gè)字符處開(kāi)始插入』。(常用)

    o, O

    進(jìn)入插入模式(Insert mode):
    這是英文字母 o 的大小寫(xiě)。o 為『在目前光標(biāo)所在的下一行處插入新的一行』; O 為在目前光標(biāo)所在處的上一行插入新的一行!(常用)

    r, R

    進(jìn)入取代模式(Replace mode):
    r 只會(huì)取代光標(biāo)所在的那一個(gè)字符一次;R會(huì)一直取代光標(biāo)所在的文字,直到按下 ESC 為止;(常用)

    上面這些按鍵中,在 vi 畫(huà)面的左下角處會(huì)出現(xiàn)『--INSERT--』或『--REPLACE--』的字樣。 由名稱就知道該動(dòng)作了吧!!特別注意的是,我們上面也提過(guò)了,你想要在檔案里面輸入字符時(shí), 一定要在左下角處看到 INSERT 或 REPLACE 才能輸入喔!

    [Esc]

    退出編輯模式,回到一般模式中(常用)

    ?

    指令列的儲(chǔ)存、離開(kāi)等指令

    :w

    將編輯的數(shù)據(jù)寫(xiě)入硬盤(pán)檔案中(常用)

    :w!

    若文件屬性為『只讀』時(shí),強(qiáng)制寫(xiě)入該檔案。不過(guò),到底能不能寫(xiě)入, 還是跟你對(duì)該檔案的檔案權(quán)限有關(guān)啊!

    :q

    離開(kāi) vi (常用)

    :q!

    若曾修改過(guò)檔案,又不想儲(chǔ)存,使用 ! 為強(qiáng)制離開(kāi)不儲(chǔ)存檔案。

    注意一下啊,那個(gè)驚嘆號(hào) (!) 在 vi 當(dāng)中,常常具有『強(qiáng)制』的意思~

    :wq

    儲(chǔ)存后離開(kāi),若為 :wq! 則為強(qiáng)制儲(chǔ)存后離開(kāi) (常用)

    ZZ

    這是大寫(xiě)的 Z 喔!若檔案沒(méi)有更動(dòng),則不儲(chǔ)存離開(kāi),若檔案已經(jīng)被更動(dòng)過(guò),則儲(chǔ)存后離開(kāi)!

    :w [filename]

    將編輯的數(shù)據(jù)儲(chǔ)存成另一個(gè)檔案(類似另存新檔)

    :r [filename]

    在編輯的數(shù)據(jù)中,讀入另一個(gè)檔案的數(shù)據(jù)。亦即將 『filename』 這個(gè)檔案內(nèi)容加到游標(biāo)所在行后面

    :n1,n2 w [filename]

    將 n1 到 n2 的內(nèi)容儲(chǔ)存成 filename 這個(gè)檔案。

    :! command

    暫時(shí)離開(kāi) vi 到指令列模式下執(zhí)行 command 的顯示結(jié)果!例如 ?:! ls /home ?即可在 vi 當(dāng)中察看 /home 底下以 ls 輸出的檔案信息!

    vim 環(huán)境的變更

    :set nu

    顯示行號(hào),設(shè)定之后,會(huì)在每一行的前綴顯示該行的行號(hào)

    :set nonu

    與 set nu 相反,為取消行號(hào)!

    多窗口情況下的按鍵功能

    :sp [filename]

    開(kāi)啟一個(gè)新窗口,如果有加 filename, 表示在新窗口開(kāi)啟一個(gè)新檔案,否則表示兩個(gè)窗口為同一個(gè)檔案內(nèi)容(同步顯示)。

    [ctrl]+w+ j
    [ctrl]+w+↓

    按鍵的按法是:先按下 [ctrl] 不放, 再按下 w 后放開(kāi)所有的按鍵,然后再按下 j (或向下箭頭鍵),則光標(biāo)可移動(dòng)到下方的窗口。

    [ctrl]+w+ k
    [ctrl]+w+↑

    同上,不過(guò)光標(biāo)移動(dòng)到上面的窗口。

    [ctrl]+w+ q

    其實(shí)就是 :q 結(jié)束離開(kāi)啦! 舉例來(lái)說(shuō),如果我想要結(jié)束下方的窗口,那么利用 [ctrl]+w+↓ 移動(dòng)到下方窗口后,按下 :q 即可離開(kāi), 也可以按下 [ctrl]+w+q?

    ?

    ?

    vim 的環(huán)境設(shè)定參數(shù)

    :set nu
    :set nonu

    就是設(shè)定與取消行號(hào)啊!

    :set hlsearch
    :set nohlsearch

    hlsearch 就是 high light search(高亮度搜尋)。 這個(gè)就是設(shè)定是否將搜尋的字符串反白的設(shè)定值。默認(rèn)值是 hlsearch

    :set autoindent
    :set noautoindent

    是否自動(dòng)縮排?autoindent 就是自動(dòng)縮排。

    :set backup

    是否自動(dòng)儲(chǔ)存?zhèn)浞輽n?一般是 nobackup 的, 如果設(shè)定 backup 的話,那么當(dāng)你更動(dòng)任何一個(gè)檔案時(shí),則源文件會(huì)被另存成一個(gè)檔名為 filename~ 的檔案。 舉例來(lái)說(shuō),我們編輯 hosts ,設(shè)定 :set backup ,那么當(dāng)更動(dòng) hosts 時(shí),在同目錄下,就會(huì)產(chǎn)生 hosts~ 文件名的檔案,記錄原始的 hosts 檔案內(nèi)容

    :set ruler

    還記得我們提到的右下角的一些狀態(tài)欄說(shuō)明嗎? 這個(gè) ruler 就是在顯示或不顯示該設(shè)定值的啦!

    :set showmode

    這個(gè)則是,是否要顯示 --INSERT-- 之類的字眼在左下角的狀態(tài)欄。

    :set backspace=(012)

    一般來(lái)說(shuō), 如果我們按下 i 進(jìn)入編輯模式后,可以利用退格鍵 (backspace) 來(lái)刪除任意字符的。 但是,某些 distribution 則不許如此。此時(shí),我們就可以透過(guò) backspace 來(lái)設(shè)定啰~ 當(dāng) backspace 為 2 時(shí),就是可以刪除任意值;0 或 1 時(shí),僅可刪除剛剛輸入的字符, 而無(wú)法刪除原本就已經(jīng)存在的文字了!

    :set all

    顯示目前所有的環(huán)境參數(shù)設(shè)定值。

    :set

    顯示與系統(tǒng)默認(rèn)值不同的設(shè)定參數(shù), 一般來(lái)說(shuō)就是你有自行變動(dòng)過(guò)的設(shè)定參數(shù)啦!

    :syntax on
    :syntax off

    是否依據(jù)程序相關(guān)語(yǔ)法顯示不同顏色? 舉例來(lái)說(shuō),在編輯一個(gè)純文本檔時(shí),如果開(kāi)頭是以 # 開(kāi)始,那么該行就會(huì)變成藍(lán)色。 如果你懂得寫(xiě)程序,那么這個(gè) :syntax on 還會(huì)主動(dòng)的幫你除錯(cuò)呢!但是, 如果你僅是編寫(xiě)純文本檔案,要避免顏色對(duì)你的屏幕產(chǎn)生的干擾,則可以取消這個(gè)設(shè)定 。

    :set bg=dark
    :set bg=light

    可用以顯示不同的顏色色調(diào),預(yù)設(shè)是『 light 』。如果你常常發(fā)現(xiàn)批注的字體深藍(lán)色實(shí)在很不容易看, 那么這里可以設(shè)定為 dark 喔!試看看,會(huì)有不同的樣式呢!


    妙招1? 交換等號(hào)兩邊的內(nèi)容。

    我們?cè)趯?xiě)代碼的時(shí)候難免會(huì)遇到左值和右值交換,若是這樣的語(yǔ)句多達(dá)百條,痛苦萬(wàn)分。

    sed 's//(.*/) = /(.*/);//2 = /1;/'?? 注意等號(hào)左右各有一個(gè)空格,當(dāng)然這要取決于你的賦值語(yǔ)句。


    另一篇:

    1、grep命令:查找文件里符合條件的字符串
    一種強(qiáng)大的文本搜索工具,它能使用正則表達(dá)式搜索文本,并把匹配的行打印出來(lái)
    語(yǔ)法格式: grep [options]
    -i:ignore-case 忽略大小寫(xiě)差別
    -c:count 只打印匹配的總行數(shù),不顯示匹配的內(nèi)容信息
    -n:line-number 在匹配的行前面打印行號(hào)
    -v:revert-match 反檢索,只顯示不匹配的行
    -r:recursion遞歸地,讀取每個(gè)文件夾下的所有檔案
    -l :不顯示平常一般的輸出結(jié)果,只顯示符合的文件名稱

    2、awk命令:一個(gè)強(qiáng)大的文本處理工具,逐行掃描,從第一行到最后一行
    使用語(yǔ)法:awk 'pattern{action}' filename
    pattern:正則表達(dá)式
    action:輸出語(yǔ)法
    你可以省略pattern和 action之一,但不能兩者同時(shí)省略,當(dāng)省略pattern時(shí)沒(méi)有樣式匹配,表示對(duì)所有行(記錄)均執(zhí)行操作,省略action時(shí)執(zhí)行缺省的操作——在標(biāo)準(zhǔn)輸出上顯示。
    語(yǔ)法格式:awk [ -F re] [parameter...]?
    -F re:允許awk更改其字段分隔符
    parameter: 該參數(shù)幫助為不同的變量賦值
    -v:定義變量
    -f:指定腳本文件
    三種調(diào)用方式:
    1、awk命令行
    2、使用-f選項(xiàng)調(diào)用awk程序,例如:awk -f progfile file ,其中progfile是指定一個(gè)文本文件
    3、利用命令解釋器調(diào)用awk程序,需要在awk腳本聲明調(diào)用方式,例如:#!/bin/awk -f?
    命令行方式使用內(nèi)容過(guò)濾:
    [root@test ~]# awk '/root/' /etc/passwd
    root:x:0:0:root:/root:/bin/bash
    operator:x:11:0:operator:/root:/sbin/nologin
    #顯示分隔符指定列(1列),分隔符默認(rèn)是空格,$1是顯示分隔符前面一列

    #顯示test文件中匹配123的行
    [root@test ~]# awk '/123/ {print $1}' test?
    #顯示所有以a或f開(kāi)頭的行

    4、sed命令:一種在線編輯器,它一次處理一行內(nèi)容
    處理時(shí),把當(dāng)前處理的行存儲(chǔ)在臨時(shí)緩沖區(qū)中,稱為'模式空間'(pattern space),接著用sed命令處理緩沖區(qū)中的內(nèi)容,處理完成后,把緩沖區(qū)的內(nèi)容送往屏幕。接著處理下一行,這樣不斷重復(fù),直到文件末尾。文件內(nèi)容并沒(méi)有改變,除非你使用重定向存儲(chǔ)輸出。
    常用參數(shù):
    i 插入
    s 替換
    e 多點(diǎn)編輯
    d 刪除
    a 追加到行后面
    g 全部替換,無(wú)g只替換每行第一個(gè)
    q 退出
    #將所有包含aaa替換為jjj
    sed 's/aaa/jjj/' test
    #把這行注釋去掉,替換文本
    sed -i 's/#ServerName?www.example.com:80/?ServerName 192.168.0.202:80/g'
    將所有包含/var/www/html/替換為/opt/web/,分隔符'/'可以用別的符號(hào)代替,比如 ','? '_' '|' 等
    sed -i s/\/var\/www\/html/\/opt\/web/' /etc/httpd/conf/httpd.conf
    等同于:
    sed -i 's_/var/www/html/_/opt/web/_' /etc/httpd/conf/httpd.conf
    #插入一行到391行,包括特殊符號(hào)'/'
    sed -i '391 s/^/AddType application\/x-httpd-php .php.html/' httpd.conf
    #只打印第一行數(shù)據(jù)
    sed -n '1p' /etc/passwd?
    #打印包含root的行,禁止默認(rèn)輸出
    sed -n '/root/p' /etc/passwd
    #刪除13行
    sed -i '13d' /etc/passwd
    #刪除13行到最后一行
    sed -i '13,$d' /etc/passwd
    #將包含uucp的行刪除
    sed -i '/uucp/d' /etc/passwd
    5、find命令:查找具有某一特征的文件(例如文件權(quán)限、文件屬主、文件長(zhǎng)度、文件類型等
    用法:find [path] [options] [條件]
    Path:查找路徑
    Options:選項(xiàng)
    例如:
    -name:按照文件名查找文件
    -mtime:按照文件的更改時(shí)間來(lái)查找文件,后跟-n、+n來(lái)表示多少天內(nèi)和以前
    -user:按照文件屬主來(lái)查找文件
    -group:按照文件所屬的組來(lái)查找文件
    -type:查找某一個(gè)類型的文件,諸如:b(塊設(shè)備)、d(目錄)、l(符號(hào)鏈接)、f(普通文件)
    -size:根據(jù)文件大小來(lái)查找文件
    #在根目錄查找更改時(shí)間在5日以內(nèi)的文件
    find /tmp -mtime -5
    #在/var目錄下查找更改時(shí)間在3日以前的文件
    find /var/ -mtime +3
    #查找系統(tǒng)中所有文件長(zhǎng)度為0的普通文件,并列出他們的完整路徑
    find / -type f -size 0 -exec ls -l {} \;
    #查找/var/log目錄中更改時(shí)間在7日以前的普通文件,并刪除他們
    find /var/log/ -type f -mtime +7 -exec rm {} \;
    #找出用戶test擁有的文件,并將他們拷貝到/root/test目錄中
    find / -user test -exec cp {} /root/test \;
    6、sort命令:對(duì)文件中的各行進(jìn)行排序
    sort命令將逐行對(duì)文件中的內(nèi)容進(jìn)行排序,如果兩行的首字符相同,該命令將繼續(xù)比較這兩行的下一字符,如果還相同,將繼續(xù)進(jìn)行比較.
    格式:sort [選項(xiàng)] 文件
    主要選項(xiàng):
    -r:倒序排序,默認(rèn)是升序。
    -n:按數(shù)值大小進(jìn)行排序
    -k:KeyDefinition 指定排序關(guān)鍵字。?
    -t:Character 指定 Character 作為字段分隔符
    -d:使用字典順序排序。比較中僅考慮字母、數(shù)字和空格
    -f:將小寫(xiě)字母與大寫(xiě)字母同等對(duì)待
    -u:去掉重復(fù)的行,使文件中的每一行唯一
    7、uniq命令:刪除文件中的重復(fù)行
    文件經(jīng)過(guò)處理后在它的輸出文件中可能會(huì)出現(xiàn)重復(fù)的行。例如,使用cat命令將兩個(gè)文件合并后,再使用sort命令進(jìn)行排序,就可能出現(xiàn)重復(fù)行。這時(shí)可以使用uniq命令將這些重復(fù)行從輸出文件中刪除,只留下每條記錄的唯一樣本。
    格式:uniq [選項(xiàng)] 文件
    主要選項(xiàng):
    -c:顯示行號(hào)
    -d:只顯示重復(fù)行。
    -u:只顯示文件中不重復(fù)的各行。
    8、cut命令:顯示文件中每行的指定內(nèi)容
    格式:cut -d 分隔字符 [-cf] fields
    -d:后面接的是分隔字符,默認(rèn)情況下為T(mén)ab;
    -c:后面接的是第幾個(gè)字符
    -f:后面接的 是第幾個(gè)區(qū)塊
    #列出/etc/passwd文件中的所有用戶,按照升序排列
    cut -d : -f 1 /etc/passwd | sort
    #顯示/etc/passwd文件下uid為0的用戶名以及uid。
    cut -d : -f 1,3/etc/passwd|grep ':0$'
    正則表達(dá)式'$'表示以字符結(jié)尾,'^'表示以某字符開(kāi)始。
    9、tr命令:從標(biāo)準(zhǔn)輸入刪除或替換字符,可以看為sed簡(jiǎn)化軟件
    常用選項(xiàng)的tr命令格式為:
    -d 刪除字符串1中所有輸入字符。
    -s 刪除所有重復(fù)出現(xiàn)字符序列,只保留第一個(gè)。?
    #將小寫(xiě)字符轉(zhuǎn)換成大寫(xiě)
    tr 'a-z' 'A-Z' < file
    #將文件中刪除所有空字符
    tr –d ‘\0’< file
    #刪除文件中shell字符
    cat test | tr -d 'shell'
    #將文件中所有abc字符替換efg并另存為新文件
    cat test | tr 'abc' 'efg' >new file
    10、其他文本處理命令
    cat:從頭開(kāi)始顯示內(nèi)容,并將所有內(nèi)容輸出
    常用參數(shù),-n顯示輸出的行數(shù)編號(hào)
    tac:從最后一行倒序顯示內(nèi)容,并將所有內(nèi)容輸出
    head:默認(rèn)顯示頭10行,-n指定顯示多少行數(shù)
    tail:默認(rèn)顯示最后10行,-n指定顯示多少行數(shù),-f實(shí)時(shí)顯示內(nèi)容
    more:分屏查看文本文件
    less:和more類似,但可以往前翻頁(yè)
    nl:顯示時(shí)輸出行號(hào)
    wc:計(jì)算文件的字節(jié)數(shù)、單詞數(shù)和行數(shù)
    常用參數(shù):-c統(tǒng)計(jì)字節(jié)數(shù),-l統(tǒng)計(jì)行數(shù),-m統(tǒng)計(jì)字符數(shù)


    其他

    內(nèi)容目錄:

    • find 文件查找
    • grep 文本搜索
    • xargs 命令行參數(shù)轉(zhuǎn)換
    • sort 排序
    • uniq 消除重復(fù)行
    • 用tr進(jìn)行轉(zhuǎn)換
    • cut 按列切分文本
    • paste 按列拼接文本
    • wc 統(tǒng)計(jì)行和字符的工具
    • sed 文本替換利器
    • awk 數(shù)據(jù)流處理工具
    • 迭代文件中的行、單詞和字符

    本文將介紹Linux下使用Shell處理文本時(shí)最常用的工具:
    find、grep、xargs、sort、uniq、tr、cut、paste、wc、sed、awk;
    提供的例子和參數(shù)都是最常用和最為實(shí)用的;
    我對(duì)shell腳本使用的原則是命令單行書(shū)寫(xiě),盡量不要超過(guò)2行;
    如果有更為復(fù)雜的任務(wù)需求,還是考慮python吧;

    find 文件查找

    • 查找txt和pdf文件

      find . \( -name "*.txt" -o -name "*.pdf" \) -print
    • 正則方式查找.txt和pdf

      find . -regex ".*\(\.txt|\.pdf\)$"

      -iregex: 忽略大小寫(xiě)的正則

    • 否定參數(shù)
      查找所有非txt文本

      find . ! -name "*.txt" -print
    • 指定搜索深度
      打印出當(dāng)前目錄的文件(深度為1)

      find . -maxdepth 1 -type f

    定制搜索

    • 按類型搜索:

      find . -type d -print //只列出所有目錄

      -type f 文件 / l 符號(hào)鏈接

    • 按時(shí)間搜索:
      -atime 訪問(wèn)時(shí)間 (單位是天,分鐘單位則是-amin,以下類似)
      -mtime 修改時(shí)間 (內(nèi)容被修改)
      -ctime 變化時(shí)間 (元數(shù)據(jù)或權(quán)限變化)
      最近7天被訪問(wèn)過(guò)的所有文件:

      find . -atime 7 -type f -print
    • 按大小搜索:
      w字 k M G
      尋找大于2k的文件

      find . -type f -size +2k

      按權(quán)限查找:

      find . -type f -perm 644 -print //找具有可執(zhí)行權(quán)限的所有文件

      按用戶查找:

      find . -type f -user weber -print// 找用戶weber所擁有的文件

    找到后的后續(xù)動(dòng)作

    • 刪除:
      刪除當(dāng)前目錄下所有的swp文件:

      find . -type f -name "*.swp" -delete
    • 執(zhí)行動(dòng)作(強(qiáng)大的exec)

      find . -type f -user root -exec chown weber {} \; //將當(dāng)前目錄下的所有權(quán)變更為weber

      注:{}是一個(gè)特殊的字符串,對(duì)于每一個(gè)匹配的文件,{}會(huì)被替換成相應(yīng)的文件名;
      eg:將找到的文件全都copy到另一個(gè)目錄:

      find . -type f -mtime +10 -name "*.txt" -exec cp {} OLD \;
    • 結(jié)合多個(gè)命令
      tips: 如果需要后續(xù)執(zhí)行多個(gè)命令,可以將多個(gè)命令寫(xiě)成一個(gè)腳本。然后 -exec 調(diào)用時(shí)執(zhí)行腳本即可;

      -exec ./commands.sh {} \;

    -print的定界符

    默認(rèn)使用'\n'作為文件的定界符;
    -print0 使用'\0'作為文件的定界符,這樣就可以搜索包含空格的文件;

    grep 文本搜索

    grep match_patten file // 默認(rèn)訪問(wèn)匹配行

    • 常用參數(shù)
      -o 只輸出匹配的文本行?VS?-v 只輸出沒(méi)有匹配的文本行
      -c 統(tǒng)計(jì)文件中包含文本的次數(shù)

      grep -c "text" filename

      -n 打印匹配的行號(hào)
      -i 搜索時(shí)忽略大小寫(xiě)
      -l 只打印文件名

    • 在多級(jí)目錄中對(duì)文本遞歸搜索(程序員搜代碼的最愛(ài)):

      grep "class" . -R -n
    • 匹配多個(gè)模式 grep -e "class" -e "vitural" file
    • grep輸出以\0作為結(jié)尾符的文件名:(-z) grep "test" file* -lZ| xargs -0 rm

    xargs 命令行參數(shù)轉(zhuǎn)換

    xargs 能夠?qū)⑤斎霐?shù)據(jù)轉(zhuǎn)化為特定命令的命令行參數(shù);這樣,可以配合很多命令來(lái)組合使用。比如grep,比如find;

    • 將多行輸出轉(zhuǎn)化為單行輸出
      cat file.txt| xargs
      \n 是多行文本間的定界符

    • 將單行轉(zhuǎn)化為多行輸出
      cat single.txt | xargs -n 3
      -n:指定每行顯示的字段數(shù)

    xargs參數(shù)說(shuō)明

    -d 定義定界符 (默認(rèn)為空格 多行的定界符為 \n)
    -n 指定輸出為多行
    -I {} 指定替換字符串,這個(gè)字符串在xargs擴(kuò)展時(shí)會(huì)被替換掉,用于待執(zhí)行的命令需要多個(gè)參數(shù)時(shí)
    eg:

    cat file.txt | xargs -I {} ./command.sh -p {} -1

    -0:指定\0為輸入定界符
    eg:統(tǒng)計(jì)程序行數(shù)

    find source_dir/ -type f -name "*.cpp" -print0 |xargs -0 wc -l

    sort 排序

    字段說(shuō)明:
    -n 按數(shù)字進(jìn)行排序 VS -d 按字典序進(jìn)行排序
    -r 逆序排序
    -k N 指定按第N列排序
    eg:

    sort -nrk 1 data.txt sort -bd data // 忽略像空格之類的前導(dǎo)空白字符

    uniq 消除重復(fù)行

    • 消除重復(fù)行 sort unsort.txt | uniq
    • 統(tǒng)計(jì)各行在文件中出現(xiàn)的次數(shù) sort unsort.txt | uniq -c
    • 找出重復(fù)行 sort unsort.txt | uniq -d 可指定每行中需要比較的重復(fù)內(nèi)容:-s 開(kāi)始位置 -w 比較字符數(shù)

    用tr進(jìn)行轉(zhuǎn)換

    • 通用用法

      echo 12345 | tr '0-9' '9876543210' //加解密轉(zhuǎn)換,替換對(duì)應(yīng)字符cat text| tr '\t' ' ' //制表符轉(zhuǎn)空格
    • tr刪除字符

      cat file | tr -d '0-9' // 刪除所有數(shù)字

      -c 求補(bǔ)集

      cat file | tr -c '0-9' //獲取文件中所有數(shù)字cat file | tr -d -c '0-9 \n' //刪除非數(shù)字?jǐn)?shù)據(jù)
    • tr壓縮字符
      tr -s 壓縮文本中出現(xiàn)的重復(fù)字符;最常用于壓縮多余的空格

      cat file | tr -s ' '
    • 字符類
      tr中可用各種字符類:
      alnum:字母和數(shù)字
      alpha:字母
      digit:數(shù)字
      space:空白字符
      lower:小寫(xiě)
      upper:大寫(xiě)
      cntrl:控制(非可打印)字符
      print:可打印字符
      使用方法:tr [:class:] [:class:]

      eg: tr '[:lower:]' '[:upper:]'

    cut 按列切分文本

    • 截取文件的第2列和第4列: cut -f2,4 filename
    • 去文件除第3列的所有列: cut -f3 --complement filename
    • -d 指定定界符: cat -f2 -d";" filename
    • cut 取的范圍
      N- 第N個(gè)字段到結(jié)尾
      -M 第1個(gè)字段為M
      N-M N到M個(gè)字段
    • cut 取的單位
      -b 以字節(jié)為單位
      -c 以字符為單位
      -f 以字段為單位(使用定界符)
    • eg: cut -c1-5 file //打印第一到5個(gè)字符cut -c-2 file //打印前2個(gè)字符

    paste 按列拼接文本

    將兩個(gè)文本按列拼接到一起;

    cat file1 1 2cat file2 colin bookpaste file1 file2 1 colin 2 book

    默認(rèn)的定界符是制表符,可以用-d指明定界符
    paste file1 file2 -d ","
    1,colin
    2,book

    wc 統(tǒng)計(jì)行和字符的工具

    wc -l file // 統(tǒng)計(jì)行數(shù)
    wc -w file // 統(tǒng)計(jì)單詞數(shù)
    wc -c file // 統(tǒng)計(jì)字符數(shù)

    sed 文本替換利器

    • 首處替換 seg 's/text/replace_text/' file //替換每一行的第一處匹配的text
    • 全局替換

      seg 's/text/replace_text/g' file

      默認(rèn)替換后,輸出替換后的內(nèi)容,如果需要直接替換原文件,使用-i:

      seg -i 's/text/repalce_text/g' file
    • 移除空白行:

      sed '/^$/d' file
    • 變量轉(zhuǎn)換
      已匹配的字符串通過(guò)標(biāo)記&來(lái)引用.

      echo this is en example | seg 's/\w+/[&]/g' $>[this] [is] [en] [example]
    • 子串匹配標(biāo)記
      第一個(gè)匹配的括號(hào)內(nèi)容使用標(biāo)記 \1 來(lái)引用

      sed 's/hello\([0-9]\)/\1/'
    • 雙引號(hào)求值
      sed通常用單引號(hào)來(lái)引用;也可使用雙引號(hào),使用雙引號(hào)后,雙引號(hào)會(huì)對(duì)表達(dá)式求值:

      sed 's/$var/HLLOE/'

      當(dāng)使用雙引號(hào)時(shí),我們可以在sed樣式和替換字符串中指定變量;

      eg: p=patten r=replaced echo "line con a patten" | sed "s/$p/$r/g" $>line con a replaced
    • 其它示例
      字符串插入字符:將文本中每行內(nèi)容(PEKSHA) 轉(zhuǎn)換為 PEK/SHA

      sed 's/^.\{3\}/&\//g' file

    awk 數(shù)據(jù)流處理工具

    • awk腳本結(jié)構(gòu)
      awk ' BEGIN{ statements } statements2 END{ statements } '

    • 工作方式
      1.執(zhí)行begin中語(yǔ)句塊;
      2.從文件或stdin中讀入一行,然后執(zhí)行statements2,重復(fù)這個(gè)過(guò)程,直到文件全部被讀取完畢;
      3.執(zhí)行end語(yǔ)句塊;

    • 使用不帶參數(shù)的print時(shí),會(huì)打印當(dāng)前行;

      echo -e "line1\nline2" | awk 'BEGIN{print "start"} {print } END{ print "End" }'
    • print 以逗號(hào)分割時(shí),參數(shù)以空格定界;

      echo | awk ' {var1 = "v1" ; var2 = "V2"; var3="v3"; \ print var1, var2 , var3; }' $>v1 V2 v3
    • 使用-拼接符的方式(""作為拼接符); echo | awk ' {var1 = "v1" ; var2 = "V2"; var3="v3"; \ print var1"-"var2"-"var3; }' $>v1-V2-v3

    特殊變量: NR NF $0 $1 $2

    NR:表示記錄數(shù)量,在執(zhí)行過(guò)程中對(duì)應(yīng)當(dāng)前行號(hào);
    NF:表示字段數(shù)量,在執(zhí)行過(guò)程總對(duì)應(yīng)當(dāng)前行的字段數(shù);
    $0:這個(gè)變量包含執(zhí)行過(guò)程中當(dāng)前行的文本內(nèi)容;
    $1:第一個(gè)字段的文本內(nèi)容;
    $2:第二個(gè)字段的文本內(nèi)容;

    echo -e "line1 f2 f3\n line2 \n line 3" | awk '{print NR":"$0"-"$1"-"$2}'
    • 打印每一行的第二和第三個(gè)字段: awk '{print $2, $3}' file
    • 統(tǒng)計(jì)文件的行數(shù):

      awk ' END {print NR}' file
    • 累加每一行的第一個(gè)字段:

      echo -e "1\n 2\n 3\n 4\n" | awk 'BEGIN{num = 0 ;print "begin";} {sum += $1;} END {print "=="; print sum }'

    傳遞外部變量

    var=1000 echo | awk '{print vara}' vara=$var # 輸入來(lái)自stdin awk '{print vara}' vara=$var file # 輸入來(lái)自文件

    用樣式對(duì)awk處理的行進(jìn)行過(guò)濾

    awk 'NR < 5' #行號(hào)小于5
    awk 'NR==1,NR==4 {print}' file #行號(hào)等于1和4的打印出來(lái)
    awk '/linux/' #包含linux文本的行(可以用正則表達(dá)式來(lái)指定,超級(jí)強(qiáng)大)
    awk '!/linux/' #不包含linux文本的行

    設(shè)置定界符

    使用-F來(lái)設(shè)置定界符(默認(rèn)為空格)
    awk -F: '{print $NF}' /etc/passwd

    讀取命令輸出

    使用getline,將外部shell命令的輸出讀入到變量cmdout中;

    echo | awk '{"grep root /etc/passwd" | getline cmdout; print cmdout }'

    在awk中使用循環(huán)

    for(i=0;i<10;i++){print $i;}
    for(i in array){print array[i];}

    eg:
    以逆序的形式打印行:(tac命令的實(shí)現(xiàn))

    seq 9| \ awk '{lifo[NR] = $0; lno=NR} \ END{ for(;lno>-1;lno--){print lifo[lno];} } '

    awk實(shí)現(xiàn)head、tail命令

    • head:

      awk 'NR<=10{print}' filename
    • tail:

      awk '{buffer[NR%10] = $0;} END{for(i=0;i<11;i++){ \print buffer[i %10]} } ' filename

    打印指定列

    • awk方式實(shí)現(xiàn): ls -lrt | awk '{print $6}'
    • cut方式實(shí)現(xiàn) ls -lrt | cut -f6

    打印指定文本區(qū)域

    • 確定行號(hào) seq 100| awk 'NR==4,NR==6{print}'
    • 確定文本
      打印處于start_pattern 和end_pattern之間的文本; awk '/start_pattern/, /end_pattern/' filename eg: seq 100 | awk '/13/,/15/' cat /etc/passwd| awk '/mai.*mail/,/news.*news/'

    awk常用內(nèi)建函數(shù)

    index(string,search_string):返回search_string在string中出現(xiàn)的位置
    sub(regex,replacement_str,string):將正則匹配到的第一處內(nèi)容替換為replacement_str;
    match(regex,string):檢查正則表達(dá)式是否能夠匹配字符串;
    length(string):返回字符串長(zhǎng)度

    echo | awk '{"grep root /etc/passwd" | getline cmdout; print length(cmdout) }'

    printf 類似c語(yǔ)言中的printf,對(duì)輸出進(jìn)行格式化
    eg:

    seq 10 | awk '{printf "->%4s\n", $1}'

    迭代文件中的行、單詞和字符

    1. 迭代文件中的每一行

    • while 循環(huán)法

      while read line; do echo $line; done < file.txt 改成子shell: cat file.txt | (while read line;do echo $line;done)
    • awk法:
      cat file.txt| awk '{print}'

    2.迭代一行中的每一個(gè)單詞

    for word in $line; do echo $word; done

    3. 迭代每一個(gè)字符

    ${string:start_pos:num_of_chars}:從字符串中提取一個(gè)字符;(bash文本切片)
    ${#word}:返回變量word的長(zhǎng)度

    for((i=0;i<${#word};i++)) do echo ${word:i:1); done

    本文為《linux Shell腳本攻略》的讀書(shū)筆記,文中主要內(nèi)容和示例來(lái)自于
    《linux Shell腳本攻略》;



    總結(jié)

    以上是生活随笔為你收集整理的linux中的文本处理方法集锦的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。

    如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò),歡迎將生活随笔推薦給好友。