日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程语言 > java >内容正文

java

如何用Java来进行文件切割和简单的内容过滤

發布時間:2023/12/29 java 30 豆豆
生活随笔 收集整理的這篇文章主要介紹了 如何用Java来进行文件切割和简单的内容过滤 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

一 由來

去年由于項目的需求,要將一個任意一個文件制作成一個xml文件,并且需要保持文件內容本身不產生變化,還要能夠將這個xml重新還原為原文件。如果小型的文件還好處理,大型的xml,比如幾個G的文件,基本上就OOM了,很難直接從節點中提取數據。所以我采用了流的方式。于是有了這個文件的裁剪工具。

二 使用場景

本工具可能的使用場景:
1.對任一文件的切割/裁剪。通過字節流的方式,開始節點和終止節點,裁剪出兩個節點之間的部分。
2.往任一文件的頭/尾拼接指定字符串。可以很容易將一個文件嵌入在某一個節點中。
3.簡單的文本抽取。可以根據自己定義的規則,提取出來想要的文本內容,并且允許對提取出來的文本進行再處理(當然,只是進行簡單地抽取文字,并不是什么智能的復雜過程的抽取T_T )。
4.文本過濾。根據自己制定的規則,過濾掉指定的文字。

整個工具僅是對java文件操作api的簡單加工,并且也沒有使用nio。在需要高效率的文件處理情景下,本工具的使用有待考量。文章目的是為了給出自己的一種解決方案,若有更好的方案,歡迎大家給出適當的建議。

三 如何使用

別的先不說,來看看如何使用吧!

1.讀取文件指定片段
讀取第0~1048個字節之間的內容。

public void readasbytes(){FileExtractor cuter = new FileExtractor();byte[] bytes = cuter.from("D:\\11.txt").start(0).end(1048).readAsBytes();}

2.文件切割
將第0~1048個字節之間的部分切割為一個新文件。

public File splitAsFile(){FileExtractor cuter = new FileExtractor();return cuter.from("D:\\11.txt").to("D:\\22.txt").start(0).end(1048).extractAsFile();}

3.將文件拼接到一個xml節點中
將整個文件的內容作為Body節點,寫入到一個xml文件中。返回新生成的xml文件對象。

public File appendText(){FileExtractor cuter = new FileExtractor();return cuter.from("D:\\11.txt").to("D:\\44.xml").appendAsFile("<Document><Body>", "</Body></Document>");}

4.讀取并處理文件中的指定內容
假如有需求:讀取11.txt的前三行文字。其中,第一行和第二行不能出現”帥”字,并且在第三行文字后加上字符串“我好帥!”。

public String extractText(){FileExtractor cuter = new FileExtractor();return cuter.from("D:\\11.txt").extractAsString(new EasyProcesser() {@Overridepublic String finalStep(String line, int lineNumber, Status status) {if(lineNumber==3){status.shouldContinue = false;//表示不再繼續讀取文件內容return line+"我好帥!";}return line.replaceAll("帥","");}});}

4.簡單的文本過濾
將一個文件中所有的“bug”去掉,且返回一個處理后的新文件。

public File killBugs(){FileExtractor cuter = new FileExtractor();return cuter.from("D:\\bugs.txt").to("D:\\nobug.txt").extractAsFile(new EasyProcesser() {@Overridepublic String finalStep(String line, int lineNumber, Status status) {return line.replaceAll("bug", "");}}); }

四 基本流程

通過接口回調的方式,將文件的讀取過程和處理過程分離開來;定義了IteratorFile類來負責遍歷一個文件,讀取文件的內容;分字節、行兩種的方式來進行文件內容的遍歷。下面的介紹,也會分為讀取和處理兩個部分單獨介紹。

五 文件的讀取

定義回調接口

定義一個接口Process,對外暴露了兩個文件內容處理方法,一個支持按字節進行讀取,一個方法支持按行讀取。

public interface Process{/*** @param b 本次讀取的數據* @param length 本次讀取的有效長度* @param currentIndex 當前讀取到的位置* @param available 讀取文件的總長度* @return true 表示繼續讀取文件,false表示終止讀取文件* @time 2017年1月22日 下午4:56:41*/public boolean doWhat(byte[] b,int length,int currentIndex,int available);/*** * @param line 本次讀取到的行* @param currentIndex 行號* @return true 表示繼續讀取文件,false表示終止讀取文件* @time 2017年1月22日 下午4:59:03*/public boolean doWhat(String line,int currentIndex);

讓ItratorFile中本身實現這個接口,但是默認都是返回true,不做任何的處理。如下所示:

public class IteratorFile implements Process { ...... /*** 按照字節來讀取遍歷文件內容,根據自定義需要重寫該方法*/@Overridepublic boolean doWhat(byte[] b, int length,int currentIndex,int available) {return true;}/*** 按照行來讀取遍歷文件內容,根據自定義需要重寫該方法*/@Overridepublic boolean doWhat(String line,int currentIndex) {return true;} ...... }

按字節遍歷文件內容

實現按照字節的方式來進行文件的遍歷(讀取)。在這里使用了skip()方法來控制從第幾個節點開始讀取內容;然后在使用文件流讀取的時候,將每次讀取到得數據傳遞給回調接口的方法;需要注意的是,每次讀取到得數據是存在一個字節數組bytes里面的,每次讀取的長度也是需要傳遞給回調接口的。我們很容易看出,一旦dowhat()返回false,文件的讀取立即就退出了。

public void iterator2Bytes(){init();int length = -1;FileInputStream fis = null;try {file = new File(in);fis = new FileInputStream(file);available = fis.available();fis.skip(getStart());readedIndex = getStart();if (!beforeItrator()) return;while ((length=fis.read(bytes))!=-1) {readedIndex+=length;if(!doWhat(bytes, length,readedIndex,available)){break;}}if(!afterItrator()) return;} catch (FileNotFoundException e) {e.printStackTrace();} catch (IOException e) {e.printStackTrace();}finally{try {fis.close();} catch (IOException e) {e.printStackTrace();}}}

按行來遍歷文件內容

常規的文件讀取方式,在while循環中,調用了回調接口的方法,并且傳遞相關的數據。

public void iterator2Line(){init();BufferedReader reader = null;FileReader read = null;String line = null;try {file = new File(in);read = new FileReader(file);reader = new BufferedReader(read);if (!beforeItrator()) return;while ( null != (line=reader.readLine())) {readedIndex++;if(!doWhat(line,readedIndex)){break;}}if(!afterItrator()) return ;} catch (FileNotFoundException e) {e.printStackTrace();} catch (IOException e) {e.printStackTrace();}finally{try {read.close();reader.close();} catch (IOException e) {e.printStackTrace();}}}

然后,還需要提供方法來設置要讀取的源文件路徑。

public IteratorFile from(String in){this.in = in;return this;}

六 文件內容處理

FileExtractor介紹

定義了FileExtractor類,來封裝對文件內容的處理操作;該類會引用到遍歷文件所需要的類IteratorFile。

FileExtractor的基本方法

/*** 往文件頭或者文件結尾插入字符串* @tips 不能對同一個文件輸出路徑反復執行該方法,否則會出現文本異常,因為用到了RandomAccessFile,如有需要,調用前需手動刪除原有的同名文件* @param startStr 文件開頭要插入的字符串* @param endStr 文件結尾要插入的字符串* @return 生成的新文件* @time 2017年1月22日 下午5:05:35*/public File appendAsFile(final String startStr,String endStr){}/*** 從指定位置截取文件* @tips 適合所有的文件類型* @return* @time 2017年1月22日 下午5:06:36*/public File splitAsFile(){}/*** 文本文件的特殊處理(情景:文本抽取,文本替換等)* @tips 只適合文本文件,對于二進制文件,因為換行符的原因導致文件出現可能無法執行等問題。* @time 2017年1月22日 下午5:09:14*/public File extractAsFile(FlowLineProcesser method) {/*** 文本文件的特殊處理(情景:文本抽取,文本替換等)* @tips 只適合文本文件,對于二進制文件,因為換行符的原因導致文件出現可能無法執行等問題。* @time 2017年1月22日 下午5:09:14*/public String extractAsString(FlowLineProcesser method) {}/*** 讀取指定位置的文件內容為字節數組* @return* @time 2017年1月23日 上午11:06:18*/public byte[] readAsBytes(){}

其中,返回值為File的方法在處理完成后,都出返回一個經過內容后的新文件。

其他方法

同樣,設置源文件位置的方法,以及截取位置的相關方法

/*** 設置源文件*/public FileExtractor from(String in){this.in = in;return this;}/*** 設置生成臨時文件的位置(返回值為File的方法均需要設置)*/public FileExtractor to(String out) {this.out = out;return this;}/*** 文本開始截取的位置(包含此位置),字節相關的方法均需要設置*/public FileExtractor start(int start){this.startPos = start;return this;}/*** 文本截取的終止位置(包含此位置),字節相關方法均需要設置*/public FileExtractor end(int end) {this.endPos = end;return this;}

按字節讀取文件時的文件內容處理

有幾個重點:

1.因為要根據字節的位置來進行文件截取,所以需要根據字節來遍歷文件,所以要重寫doWhat()字節遍歷的的方法。并在外部構造一個OutPutStream來進行新文件的寫出工作。

2.每次遍歷讀取出的文件內容,都存放在一個字節數組b里面,但并不是b中的數據都是有用的,所以需要傳遞b有效長度length。

3.readedIndex記錄了到本次為止(包括本次)為止,已經讀取了多少位數據。

4.按照自己來遍歷文件時,如何判斷讀取到了的終止位置?
當(已讀的數據總長度)readedIndex>endPos(終止節點)時,說明本次讀取的時候超過了應該終止的位置,此時b數組中有一部分數據就是多讀的了,這部分數據是不應該被保存的。我們可以通過計算得到讀超了多少位,即length-(readedIndex-endPos-1),那么只要保存這部分數據就可以了。

讀取指定片段的文件內容:

//本方法在需要讀取的數據多時,不建議使用,因為byte[]是不可變的,多次讀取的時候,需要進行多次的byete[] copy過程,效率“感人”。public byte[] readAsBytes(){try {checkIn();} catch (Exception e) {e.printStackTrace();return null;}//臨時保存字節的容器final BytesBuffer buffer = new BytesBuffer();IteratorFile c = new IteratorFile(){@Overridepublic boolean doWhat(byte[] b, int length, int currentIndex,int available) {if(readedIndex>endPos){//說明已經讀取到了endingPos位置并且讀超了buffer.addBytes(b, 0, length-(readedIndex-endPos-1)-1);return false;}else{buffer.addBytes(b, 0, length-1);}return true;}};//按照字節進行遍歷c.from(in).start(startPos).iterator2Bytes();return buffer.toBytes();}

當文件很大時,生成一個新的文件的比較靠譜的方法,所以,類似直接返回byte[],在文件讀取之前,設置一個outputSteam,在內容循環讀取的過程中,將讀取的內容寫入到一個新文件中去。

public File splitAsFile(){......final OutputStream os = FileUtils.openOut(file);try {IteratorFile itFile = new IteratorFile(){@Overridepublic boolean doWhat(byte[] b, int length,int readedIndex,int available) {try {if(readedIndex>endPos){//說明已經讀取到了endingPos位置,并且讀超了readedIndex-getEnd()-1位os.write(b, 0, length-(readedIndex-endPos-1));return false;//終止讀取}else{os.write(b, 0, length);}return true;} catch (IOException e) {e.printStackTrace();return false;}}}.from(in).start(startPos);itFile.iterator2Bytes();} catch (Exception e) {e.printStackTrace();this.tempFile = null;}finally{try {os.flush();os.close();} catch (IOException e) {e.printStackTrace();}}return getTempFile();}

按行來讀取時的文件內容處理

首先,再次聲明,按行來遍歷文件的時候,只適合文本文件。除非你對每一行的換行符用\r還是\n沒有要求。像exe文件,如果用行來遍歷的話,你寫出為一個新的文件的時候,任意一個的換行符的不對都可能導致一個exe文件變為”unexe”文件!

過程中,我用到了:

一個輔助類Status,來輔助控制遍歷的流程。
一個接口FlowLineProcesser,類似于一個處理文本的流水線。

Status和FlowLineProcesser是相互輔助的,Status也能輔助FlowLineProcesse是流水線的具體過程,Status是控制處理過程中怎么處理d的。

我也想了許多次,到底要不要把這個過程搞的這么復雜。但是還是先留著吧…

先看輔助類Status:

public class Status{/*** 是否找到了開頭,默認false,若true則后續的遍歷不會執行相應的firstStep()方法*/public boolean overFirstStep = false;/*** 是否找到了結尾,默認false,若true則后續的遍歷不會執行相應的finalStep()方法*/public boolean overFinalStep = false;/*** 是否繼續讀取源文件,默認true表示繼續讀取,false則表示,執行本次操作后,遍歷終止*/public boolean shouldContinue = true; }

然后是FlowLineProcesser接口:

FlowLineProcesser是一個接口,類似于一個流水線。定義了兩步操作,分別對應兩個方法fistStep()和finalStep()。其中兩個方法的返回值都是String,firstStep接受到得line是真正從文件中讀取到的行,它將line經過自己的處理后,返回處理后的line給finalStep。所以,finalStep中得line其實是firstStep處理后的結果。但是最終真正返回給主處理流程的line,正是finalStep處理后的返回值。

public interface FlowLineProcesser{/*** * @param line 讀取到的行* @param lineNumber 行號,從1開始* @param status 控制器* @return* @time 2017年1月22日 下午5:02:02*/String firstStep(String line,int lineNumber,Status status);/*** @tips * @param line 讀取到的行(是firstStep()處理后的結果)* @param lineNumber 行號,從1開始* @param status 控制器* @return* @time 2017年1月22日 下午5:02:09*/String finalStep(String line,int lineNumber,Status status); }

現在,可以來看一下如何去實現文本的抽取了:
所有讀取的行,都臨時存到一個stringbuilder中去。firstStep先進行一次處理,得到返回值后傳遞給finalStep,再次處理后,將得到的結果保存下來。如果最后的結果是null,則不會保存。

public String extractAsString(FlowLineProcesser method) {try {checkIn();} catch (Exception e) {e.printStackTrace();return null;}final StringBuilder builder = new StringBuilder();this.mMethod = method;new IteratorFile(){Status status = new Status();@Overridepublic boolean doWhat(String line, int currentIndex) {String lineAfterProcess = "";if(!status.overFirstStep){lineAfterProcess = mMethod.firstStep(line, currentIndex,status);}if(!status.shouldContinue){return false;}if(!status.overFinalStep){lineAfterProcess = mMethod.finalStep(lineAfterProcess,currentIndex,status);}if(lineAfterProcess!=null){builder.append(lineAfterProcess);builder.append(getLineStr());//換行符被寫死在這里了}if(!status.shouldContinue){return false;}return true;}}.from(in).iterator2Line();return builder.toString();}

當要抽取的文本太大的時候,可以采用生成新文件的方式。與返回string的流程基本一致。

public File extractAsFile(FlowLineProcesser method) {try {checkIn();checkOut();} catch (Exception e) {e.printStackTrace();return null;}this.mMethod = method;File file = initOutFile();if(file==null){return null;}FileWriter fileWriter = null;try {fileWriter = new FileWriter(file);} catch (Exception e) {e.printStackTrace();return null;}final BufferedWriter writer = new BufferedWriter(fileWriter);IteratorFile itfile = new IteratorFile(){Status status = new Status();@Overridepublic boolean doWhat(String line, int currentIndex) {String lineAfterProcess = "";if(!status.overFirstStep){lineAfterProcess = mMethod.firstStep(line, currentIndex,status);}if(!status.shouldContinue){return false;}if(!status.overFinalStep){lineAfterProcess = mMethod.finalStep(lineAfterProcess,currentIndex,status);}if(lineAfterProcess!=null){try {writer.write(lineAfterProcess);writer.newLine();//TODO 換行符在此給寫死了} catch (IOException e) {e.printStackTrace();return false;}}if(!status.shouldContinue){return false;}return true;}};itfile.from(in).iterator2Line();if(writer!=null){try {writer.close();} catch (IOException e) {e.printStackTrace();}}try {fileWriter.close();} catch (IOException e) {e.printStackTrace();}return getTempFile();}

好啦,介紹到此就要結束啦,我們下次再聊~

代碼包供您下載哦!—> 代碼包

總結

以上是生活随笔為你收集整理的如何用Java来进行文件切割和简单的内容过滤的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。