python 对比文件内容差异_使用Python来比较文件夹并提取差异部分
在客戶那邊建庫,需要把幾百個G幾十萬個文件導入到Oracle里,好不容易導完了才發現中間缺了好幾大塊數據,約有四分之一吧,郁悶得很。
數據是客戶從第三方買的,據客戶分析是拷貝過來的時候有部分數據漏掉了,但漏掉的數據又沒有什么規律,加之文件夾的嵌套層數很多,查找起來很困難。
客戶又從第三方那邊拷了一份全的數據,現在對這個問題有兩種處理方案,一種是全部重新導一遍,大約得花一周多的時間;另一種方案是把兩個數據的差異找出來,把差異的部分追加進去就行了。
項目的時間比較緊張了,只能選第二種方案,可如何把差異的數據找出來呢,試了幾個文件夾比較的工具,處理幾百兆的數據都吃力,更不必說這么大量的數據和文件了。
后來想了想,覺得Python解決這個問題比較方便,就研究了一下Python里的文件和目錄操作,很快就完成了下面的一個腳本,可以很好地解決這個問題。
下面的腳本可以在Python24里很好地運行,在其他版本里沒有測試,但用的都是基本功能,應該沒有什么問題。
代碼里的PathA是全的數據的文件夾,PathB是不全的數據的文件夾,PathC是個新的空目錄,腳本執行完后就把PathA中有且pathB中沒有的文件和目錄都寫到PathC里了,還可以保持原來的目錄結構,速度和正確性都很令人滿意。
因為是急用的代碼,所以寫得不很簡潔,也不是很規范,在此留志,一方面供自己以后參考,另一方面也提供給需要使用Python進行文件和目錄操作的兄弟們共同參考。
代碼如下:
# coding: GB2312
#系統模塊
import sys
import os
import shutil
#用于文件查找的模塊
from os.path import walk, join, normpath
#這個是完整的文件夾
PathA = "F:\\FullData\\"
#這個是缺文件的文件夾
PathB = "F:\\IncomplData\\"
#這個是目標文件夾
PathC = "F:\\DiffData\\"
#============================================================
#這個函數是用來遞歸處理PathA,對PathA里的每個文件和文件夾在PathB中找是否有對應的文件或文件夾
#若找不到,則在PathC中創建目錄并拷貝文件
#拷貝文件時使用了shutil模塊的copy2函數,以保留文件原來的創建時間和最后更新時間
def visit(arg, dirname, names):
#把目錄打印出來,以監視進度
print dirname
#得到路徑名后,把前面的主路徑名去掉
dir=dirname.replace(PathA,"")
dirnameB = os.path.join(PathB,dir)
dirnameC = os.path.join(PathC,dir)
if os.path.isdir(dirnameB):
#若PathB里存在對應的文件夾,再逐個文件判斷是否存在
for file in names:
if os.path.isfile(os.path.join(dirname,file)) and not os.path.isfile(os.path.join(dirnameB,file)):
if not os.path.isdir(dirnameC):
os.system("mkdir %s"%(dirnameC))
shutil.copy2(os.path.join(dirname,file), os.path.join(dirnameC,file))
elif os.path.isdir(os.path.join(dirname,file)) and not os.path.isdir(os.path.join(dirnameB,file)):
if not os.path.isdir(os.path.join(dirnameC,file)):
os.system("mkdir %s"%(os.path.join(dirnameC,file)))
else:
#若pathB里不存在對應的文件夾,則在pathC里創建對應的文件夾并拷貝文件
if not os.path.isdir(dirnameC):
os.system("mkdir %s"%(dirnameC))
for file in names:
shutil.copy2(os.path.join(dirname,file), os.path.join(dirnameC,file))
#============================================================
if __name__=="__main__":
#這一行代碼調用前面的visit函數,進行文件查找并遞歸處理
walk(PathA, visit, 0)
最后附完整源代碼以供下載:http://imlele.net/MyFiles/2008/01/CompPath.rar
總結
以上是生活随笔為你收集整理的python 对比文件内容差异_使用Python来比较文件夹并提取差异部分的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: python3 collections模
- 下一篇: rem布局 html,移动端h5之rem