Python實(shí)現(xiàn)檢測文件的MD5值來查找重復(fù)文件案例
平時(shí)學(xué)生交上機(jī)作業(yè)的時(shí)候經(jīng)常有人相互復(fù)制,直接改文件名了事,為了能夠簡單的檢測這種作弊行為,想到了檢測文件的MD5值,雖然對于抄襲來說作用不大,但是聊勝于無,以后可以做一個(gè)復(fù)雜點(diǎn)的。
# coding: utf8import hashlibimport osfrom collections import Counterimport sysreload(sys)sys.setdefaultencoding(’utf-8’)def get_md5_01(file_path): md5 = None if os.path.isfile(file_path): f = open(file_path,’rb’) md5_obj = hashlib.md5() md5_obj.update(f.read()) hash_code = md5_obj.hexdigest() f.close() md5 = str(hash_code).lower() return md5def get_md5_02(file_path): f = open(file_path,’rb’) md5_obj = hashlib.md5() while True: d = f.read(8096) if not d: break md5_obj.update(d) hash_code = md5_obj.hexdigest() f.close() md5 = str(hash_code).lower() return md5if __name__ == '__main__': output_list=[] #input_path=r'e:xx新建文件夾' #output_path = unicode(input_path , 'utf8') output_path=os.getcwd() g = os.walk(output_path) for path,dir_list,file_list in g: for file_name in file_list: output_list.append(os.path.join(path, file_name) ) md5_list= [get_md5_01(i) for i in output_list] Counter_list=Counter(md5_list) for i in Counter_list.items(): if i[1] >1: duplicate_list=[ a for a in range(len(md5_list)) if md5_list[a] == i[0]] print ’-’*50 print i[0] for j in duplicate_list:with open(’duplicate.log’, mode=’a+’) as f: f.write(i[0]+’t’+output_list[j]+’n’)print output_list[j]
補(bǔ)充知識:python一句話校驗(yàn)文件哈希值
MD5
python -c 'import hashlib,sys;print hashlib.md5(open(sys.argv[1],’rb’).read()).hexdigest()' 文件名
SHA-1
python -c 'import hashlib,sys;print hashlib.sha1(open(sys.argv[1],’rb’).read()).hexdigest()' 文件名
SHA-256
python -c 'import hashlib,sys;print hashlib.sha256(open(sys.argv[1],’rb’).read()).hexdigest()' 文件名
SHA-512
python -c 'import hashlib,sys;print hashlib.sha512(open(sys.argv[1],’rb’).read()).hexdigest()' 文件名
以上這篇Python實(shí)現(xiàn)檢測文件的MD5值來查找重復(fù)文件案例就是小編分享給大家的全部內(nèi)容了,希望能給大家一個(gè)參考,也希望大家多多支持好吧啦網(wǎng)。
相關(guān)文章:
1. 基于 Python 實(shí)踐感知器分類算法2. Python如何批量生成和調(diào)用變量3. Python 中如何使用 virtualenv 管理虛擬環(huán)境4. ASP.NET MVC實(shí)現(xiàn)橫向展示購物車5. 通過CSS數(shù)學(xué)函數(shù)實(shí)現(xiàn)動(dòng)畫特效6. Python獲取B站粉絲數(shù)的示例代碼7. windows服務(wù)器使用IIS時(shí)thinkphp搜索中文無效問題8. ASP.Net Core對USB攝像頭進(jìn)行截圖9. ASP.Net Core(C#)創(chuàng)建Web站點(diǎn)的實(shí)現(xiàn)10. python利用opencv實(shí)現(xiàn)顏色檢測
