python中的pandas模塊中對重復數據去重步驟：

1）利用DataFrame中的duplicated方法返回一個布爾型的Series,顯示各行是否有重復行，沒有重復行顯示為FALSE，有重復行顯示為TRUE；

2）再利用DataFrame中的drop_duplicates方法用于返回一個移除了重復行的DataFrame。

注釋：

如果duplicated方法和drop_duplicates方法中沒有設置參數，則這兩個方法默認會判斷全部咧，如果在這兩個方法中加入了指定的屬性名（或者稱為列名），例如：frame.drop_duplicates(['state']),則指定部分列（state列）進行重復項的判斷。

具體實例如下：

>>> import pandas as pd

>>> data={'state':[1,1,2,2],'pop':['a','b','c','d']}

>>> frame=pd.DataFrame(data)

>>> frame

pop state

0 a 1

1 b 1

2 c 2

3 d 2

>>> IsDuplicated=frame.duplicated()

>>> print IsDuplicated

0 False

1 False

2 False

3 False

dtype: bool

>>> frame=frame.drop_duplicates(['state'])

>>> frame

pop state

0 a 1

2 c 2

>>> IsDuplicated=frame.duplicated(['state'])

>>> print IsDuplicated

0 False

2 False

dtype: bool

>>>

以上這篇Python對多屬性的重復數據去重實例就是小編分享給大家的全部內容了，希望能給大家一個參考，也希望大家多多支持我們。

本文標題: Python對多屬性的重復數據去重實例

本文地址: http://www.cppcns.com/jiaoben/python/225483.html

總結

以上是生活随笔為你收集整理的python对大量数据去重_Python对多属性的重复数据去重实例的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。