python与数据处理_python数据处理:数据合并和Reshaping
本文資料來自于:
Python for Data Analysis: Chapter5, 7, 12
文中實(shí)例查看地址:http://nbviewer.jupyter.org/github/RZAmber/for_blog/blob/master/learn_numpy.ipynb
1. Combing and Merging Data Sets
在pandas中,數(shù)據(jù)可以通過三種方式進(jìn)行合并。
1.1 panda.merge
通過一個(gè)或者多個(gè)key連接兩個(gè)df的row。這根跟sql中的join運(yùn)算類似。等復(fù)習(xí)完sql之后再來補(bǔ)充
1.2 pandas.concat
numpy有concatenate函數(shù)來連接兩個(gè)ndarray,pandas中用concat函數(shù),沿著軸粘連或者堆積對(duì)象
默認(rèn)按照行(垂直方向)來合并,axis=1為按照列
參數(shù)說明:join:選擇合并類型,inner outer等
join_axes: 規(guī)定合并的軸
keys: 建立分層索引
b[:-2]
拼接有overlapping data的對(duì)象,用其中一個(gè)boject的值補(bǔ)充另外一個(gè)object中的missing data
這是一個(gè)if else的關(guān)系,類似numpy.where函數(shù)。
b[:-2].combine_first(a[2:]): 解釋就是如果(if) pd.isnull(b[:-2])中為Ture,就用a[2:]中的值補(bǔ)充,否則(else)還是使用b[:-2]的值
a[2:].combine_first(b[:-2]): 就是相反的,所以可以看到a[2:]中d的值為NaN,所以用了b[:-2]中d的值2.0。
2. Reshaping
2.1 Hierarchical indexing
了解reshaping要先了解分層索引,因?yàn)檫@兩者經(jīng)常一起使用。
分層索引可以讓一個(gè)軸(axis)擁有多個(gè)index level。It provides a way for you to work with higher dimensional data in a lower dmensional form.
調(diào)取index參數(shù)的時(shí)候,名稱是MultiIndex,通過這個(gè)也可以確定這個(gè)是分層索引
Hierachical indexing plays a critical role in reshaping data and group-based operations like forming a pivot table.
2.2 reshaping:用來rearrange tablular data
2.2.1 reshaping in hierarchical indexing
a: stackrotetes from the columns in the data to rows
b: unstackpivot from the rows into the col
注意:1. 默認(rèn)最底層進(jìn)行unstack或者stack。如果換其他level的話可以輸入level number或者name
2. 默認(rèn)stacking篩除missing data,加入stack(dropna=False)就可以了
3 advanced numpy
如上文所說,numpy有concatenate函數(shù)
numpy.concatenate takes a swquencc (tuple, list, etc) of array and joins them together in order along the input axis.
這經(jīng)常跟stack系列函數(shù)放在一起使用來進(jìn)行data的重組或者調(diào)用,但是我們常用panda.concat函數(shù),跟numpy.concatenate一個(gè)意思
而且下列函數(shù)比numpy.concatenate更加簡(jiǎn)便
下面是一個(gè)函數(shù)列表:
stack() Join a sequence of arrays along a new axis.
hstack() Stack arrays in sequence horizontally (column wise).
vstack() Stack arrays in sequence vertically (row wise).
dstack() Stack arrays in sequence depth wise (along third dimension).
concatenate() Join a sequence of arrays along an existing axis.
vsplit () Split array into a list of multiple sub-arrays vertically.
總結(jié)
以上是生活随笔為你收集整理的python与数据处理_python数据处理:数据合并和Reshaping的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: opc读取ab的plc数据_C#读写 A
- 下一篇: linux把root用户删了,linux