首页 > 代码库 > python数据处理:pandas基础

python数据处理:pandas基础

本文资料来源:

  Python for Data Anylysis: Chapter 5

  10 mintues to pandas: http://pandas.pydata.org/pandas-docs/stable/10min.html#min

 

1. Pandas简介

经过数年的发展,pandas已经成为python处理数据中最常被使用的package。以下是开发pandas最开始的目的,也是现在pandas最常用的功能

  a: Data structures with labeled axes supporting automatic or explicit data alignment(数据调整). This prevents common errors resulting from misaligned data and working with differently-indexed data coming from differernt sources.

  b: Integrated time series functionality

  c: The same data structures handle both time series data and non-time series data.

  d: Arithmetic operations and reductions (like summing across an axis) would pass on the metadata(axis labels,元数据)。

  e: Flexible handling of missing data

  f: Merge and other relational operations found in popular database databases(SQL-based, for example)

有一篇文章“Don‘t use Hadoop when your data isn‘t that big ”指出:只有在超过5TB数据量的规模下,Hadoop才是一个合理的技术选择。所以一般处理<5TB的数据量的时候,python pandas已经足够可以应付。

2. pandas data structure

2.1 Series

Series是一个一维的array-like对象,由两部分组成:1. 任意numpy数据类型的array 2. 数据标签,称之为index。

因此一个series有两个主要参数:values和index

示例为创建一个series,获得其value和index的过程

技术分享

通过传递一个能够被转换成类似序列结构的字典对象来创建一个Series:

技术分享

字典的key作为index表示。在Series中还可以加入index参数来规定index的顺序,其value会自动根据key来匹配数值。

Series有一个重要的特征就是:在进行数学运算时,它的对齐特征(Data alignment features)可以自动调整不同index的数据,以便同一种数据进行数学运算。

而且Series对象本身和index参数都有一个参量为name,比如obj.name=‘population‘, obj.index.name = ‘state‘

2.2 DataFrame

DataFrame可以用来表达图表类型、数据库关系类型的数据,它包含数个顺序排列的columns,每个col中的数据类型一致,但是col彼此间数据类型可以不一致。

DataFrame有两个index:row和column

create  dataframe的方法:通过同等长度的list或者array或者tuples的dictionary,通过nested dict of dicts, 通过dicts of seires等等,详见书本table5.1

技术分享

 

提取列:通过obj3[‘state‘]或者obj3.year获取列的信息,返回类型为Series,与DataFrame有同样的index

提取row:用ix函数以及row的位置信息或者名字

技术分享

 

 

常用函数:

del:删除列  del obj[‘year‘]

常见参数:index和 columns都有name参数,value

 

2.3 index ojbect和reindexing

pandas index的作用:for holding the axis labels and other metadata(like the axis name or names)

Index对象是不变的,意思就是无法被用户修改,所以下列code无法通过,这个对应了我们简介中所说的a这一条

技术分享

 

 

reindex()方法可以对指定轴上的索引(index)进行改变/增加/删除操作,这将返回原始数据的一个拷贝

 

技术分享

 

reindex()中参数介绍:

    index:新的index,代替原来的,原来的index不会copy。pandas的处理一般都会自动copy原始value,这点与ndarry不同

    method:有ffill和bfill

    fill_value:填补NAN value

    copy等等

 

 

3.查看数据

   3.1 sorting:返回一个排序好的object

    a:按照轴(行列)进行排序

      sort_Index()

      参数介绍:默认按照row排序,axis=1即按照列

           默认升序,降序ascedning=False

    b:按照value排序

      order():缺值排在末尾

  3.2 ranking

    rank():按照值出现的顺序赋值,返回一个新的obj。有同样的值的时候,默认返回排序的mean

    技术分享

  3.3 unique

    is_unique: tell you whether its values are unique or not,返回true or false

    unique:返回不重复的值,返回一个array

  3.4 value_count:计算序列中各个值出现的次数

    技术分享

  3.5 describe() 对于数据快速统计汇总

 

4.选择数据

  4.1 drop

  drop行:

  pandas的处理一般都会自动copy原始value,这点与ndarry不同,举例如下,drop一行之后调用原始对象,发现没有改变

  技术分享  

  drop列:obj4.drop(‘Nevada‘,axis=1)

      在python很多函数的参数中,默认都是考虑row的,所以有axis(轴)这个参数      

      axis=1 为垂直的,即列    

      axis=0 为水平的,即行

  4.2 选择selection,切片slicing,索引index 

  a 选择一个单独的列,这将会返回一个Series,df[‘A‘] 和 df.A一个意思

  b:  通过[]进行选择,这将会对行进行切片

  c:  通过标签选择:endpoint is inclusive 即obj[‘b‘:‘c‘]包含‘c‘行

  d:  选择row和columns的子集:ix

  f:  通过标签进行索引: loc

      技术分享

  e:  通过位置进行索引: iloc

     ` 技术分享

  4.3 使用isin()方法来过滤:

    用于过滤数据

    技术分享

5.缺失值处理

  5.1 missing value

    pandas用NaN(floating point value)来表示missing data

   5.2 去掉包含缺失值的行或者列

    dropna

    参数说明:how=‘all‘ only drop row that all NA

           axis=1, drop column

          thresh=3, 只保留还有3个obseration的行

  5.3 对缺失值进行填充

    fillna

  5.4 isnull:返回like-type对象,包含boolean values指明value是否为缺失值

    notnull: isnull的反作用

 

6.计算函数

  a:对于不同index的两个df对象相加“+”,其结果与数据库中union类似,缺失值为NaN

  b:具体的加减用add()或者sub(),缺失值可以用fill_value代替

  c:sum,count,min,max等等,包含一些method

  d:correlation and covariance

     .corr()

     .cov()

7.合并 reshape

8.分组

  对于”group by”操作,我们通常是指以下一个或多个操作步骤:

  (Splitting)按照一些规则将数据分为不同的组;

  (Applying)对于每组数据分别执行一个函数;

  (Combining)将结果组合到一个数据结构中;

 

注:本文并不全面,仅仅总结了目前我所需要的部分。

python数据处理:pandas基础