Python数据分析|pandas汇总和计算描述统计
这期内容当中小编将会给大家带来有关Python数据分析 | pandas汇总和计算描述统计,文章内容丰富且以专业的角度为大家分析和叙述,阅读完这篇文章希望大家可以有所收获。
在潮安等地区,都构建了全面的区域性战略布局,加强发展的系统性、市场前瞻性、产品创新能力,以专注、极致的服务理念,为客户提供网站制作、成都做网站 网站设计制作按需制作,公司网站建设,企业网站建设,高端网站设计,成都全网营销,成都外贸网站制作,潮安网站建设费用合理。
1. 聚合计算
pandas对象拥有一组常用的数学和统计方法。它们大部分都属于约简和汇总统计,用于从Series中提取单个值(如sum或mean)或从DataFrame的行或列中提取一个Series。跟对应的NumPy数组方法相比,它们都是基于没有缺失数据的假设而构建的。看一个简单的DataFrame:
df = pd.DataFrame([[1.4, np.nan], [7.1, -4.5], [np.nan, np.nan], [0.75, -1.3]], index=['a', 'b', 'c', 'd'], columns=['one', 'two']) df
调用DataFrame的sum方法将会返回一个含有列的和的Series:
df.sum() #默认axis=0/'index'
传入axis='columns'或axis=1将会按行进行求和运算:
df.sum(axis='columns') #axis=1
NA值会自动被排除,除非整个切片(这里指的是行或列)都是NA。通过skipna选项可以禁用该功能:
print(df) print("-----") print(df.mean(axis='columns', skipna=False)) #axis=1 print("-----") print(df.mean(axis='columns')) #axis=1 自动跳过na
下表列出了这些约简方法的常用选项:
有些方法(如idxmin和idxmax)返回的是间接统计(比如达到最小值或最大 值的索引):
print(df) print("-------") df.idxmax() #axis=0
另一些方法则是累计型的:
print(df) print("-------") df.cumsum() #axis=0
还有一种方法,它既不是约简型也不是累计型。describe就是一个例子,它 用于一次性产生多个汇总统计:
df.describe() #默认忽略空值
对于非数值型数据,describe会产生另外一种汇总统计:
obj = pd.Series(['a', 'a', 'b', 'c'] * 4) obj.describe()
下表列出了所有与描述统计相关的方法。
2. 相关系数与协方差
有些汇总统计(如相关系数和协方差)是通过参数对计算出来的。我们来看 几个DataFrame,它们的数据来自Yahoo!Finance的股票价格和成交量,使 用的是pandas-datareader包(可以用conda或pip安装):
pip install pandas-datareader
我使用pandas_datareader模块下载了一些股票数据:
import pandas_datareader.data as web all_data = {ticker: web.get_data_yahoo(ticker) for ticker in ['AAPL', 'IBM', 'MSFT', 'GOOG']} price = pd.DataFrame({ticker: data['Adj Close'] for ticker, data in all_data.items()}) volume = pd.DataFrame({ticker: data['Volume'] for ticker, data in all_data.items()}) print(price.head()) print(volume.head())
现在计算价格的百分数变化,时间序列的操作后续会介绍:
returns = price.pct_change() returns.tail()
Series的corr方法用于计算两个Series中重叠的、非NA的、按索引对齐的值 的相关系数。与此类似,cov用于计算协方差:
print(returns['MSFT'].corr(returns['IBM'])) print(returns['MSFT'].cov(returns['IBM']))
因为MSTF是一个合理的Python属性,我们还可以用更简洁的语法选择列:
returns.MSFT.corr(returns.IBM)
另一方面,DataFrame的corr和cov方法将以DataFrame的形式分别返回完整 的相关系数或协方差矩阵:
print(returns.corr()) print("-----------") print(returns.cov())
利用DataFrame的corrwith方法,你可以计算其列或行跟另一个Series或DataFrame之间的相关系数。传入一个Series将会返回一个相关系数值Series(针对各列进行计算)
returns.corrwith(returns.IBM)
传入一个DataFrame则会计算按列名配对的相关系数。这里,我计算百分比 变化与成交量的相关系数:
print(returns.head()) print(volume.head()) returns.corrwith(volume) #按列配对
传入axis='columns'/1即可按行进行计算。无论如何,在计算相关系数之前,所 有的数据项都会按标签对齐。
3. 唯一值、值计数以及成员资格
还有一类方法可以从一维Series的值中抽取信息。看下面的例子:
obj = pd.Series(['c', 'a', 'd', 'a', 'a', 'b', 'b', 'c', 'c']) obj
第一个函数是unique,它可以得到Series中的唯一值数组:
uniques = obj.unique() uniques
返回的唯一值是未排序的,如果需要的话,可以对结果再次进行排序 (uniques.sort())。相似的,value_counts用于计算一个Series中各值出现 的频率:
obj.value_counts()
为了便于查看,结果Series是按值频率降序排列的。value_counts还是一个 顶级pandas方法,可用于任何数组或序列:
pd.value_counts(obj.values, sort=False)
isin用于判断矢量化集合的成员资格,可用于过滤Series中或DataFrame列中 数据的子集:
print(obj) print("-----------") mask = obj.isin(['b', 'c']) print(mask) print("-----------") obj[mask]
与isin类似的是Index.get_indexer方法,它可以给你一个索引数组,从可能包 含重复值的数组到另一个不同值的数组:
to_match = pd.Series(['c', 'a', 'b', 'b', 'c', 'a']) unique_vals = pd.Series(['c', 'b', 'a']) pd.Index(unique_vals).get_indexer(to_match)
下表给出了这几个方法的一些参考信息:
有时,你可能希望得到DataFrame中多个相关列的一张柱状图。例如:
data = pd.DataFrame({'Qu1': [1, 3, 4, 3, 4], 'Qu2': [2, 3, 1, 2, 3], 'Qu3': [1, 5, 2, 4, 4]}) data
将pandas.value_counts传给该DataFrame的apply函数,就会出现:
result = data.apply(pd.value_counts).fillna(0) result
这里,结果中的行标签是所有列的唯一值。后面的频率值是每个列中这些值的相应计数。
上述就是小编为大家分享的Python数据分析 | pandas汇总和计算描述统计了,如果刚好有类似的疑惑,不妨参照上述分析进行理解。如果想知道更多相关知识,欢迎关注创新互联行业资讯频道。
名称栏目:Python数据分析|pandas汇总和计算描述统计
分享URL:http://scyanting.com/article/jcdodo.html