如何有效地将函数应用于 Pandas 面板的每个 DataFrame
How to efficiently apply a function to each DataFrame of a Pandas Panel
我正在尝试将函数应用于 Pandas 面板中的每个 DataFrame。我可以把它写成一个循环,但索引似乎需要很长时间。我希望内置 Pandas 函数可能会更快。
我的数据框看起来像(实际上每列大约 50 行):
mydata = pd.DataFrame( { 'hits' : [ 123, 456,678 ], 'sqerr' : [ 253, 641, 3480] } )
它们排列在一个带有多索引键的面板中:
mydict = { (0, 20 ) : mydata, (30, 40 ) : moredata }
mypanel = pd.Panel( mydict )
面板看起来像这样:
<class 'pandas.core.panel.Panel'>
Dimensions: 1600 (items) x 48 (major_axis) x 2 (minor_axis)
Items axis: (-4000, -4000) to (3800, 3800)
Major_axis axis: 0 to 47
Minor_axis axis: hits to sqerr
我有一个函数,它接受一个 DataFrame 并输出一个数字:
def condenser( df ):
return some_stuff( df['hits'], df['sqerr'] )
我想将我的面板缩减为一个系列,由我的多索引索引并以我的冷凝器函数的结果作为其值。
我能做到:
intermediate = []
for k, df in mypanel.iteritems():
intermediate.append( condenser( df ) )
result = pd.Series( results, index = pypanel.items )
这给出了所需的结果,但是当我分析它时,只有 4% 的时间花在了我的 condenser
函数上。大部分时间花在iteritems
和__getitem__
所以我想知道是否可以做得更好。
我查看了 mypanel.apply( condenser, axis = 'items' )
但这分别循环遍历了我的 DataFrame 的每一列。有什么东西可以对每个 DataFrame 应用一个函数吗?
P.s。我正在使用 Python 2.7.9 和 pandas 0.15.2
apply是正确的,但是用法是:
mypanel.apply(聚光镜,轴=[1,2])
这会将一个 48 x 2 DataFrame 传递到冷凝器中。
我正在尝试将函数应用于 Pandas 面板中的每个 DataFrame。我可以把它写成一个循环,但索引似乎需要很长时间。我希望内置 Pandas 函数可能会更快。
我的数据框看起来像(实际上每列大约 50 行):
mydata = pd.DataFrame( { 'hits' : [ 123, 456,678 ], 'sqerr' : [ 253, 641, 3480] } )
它们排列在一个带有多索引键的面板中:
mydict = { (0, 20 ) : mydata, (30, 40 ) : moredata }
mypanel = pd.Panel( mydict )
面板看起来像这样:
<class 'pandas.core.panel.Panel'>
Dimensions: 1600 (items) x 48 (major_axis) x 2 (minor_axis)
Items axis: (-4000, -4000) to (3800, 3800)
Major_axis axis: 0 to 47
Minor_axis axis: hits to sqerr
我有一个函数,它接受一个 DataFrame 并输出一个数字:
def condenser( df ):
return some_stuff( df['hits'], df['sqerr'] )
我想将我的面板缩减为一个系列,由我的多索引索引并以我的冷凝器函数的结果作为其值。
我能做到:
intermediate = []
for k, df in mypanel.iteritems():
intermediate.append( condenser( df ) )
result = pd.Series( results, index = pypanel.items )
这给出了所需的结果,但是当我分析它时,只有 4% 的时间花在了我的 condenser
函数上。大部分时间花在iteritems
和__getitem__
所以我想知道是否可以做得更好。
我查看了 mypanel.apply( condenser, axis = 'items' )
但这分别循环遍历了我的 DataFrame 的每一列。有什么东西可以对每个 DataFrame 应用一个函数吗?
P.s。我正在使用 Python 2.7.9 和 pandas 0.15.2
apply是正确的,但是用法是:
mypanel.apply(聚光镜,轴=[1,2])
这会将一个 48 x 2 DataFrame 传递到冷凝器中。