将数据帧重新采样为具有任意期末月份的 n 个月期间
Resample a data frame into n-month periods with arbitrary end-of-period months
我想 resample()
我的每日数据分成六个月的数据块。但是,我希望 6 个月大块的结束是 4 月和 10 月的结束。如果我使用 df.resample('6M').sum()
(或 df.groupby(pd.Grouper(freq='6M').sum()
),则第一个六个月块的末尾是数据中第一个月的末尾。我知道 anchored offsets,但我不知道如何创建自定义锚定偏移量(例如,'6M-APR'
不起作用)。
这是一些示例代码:
import pandas as pd
import numpy as np
np.random.seed(42)
df = pd.DataFrame(
data={'logret': np.random.randn(1000)},
index=pd.date_range(start='2001-05-25', periods=1000, freq='B')
)
df.resample('6M').sum()
产生以下输出:
logret
2001-05-31 2.2950148716254297
2001-11-30 -12.536360930670858
2002-05-31 5.468848462868161
2002-11-30 13.027927629740189
2003-05-31 -10.37282118563155
2003-11-30 -0.156275418330286
2004-05-31 -3.0768727498370905
2004-11-30 28.328856464071546
2005-05-31 -3.6462613215100546
我没有实现 start
、offset
和 loffset
参数 .resample()
的目标(为期六个月的重采样在 4 月和 10 月结束) .
我已经通过以下技巧实现了我的目标。但是,它丢失了日期索引,我想要一个更 robust/repeatable 的方法。
def sixmonth(d, b=4):
y, m, h = d.year, d.month, 1
if (m > (b + 6)): y += 1
elif (m > b): h += 1
return y + h/10
df.groupby(sixmonth).sum()
产生以下没有日期的输出:
logret
2001.2 -10.300839024148
2002.1 9.321994034984547
2002.2 8.855517878860585
2003.1 -2.4576797445001493
2003.2 -7.002919570231796
2004.1 -9.36895555474087
2004.2 27.13038641177464
2005.1 3.154551390326532
当然,我可以改进这个 hack。但是对于在任意月份结束的 n 周期重采样有更好的/robust/repeatable 解决方案吗?
另一种解决方法,保留日期时间索引:
def custom_6M(df, month=4):
df = df.resample("M").sum()
df = df.rolling(6).sum()
return df[df.index.month.isin([month,month+6])]
>>> custom_6M(df)
logret
2001-10-31 -10.300839
2002-04-30 9.321994
2002-10-31 8.855518
2003-04-30 -2.457680
2003-10-31 -7.002920
2004-04-30 -9.368956
2004-10-31 27.130386
这很痛苦。当我需要类似的东西时,我最终采用了以下方法:
anchor_month = 4
non_months = (anchor_month + 3) % 12, (anchor_month + 9) % 12
df = df.resample('Q-APR').sum()
df = (df.reset_index()
.groupby(df.index.month.isin(non_months).cumsum())
.agg({'index': 'last', 'logret': 'sum'})
.set_index('index'))
结果在这里:
logret
index
2001-10-31 -10.300839
2002-04-30 9.321994
2002-10-31 8.855518
2003-04-30 -2.457680
2003-10-31 -7.002920
2004-04-30 -9.368956
2004-10-31 27.130386
2005-04-30 3.154551
但问题是,有时最后一个索引不适合(这里没问题)。这可以通过另一个 '6M'
-resample 来解决。总体:不漂亮。
感谢您的回答。
我还有两个选择。
将带时间戳的序列附加到 df
以锚定六个月的重采样周期
我希望 .resample()
的 origin
论点能让我手动确定六个月的重采样周期。它没有,但下面的代码可以。
df.append(pd.Series(name=pd.to_datetime('2001-04-30'), dtype='float')).resample('6M').sum()
改进我的 sixmonth()
函数以使用时间戳
def sixmonth(d, m=6, n=4):
o = (m - (d.month - n)) % m
return d + pd.offsets.MonthEnd(o)
我首先 .resample('M')
确保我有月末日期。
我可以修改 sixmonth()
来检查月末日期,但我更害怕发现一些新的极端情况,而不是效率低下。
df.resample('M').sum().groupby(sixmonth).sum()
我想 resample()
我的每日数据分成六个月的数据块。但是,我希望 6 个月大块的结束是 4 月和 10 月的结束。如果我使用 df.resample('6M').sum()
(或 df.groupby(pd.Grouper(freq='6M').sum()
),则第一个六个月块的末尾是数据中第一个月的末尾。我知道 anchored offsets,但我不知道如何创建自定义锚定偏移量(例如,'6M-APR'
不起作用)。
这是一些示例代码:
import pandas as pd
import numpy as np
np.random.seed(42)
df = pd.DataFrame(
data={'logret': np.random.randn(1000)},
index=pd.date_range(start='2001-05-25', periods=1000, freq='B')
)
df.resample('6M').sum()
产生以下输出:
logret
2001-05-31 2.2950148716254297
2001-11-30 -12.536360930670858
2002-05-31 5.468848462868161
2002-11-30 13.027927629740189
2003-05-31 -10.37282118563155
2003-11-30 -0.156275418330286
2004-05-31 -3.0768727498370905
2004-11-30 28.328856464071546
2005-05-31 -3.6462613215100546
我没有实现 start
、offset
和 loffset
参数 .resample()
的目标(为期六个月的重采样在 4 月和 10 月结束) .
我已经通过以下技巧实现了我的目标。但是,它丢失了日期索引,我想要一个更 robust/repeatable 的方法。
def sixmonth(d, b=4):
y, m, h = d.year, d.month, 1
if (m > (b + 6)): y += 1
elif (m > b): h += 1
return y + h/10
df.groupby(sixmonth).sum()
产生以下没有日期的输出:
logret
2001.2 -10.300839024148
2002.1 9.321994034984547
2002.2 8.855517878860585
2003.1 -2.4576797445001493
2003.2 -7.002919570231796
2004.1 -9.36895555474087
2004.2 27.13038641177464
2005.1 3.154551390326532
当然,我可以改进这个 hack。但是对于在任意月份结束的 n 周期重采样有更好的/robust/repeatable 解决方案吗?
另一种解决方法,保留日期时间索引:
def custom_6M(df, month=4):
df = df.resample("M").sum()
df = df.rolling(6).sum()
return df[df.index.month.isin([month,month+6])]
>>> custom_6M(df)
logret
2001-10-31 -10.300839
2002-04-30 9.321994
2002-10-31 8.855518
2003-04-30 -2.457680
2003-10-31 -7.002920
2004-04-30 -9.368956
2004-10-31 27.130386
这很痛苦。当我需要类似的东西时,我最终采用了以下方法:
anchor_month = 4
non_months = (anchor_month + 3) % 12, (anchor_month + 9) % 12
df = df.resample('Q-APR').sum()
df = (df.reset_index()
.groupby(df.index.month.isin(non_months).cumsum())
.agg({'index': 'last', 'logret': 'sum'})
.set_index('index'))
结果在这里:
logret
index
2001-10-31 -10.300839
2002-04-30 9.321994
2002-10-31 8.855518
2003-04-30 -2.457680
2003-10-31 -7.002920
2004-04-30 -9.368956
2004-10-31 27.130386
2005-04-30 3.154551
但问题是,有时最后一个索引不适合(这里没问题)。这可以通过另一个 '6M'
-resample 来解决。总体:不漂亮。
感谢您的回答。 我还有两个选择。
将带时间戳的序列附加到 df
以锚定六个月的重采样周期
我希望 .resample()
的 origin
论点能让我手动确定六个月的重采样周期。它没有,但下面的代码可以。
df.append(pd.Series(name=pd.to_datetime('2001-04-30'), dtype='float')).resample('6M').sum()
改进我的 sixmonth()
函数以使用时间戳
def sixmonth(d, m=6, n=4):
o = (m - (d.month - n)) % m
return d + pd.offsets.MonthEnd(o)
我首先 .resample('M')
确保我有月末日期。
我可以修改 sixmonth()
来检查月末日期,但我更害怕发现一些新的极端情况,而不是效率低下。
df.resample('M').sum().groupby(sixmonth).sum()