如果每组缺少一行，则在 pandas / ipython 中每组添加行

Question

我有一个数据框，其中包含每个组在特定时期内的观察次数。 有些组不包含所有句点，对于这些组，我想追加x行其中缺少的时期。这样每个组在所有 6 个时间段都有一行

我当前的 df 看起来像这样：

> ID      PERIOD       VAlUE
  1       1            10
  1       2            8
  1       3            8  
  1       4            15
  1       5            6
  1       6            44
  2       1            NONE
  3       2            4
  3       5            25

我想要一个像这样的数据框。

> ID      PERIOD       VAlUE
  1       1            10
  1       2            8
  1       3            8  
  1       4            15
  1       5            6
  1       6            44
  2       1            NONE
  2       2            NONE
  2       3            NONE
  2       4            NONE
  2       5            NONE
  2       6            4
  3       1            NONE
  3       2            4
  3       3            NONE
  3       4            NONE
  3       5            25
  3       6            NONE

那么发生了什么结束：

对于 ID == 1，没有任何反应，因为它包含所有 6 个句点
对于 ID == 2，它为第一个 df 中没有的每个时间段追加 5 行。
对于 ID == 2，它为第一个 df 中没有的每个时间段附加了 4 行。所以它添加了时间段 1、3、4 和 6 的行。

我真的不知道该怎么做，所以非常感谢您的帮助。

Answer 1

您可以将索引设置为 'ID' 和 'PERIOD'，然后通过生成两个列的乘积来构造一个新索引并将其作为新索引传递给 reindex，这有一个可选的 fill_value 参数，您可以将其设置为 str NONE:

In [158]:
iterables = [df['ID'].unique(),df['PERIOD'].unique()]
df = df.set_index(['ID','PERIOD'])
df = df.reindex(index=pd.MultiIndex.from_product(iterables, names=['ID', 'PERIOD']), fill_value='NONE').reset_index()
df

Out[158]:
    ID  PERIOD VAlUE
0    1       1    10
1    1       2     8
2    1       3     8
3    1       4    15
4    1       5     6
5    1       6    44
6    2       1  NONE
7    2       2  NONE
8    2       3  NONE
9    2       4  NONE
10   2       5  NONE
11   2       6  NONE
12   3       1  NONE
13   3       2     4
14   3       3  NONE
15   3       4  NONE
16   3       5    25
17   3       6  NONE

所以分解上面的内容：

In [160]:
# create a list of the iterable index values we want to generate all product combinations from
iterables = [df['ID'].unique(),df['PERIOD'].unique()]
iterables

Out[160]:
[array([1, 2, 3], dtype=int64), array([1, 2, 3, 4, 5, 6], dtype=int64)]

In [163]:
# set the index to ID and PERIOD
df = df.set_index(['ID','PERIOD'])
df

Out[163]:
          VAlUE
ID PERIOD      
1  1         10
   2          8
   3          8
   4         15
   5          6
   6         44
2  1       NONE
3  2          4
   5         25

In [164]:
# reindex and pass the product from iterables as the new index
df.reindex(index=pd.MultiIndex.from_product(iterables, names=['ID', 'PERIOD']), fill_value='NONE').reset_index()
Out[164]:
    ID  PERIOD VAlUE
0    1       1    10
1    1       2     8
2    1       3     8
3    1       4    15
4    1       5     6
5    1       6    44
6    2       1  NONE
7    2       2  NONE
8    2       3  NONE
9    2       4  NONE
10   2       5  NONE
11   2       6  NONE
12   3       1  NONE
13   3       2     4
14   3       3  NONE
15   3       4  NONE
16   3       5    25
17   3       6  NONE

Answer 2

您可以在 PERIOD 上取消堆叠结果，然后将 dropna 选项设置为 False。

>>> df.groupby(['ID', 'PERIOD']).VAlUE.sum().unstack('PERIOD').stack('PERIOD', dropna=False)
ID  PERIOD
1   1          10
    2           8
    3           8
    4          15
    5           6
    6          44
2   1         NaN
    2         NaN
    3         NaN
    4         NaN
    5         NaN
    6         NaN
3   1         NaN
    2           4
    3         NaN
    4         NaN
    5          25
    6         NaN
dtype: object

如果每组缺少一行，则在 pandas / ipython 中每组添加行

Adding rows per group in pandas / ipython if per group a row is missing

append

pandas