基于两列 A，B 从数据框中删除重复项，在另一列 C 中保留具有最大值的行

Question

我有一个 pandas 数据框，其中包含根据两列（A 和 B）的重复值：

我想删除重复项，保留 C 列中具有最大值的行。这将导致：

我不知道该怎么做。我应该使用 drop_duplicates() 吗？

Answer 1

我认为 groupby 应该有效。

df.groupby(['A', 'B']).max()['C']

如果您需要返回数据帧，您可以链接重置索引调用。

df.groupby(['A', 'B']).max()['C'].reset_index()

Answer 2

您可以使用分组依据：

c_maxes = df.groupby(['A', 'B']).C.transform(max)
df = df.loc[df.C == c_maxes]

c_maxes 是每个组中 C 的最大值的 Series，但其长度和索引与 df 相同。如果您还没有使用 .transform 那么打印 c_maxes 可能是一个好主意，看看它是如何工作的。

另一种使用 drop_duplicates 的方法是

df.sort('C').drop_duplicates(subset=['A', 'B'], take_last=True)

不确定哪个更有效，但我猜是第一种方法，因为它不涉及排序。

编辑： 从 pandas 0.18 开始，第二个解决方案是

df.sort_values('C').drop_duplicates(subset=['A', 'B'], keep='last')

或者，

df.sort_values('C', ascending=False).drop_duplicates(subset=['A', 'B'])

无论如何，groupby 解决方案的性能似乎要好得多：

%timeit -n 10 df.loc[df.groupby(['A', 'B']).C.max == df.C]
10 loops, best of 3: 25.7 ms per loop

%timeit -n 10 df.sort_values('C').drop_duplicates(subset=['A', 'B'], keep='last')
10 loops, best of 3: 101 ms per loop

Answer 3

您可以根据需要使用 drop_duplicates

# initialisation
d = pd.DataFrame({'A' : [1,1,2,3,3], 'B' : [2,2,7,4,4],  'C' : [1,4,1,0,8]})

d = d.sort_values("C", ascending=False)
d = d.drop_duplicates(["A","B"])

如果获得相同的订单很重要

d = d.sort_index()

Answer 4

您可以简单地使用 pandas 删除重复项功能

df.drop_duplicates(['A','B'],keep= 'last')

基于两列 A，B 从数据框中删除重复项，在另一列 C 中保留具有最大值的行

Remove duplicates from dataframe, based on two columns A,B, keeping row with max value in another column C

python

duplicates

dataframe

pandas