使用 Pandas 将列转换为行
Convert columns into rows with Pandas
所以我的数据集有一些按位置排列的 n 个日期的信息。问题是每个日期实际上是不同的列 header。例如 CSV 看起来像
location name Jan-2010 Feb-2010 March-2010
A "test" 12 20 30
B "foo" 18 20 25
我想要的是它看起来像
location name Date Value
A "test" Jan-2010 12
A "test" Feb-2010 20
A "test" March-2010 30
B "foo" Jan-2010 18
B "foo" Feb-2010 20
B "foo" March-2010 25
我的问题是我不知道列中有多少个日期(尽管我知道它们总是从姓名开始)
更新
从v0.20开始,melt
是一阶函数,现在可以使用
df.melt(id_vars=["location", "name"],
var_name="Date",
value_name="Value")
location name Date Value
0 A "test" Jan-2010 12
1 B "foo" Jan-2010 18
2 A "test" Feb-2010 20
3 B "foo" Feb-2010 20
4 A "test" March-2010 30
5 B "foo" March-2010 25
旧(ER)版本:<0.20
您可以使用 pd.melt
获取大部分内容,然后排序:
>>> df
location name Jan-2010 Feb-2010 March-2010
0 A test 12 20 30
1 B foo 18 20 25
>>> df2 = pd.melt(df, id_vars=["location", "name"],
var_name="Date", value_name="Value")
>>> df2
location name Date Value
0 A test Jan-2010 12
1 B foo Jan-2010 18
2 A test Feb-2010 20
3 B foo Feb-2010 20
4 A test March-2010 30
5 B foo March-2010 25
>>> df2 = df2.sort(["location", "name"])
>>> df2
location name Date Value
0 A test Jan-2010 12
2 A test Feb-2010 20
4 A test March-2010 30
1 B foo Jan-2010 18
3 B foo Feb-2010 20
5 B foo March-2010 25
(可能想要输入 .reset_index(drop=True)
,只是为了保持输出干净。)
注: pd.DataFrame.sort
in favour of pd.DataFrame.sort_values
.
我想我找到了一个更简单的解决方案
temp1 = pd.melt(df1, id_vars=["location"], var_name='Date', value_name='Value')
temp2 = pd.melt(df1, id_vars=["name"], var_name='Date', value_name='Value')
将整个 temp1
与 temp2
的列 name
合并
temp1['new_column'] = temp2['name']
你现在得到了你想要的东西。
pd.wide_to_long
您可以为年份列添加前缀,然后直接输入 pd.wide_to_long
。我不会假装这是 高效 ,但在某些情况下它可能比 pd.melt
更方便,例如当您的列已经有适当的前缀时。
df.columns = np.hstack((df.columns[:2], df.columns[2:].map(lambda x: f'Value{x}')))
res = pd.wide_to_long(df, stubnames=['Value'], i='name', j='Date').reset_index()\
.sort_values(['location', 'name'])
print(res)
name Date location Value
0 test Jan-2010 A 12
2 test Feb-2010 A 20
4 test March-2010 A 30
1 foo Jan-2010 B 18
3 foo Feb-2010 B 20
5 foo March-2010 B 25
将set_index
with stack
for MultiIndex Series
, then for DataFrame
add reset_index
与rename
一起使用:
df1 = (df.set_index(["location", "name"])
.stack()
.reset_index(name='Value')
.rename(columns={'level_2':'Date'}))
print (df1)
location name Date Value
0 A test Jan-2010 12
1 A test Feb-2010 20
2 A test March-2010 30
3 B foo Jan-2010 18
4 B foo Feb-2010 20
5 B foo March-2010 25
将 link 添加到您可以复制的笔记本中,使用 pandas.melt
演示@DMS 的答案:
df.melt(id_vars=["location", "name"],
var_name="date",
value_name="value")
所以我的数据集有一些按位置排列的 n 个日期的信息。问题是每个日期实际上是不同的列 header。例如 CSV 看起来像
location name Jan-2010 Feb-2010 March-2010
A "test" 12 20 30
B "foo" 18 20 25
我想要的是它看起来像
location name Date Value
A "test" Jan-2010 12
A "test" Feb-2010 20
A "test" March-2010 30
B "foo" Jan-2010 18
B "foo" Feb-2010 20
B "foo" March-2010 25
我的问题是我不知道列中有多少个日期(尽管我知道它们总是从姓名开始)
更新
从v0.20开始,melt
是一阶函数,现在可以使用
df.melt(id_vars=["location", "name"],
var_name="Date",
value_name="Value")
location name Date Value
0 A "test" Jan-2010 12
1 B "foo" Jan-2010 18
2 A "test" Feb-2010 20
3 B "foo" Feb-2010 20
4 A "test" March-2010 30
5 B "foo" March-2010 25
旧(ER)版本:<0.20
您可以使用 pd.melt
获取大部分内容,然后排序:
>>> df
location name Jan-2010 Feb-2010 March-2010
0 A test 12 20 30
1 B foo 18 20 25
>>> df2 = pd.melt(df, id_vars=["location", "name"],
var_name="Date", value_name="Value")
>>> df2
location name Date Value
0 A test Jan-2010 12
1 B foo Jan-2010 18
2 A test Feb-2010 20
3 B foo Feb-2010 20
4 A test March-2010 30
5 B foo March-2010 25
>>> df2 = df2.sort(["location", "name"])
>>> df2
location name Date Value
0 A test Jan-2010 12
2 A test Feb-2010 20
4 A test March-2010 30
1 B foo Jan-2010 18
3 B foo Feb-2010 20
5 B foo March-2010 25
(可能想要输入 .reset_index(drop=True)
,只是为了保持输出干净。)
注: pd.DataFrame.sort
pd.DataFrame.sort_values
.
我想我找到了一个更简单的解决方案
temp1 = pd.melt(df1, id_vars=["location"], var_name='Date', value_name='Value')
temp2 = pd.melt(df1, id_vars=["name"], var_name='Date', value_name='Value')
将整个 temp1
与 temp2
的列 name
temp1['new_column'] = temp2['name']
你现在得到了你想要的东西。
pd.wide_to_long
您可以为年份列添加前缀,然后直接输入 pd.wide_to_long
。我不会假装这是 高效 ,但在某些情况下它可能比 pd.melt
更方便,例如当您的列已经有适当的前缀时。
df.columns = np.hstack((df.columns[:2], df.columns[2:].map(lambda x: f'Value{x}')))
res = pd.wide_to_long(df, stubnames=['Value'], i='name', j='Date').reset_index()\
.sort_values(['location', 'name'])
print(res)
name Date location Value
0 test Jan-2010 A 12
2 test Feb-2010 A 20
4 test March-2010 A 30
1 foo Jan-2010 B 18
3 foo Feb-2010 B 20
5 foo March-2010 B 25
将set_index
with stack
for MultiIndex Series
, then for DataFrame
add reset_index
与rename
一起使用:
df1 = (df.set_index(["location", "name"])
.stack()
.reset_index(name='Value')
.rename(columns={'level_2':'Date'}))
print (df1)
location name Date Value
0 A test Jan-2010 12
1 A test Feb-2010 20
2 A test March-2010 30
3 B foo Jan-2010 18
4 B foo Feb-2010 20
5 B foo March-2010 25
将 link 添加到您可以复制的笔记本中,使用 pandas.melt
演示@DMS 的答案:
df.melt(id_vars=["location", "name"],
var_name="date",
value_name="value")