如何使用开始和结束索引对 numpy 行进行切片
How to slice numpy rows using start and end index
index = np.array([[1,2],[2,4],[1,5],[5,6]])
z = np.zeros(shape = [4,10], dtype = np.float32)
将 z[np.arange(4),index[:,0]]
、z[np.arange(4), index[:,1]]
以及它们之间的所有值设置为 1 的有效方法是什么?
预期输出:
array([[0, 1, 1, 0, 0, 0, 0, 0, 0, 0],
[0, 0, 1, 1, 1, 0, 0, 0, 0, 0],
[0, 1, 1, 1, 1, 1, 0, 0, 0, 0],
[0, 0, 0, 0, 0, 1, 1, 0, 0, 0]])
我想这就是你想要做的 - 但有循环:
In [35]: z=np.zeros((4,10),int)
In [36]: index = np.array([[1,2],[2,4],[1,5],[5,6]])
In [37]: for i in range(4):
...: z[i,index[i,0]:index[i,1]] = 1
...:
In [38]: z
Out[38]:
array([[0, 1, 0, 0, 0, 0, 0, 0, 0, 0],
[0, 0, 1, 1, 0, 0, 0, 0, 0, 0],
[0, 1, 1, 1, 1, 0, 0, 0, 0, 0],
[0, 0, 0, 0, 0, 1, 0, 0, 0, 0]])
由于有不同长度的切片,这将很难用一个数组表达式来完成。也许并非不可能,但足够棘手,可能不值得尝试。
看看这个z
中1的索引:
In [40]: np.where(z)
Out[40]:
(array([0, 1, 1, 2, 2, 2, 2, 3], dtype=int32),
array([1, 2, 3, 1, 2, 3, 4, 5], dtype=int32))
[0,1,2,3]和index
有规律的生成吗?
我可以生成带有多个切片的第二行:
In [39]: np.r_[1:2, 2:4, 1:5, 5:6]
Out[39]: array([1, 2, 3, 1, 2, 3, 4, 5])
但请注意,r_
涉及多次迭代 - 生成输入、生成扩展切片并连接它们。
我可以生成 where
的第一行:
In [41]: index[:,1]-index[:,0]
Out[41]: array([1, 2, 4, 1])
In [42]: np.arange(4).repeat(_)
Out[42]: array([0, 1, 1, 2, 2, 2, 2, 3])
正如预期的那样,这 2 个索引数组给了我们所有的 1:
In [43]: z[Out[42],Out[39]]
Out[43]: array([1, 1, 1, 1, 1, 1, 1, 1])
或者从 index
生成 Out[39]
:
In [50]: np.concatenate([np.arange(i,j) for i,j in index])
Out[50]: array([1, 2, 3, 1, 2, 3, 4, 5])
将我的解决方案与@Divakar 的解决方案进行比较
def foo0(z,index):
for i in range(z.shape[0]):
z[i,index[i,0]:index[i,1]] = 1
return z
def foo4(z,index):
r = np.arange(z.shape[1])
mask = (index[:,0,None] <= r) & (index[:,1,None] >= r)
z[mask] = 1
return z
对于这个小例子,行迭代更快:
In [155]: timeit foo0(z,index)
7.12 µs ± 224 ns per loop (mean ± std. dev. of 7 runs, 100000 loops each)
In [156]: timeit foo4(z,index)
19.8 µs ± 890 ns per loop (mean ± std. dev. of 7 runs, 10000 loops each)
即使对于更大的数组,行迭代方法也更快:
In [157]: Z.shape
Out[157]: (1000, 1000)
In [158]: Index.shape
Out[158]: (1000, 2)
In [159]: timeit foo0(Z,Index)
1.72 ms ± 16.4 µs per loop (mean ± std. dev. of 7 runs, 1000 loops each)
In [160]: timeit foo4(Z,Index)
7.47 ms ± 105 µs per loop (mean ± std. dev. of 7 runs, 100 loops each)
我们可以利用 NumPy broadcasting
通过简单地将开始和结束索引与覆盖列长度的范围数组进行比较来为我们提供一个掩码,该掩码代表输出数组中需要的所有位置被分配为 1s
.
所以,解决方案是这样的 -
ncols = z.shape[1]
r = np.arange(z.shape[1])
mask = (index[:,0,None] <= r) & (index[:,1,None] >= r)
z[mask] = 1
样本运行-
In [39]: index = np.array([[1,2],[2,4],[1,5],[5,6]])
...: z = np.zeros(shape = [4,10], dtype = np.float32)
In [40]: ncols = z.shape[1]
...: r = np.arange(z.shape[1])
...: mask = (index[:,0,None] <= r) & (index[:,1,None] >= r)
...: z[mask] = 1
In [41]: z
Out[41]:
array([[0., 1., 1., 0., 0., 0., 0., 0., 0., 0.],
[0., 0., 1., 1., 1., 0., 0., 0., 0., 0.],
[0., 1., 1., 1., 1., 1., 0., 0., 0., 0.],
[0., 0., 0., 0., 0., 1., 1., 0., 0., 0.]], dtype=float32)
如果z
总是一个zeros-initialized
数组,我们可以直接得到mask
-
的输出
z = mask.astype(int)
样本运行-
In [37]: mask.astype(int)
Out[37]:
array([[0, 1, 1, 0, 0, 0, 0, 0, 0, 0],
[0, 0, 1, 1, 1, 0, 0, 0, 0, 0],
[0, 1, 1, 1, 1, 1, 0, 0, 0, 0],
[0, 0, 0, 0, 0, 1, 1, 0, 0, 0]])
基准测试
比较 @hpaulj 的 foo0
和我的 foo4
,如 @hpaulj 的 post 中所列,用于具有 1000
行和可变列数的集合。我们从 10
列开始,因为这是输入样本的列出方式,我们给它更多的行 - 1000
。我们会将列数增加到 1000
.
这是时间安排 -
In [14]: ncols = 10
...: index = np.random.randint(0,ncols,(10000,2))
...: z = np.zeros(shape = [len(index),ncols], dtype = np.float32)
In [15]: %timeit foo0(z,index)
...: %timeit foo4(z,index)
100 loops, best of 3: 6.27 ms per loop
1000 loops, best of 3: 594 µs per loop
In [16]: ncols = 100
...: index = np.random.randint(0,ncols,(10000,2))
...: z = np.zeros(shape = [len(index),ncols], dtype = np.float32)
In [17]: %timeit foo0(z,index)
...: %timeit foo4(z,index)
100 loops, best of 3: 6.49 ms per loop
100 loops, best of 3: 2.74 ms per loop
In [38]: ncols = 300
...: index = np.random.randint(0,ncols,(1000,2))
...: z = np.zeros(shape = [len(index),ncols], dtype = np.float32)
In [39]: %timeit foo0(z,index)
...: %timeit foo4(z,index)
1000 loops, best of 3: 657 µs per loop
1000 loops, best of 3: 600 µs per loop
In [40]: ncols = 1000
...: index = np.random.randint(0,ncols,(1000,2))
...: z = np.zeros(shape = [len(index),ncols], dtype = np.float32)
In [41]: %timeit foo0(z,index)
...: %timeit foo4(z,index)
1000 loops, best of 3: 673 µs per loop
1000 loops, best of 3: 1.78 ms per loop
因此,选择最好的一个将取决于循环和基于广播的向量化问题集之间的列数。
index = np.array([[1,2],[2,4],[1,5],[5,6]])
z = np.zeros(shape = [4,10], dtype = np.float32)
将 z[np.arange(4),index[:,0]]
、z[np.arange(4), index[:,1]]
以及它们之间的所有值设置为 1 的有效方法是什么?
预期输出:
array([[0, 1, 1, 0, 0, 0, 0, 0, 0, 0],
[0, 0, 1, 1, 1, 0, 0, 0, 0, 0],
[0, 1, 1, 1, 1, 1, 0, 0, 0, 0],
[0, 0, 0, 0, 0, 1, 1, 0, 0, 0]])
我想这就是你想要做的 - 但有循环:
In [35]: z=np.zeros((4,10),int)
In [36]: index = np.array([[1,2],[2,4],[1,5],[5,6]])
In [37]: for i in range(4):
...: z[i,index[i,0]:index[i,1]] = 1
...:
In [38]: z
Out[38]:
array([[0, 1, 0, 0, 0, 0, 0, 0, 0, 0],
[0, 0, 1, 1, 0, 0, 0, 0, 0, 0],
[0, 1, 1, 1, 1, 0, 0, 0, 0, 0],
[0, 0, 0, 0, 0, 1, 0, 0, 0, 0]])
由于有不同长度的切片,这将很难用一个数组表达式来完成。也许并非不可能,但足够棘手,可能不值得尝试。
看看这个z
中1的索引:
In [40]: np.where(z)
Out[40]:
(array([0, 1, 1, 2, 2, 2, 2, 3], dtype=int32),
array([1, 2, 3, 1, 2, 3, 4, 5], dtype=int32))
[0,1,2,3]和index
有规律的生成吗?
我可以生成带有多个切片的第二行:
In [39]: np.r_[1:2, 2:4, 1:5, 5:6]
Out[39]: array([1, 2, 3, 1, 2, 3, 4, 5])
但请注意,r_
涉及多次迭代 - 生成输入、生成扩展切片并连接它们。
我可以生成 where
的第一行:
In [41]: index[:,1]-index[:,0]
Out[41]: array([1, 2, 4, 1])
In [42]: np.arange(4).repeat(_)
Out[42]: array([0, 1, 1, 2, 2, 2, 2, 3])
正如预期的那样,这 2 个索引数组给了我们所有的 1:
In [43]: z[Out[42],Out[39]]
Out[43]: array([1, 1, 1, 1, 1, 1, 1, 1])
或者从 index
生成 Out[39]
:
In [50]: np.concatenate([np.arange(i,j) for i,j in index])
Out[50]: array([1, 2, 3, 1, 2, 3, 4, 5])
将我的解决方案与@Divakar 的解决方案进行比较
def foo0(z,index):
for i in range(z.shape[0]):
z[i,index[i,0]:index[i,1]] = 1
return z
def foo4(z,index):
r = np.arange(z.shape[1])
mask = (index[:,0,None] <= r) & (index[:,1,None] >= r)
z[mask] = 1
return z
对于这个小例子,行迭代更快:
In [155]: timeit foo0(z,index)
7.12 µs ± 224 ns per loop (mean ± std. dev. of 7 runs, 100000 loops each)
In [156]: timeit foo4(z,index)
19.8 µs ± 890 ns per loop (mean ± std. dev. of 7 runs, 10000 loops each)
即使对于更大的数组,行迭代方法也更快:
In [157]: Z.shape
Out[157]: (1000, 1000)
In [158]: Index.shape
Out[158]: (1000, 2)
In [159]: timeit foo0(Z,Index)
1.72 ms ± 16.4 µs per loop (mean ± std. dev. of 7 runs, 1000 loops each)
In [160]: timeit foo4(Z,Index)
7.47 ms ± 105 µs per loop (mean ± std. dev. of 7 runs, 100 loops each)
我们可以利用 NumPy broadcasting
通过简单地将开始和结束索引与覆盖列长度的范围数组进行比较来为我们提供一个掩码,该掩码代表输出数组中需要的所有位置被分配为 1s
.
所以,解决方案是这样的 -
ncols = z.shape[1]
r = np.arange(z.shape[1])
mask = (index[:,0,None] <= r) & (index[:,1,None] >= r)
z[mask] = 1
样本运行-
In [39]: index = np.array([[1,2],[2,4],[1,5],[5,6]])
...: z = np.zeros(shape = [4,10], dtype = np.float32)
In [40]: ncols = z.shape[1]
...: r = np.arange(z.shape[1])
...: mask = (index[:,0,None] <= r) & (index[:,1,None] >= r)
...: z[mask] = 1
In [41]: z
Out[41]:
array([[0., 1., 1., 0., 0., 0., 0., 0., 0., 0.],
[0., 0., 1., 1., 1., 0., 0., 0., 0., 0.],
[0., 1., 1., 1., 1., 1., 0., 0., 0., 0.],
[0., 0., 0., 0., 0., 1., 1., 0., 0., 0.]], dtype=float32)
如果z
总是一个zeros-initialized
数组,我们可以直接得到mask
-
z = mask.astype(int)
样本运行-
In [37]: mask.astype(int)
Out[37]:
array([[0, 1, 1, 0, 0, 0, 0, 0, 0, 0],
[0, 0, 1, 1, 1, 0, 0, 0, 0, 0],
[0, 1, 1, 1, 1, 1, 0, 0, 0, 0],
[0, 0, 0, 0, 0, 1, 1, 0, 0, 0]])
基准测试
比较 @hpaulj 的 foo0
和我的 foo4
,如 @hpaulj 的 post 中所列,用于具有 1000
行和可变列数的集合。我们从 10
列开始,因为这是输入样本的列出方式,我们给它更多的行 - 1000
。我们会将列数增加到 1000
.
这是时间安排 -
In [14]: ncols = 10
...: index = np.random.randint(0,ncols,(10000,2))
...: z = np.zeros(shape = [len(index),ncols], dtype = np.float32)
In [15]: %timeit foo0(z,index)
...: %timeit foo4(z,index)
100 loops, best of 3: 6.27 ms per loop
1000 loops, best of 3: 594 µs per loop
In [16]: ncols = 100
...: index = np.random.randint(0,ncols,(10000,2))
...: z = np.zeros(shape = [len(index),ncols], dtype = np.float32)
In [17]: %timeit foo0(z,index)
...: %timeit foo4(z,index)
100 loops, best of 3: 6.49 ms per loop
100 loops, best of 3: 2.74 ms per loop
In [38]: ncols = 300
...: index = np.random.randint(0,ncols,(1000,2))
...: z = np.zeros(shape = [len(index),ncols], dtype = np.float32)
In [39]: %timeit foo0(z,index)
...: %timeit foo4(z,index)
1000 loops, best of 3: 657 µs per loop
1000 loops, best of 3: 600 µs per loop
In [40]: ncols = 1000
...: index = np.random.randint(0,ncols,(1000,2))
...: z = np.zeros(shape = [len(index),ncols], dtype = np.float32)
In [41]: %timeit foo0(z,index)
...: %timeit foo4(z,index)
1000 loops, best of 3: 673 µs per loop
1000 loops, best of 3: 1.78 ms per loop
因此,选择最好的一个将取决于循环和基于广播的向量化问题集之间的列数。