如何创建相互作用的稀疏矩阵？

debugcn 发表于 Dev

用户名

假设我有两个稀疏矩阵：

from scipy.sparse import random
from scipy import stats

S0 = random(5000,100, density=0.01)
S1 = random(5000,100,density=0.01)

我想创建一个稀疏矩阵S2，形状为（5000,100 * 100）。（在我的实际应用中，“ 5000”应为2000万）。对于每一行，这是这两个100维向量内的某种交互。

S2 =  some_kind_of_tensor_multiplication(S0 ,S1 )

为了说明S2 [i，j] = S0 [i，k0] * S1 [i，k1]，我们对[0,99]中的所有k0，k1进行迭代以创建长度为10000的第i行。实现这一目标的有效方法。有人可以帮忙吗？

低效的方法看起来像，但是我认为这将是非常低效的...：

result=[]
for i in range(S0.shape[1]):
    for j in range(S1.shape[1]):
        result.append(S0[:,i]*S1[:,j])
result = np.vstack(result).T

类似问题位于：Python中2个稀疏矩阵的特殊逐行乘法

我试过了：

import numpy as np

from scipy.sparse import random
from scipy import stats
from scipy import sparse

S0 = random(20000000,100, density=0.01).tocsr()
S1 = random(20000000,100,density=0.01).tocsr()


def test_iter(A, B):
    m,n1 = A.shape
    n2 = B.shape[1]
    Cshape = (m, n1*n2)
    data = np.empty((m,),dtype=object)
    col =  np.empty((m,),dtype=object)
    row =  np.empty((m,),dtype=object)
    for i,(a,b) in enumerate(zip(A, B)):
        data[i] = np.outer(a.data, b.data).flatten()
        #col1 = a.indices * np.arange(1,a.nnz+1) # wrong when a isn't dense
        col1 = a.indices * n2   # correction
        col[i] = (col1[:,None]+b.indices).flatten()
        row[i] = np.full((a.nnz*b.nnz,), i)
    data = np.concatenate(data)
    col = np.concatenate(col)
    row = np.concatenate(row)
    return sparse.coo_matrix((data,(row,col)),shape=Cshape)

尝试：

%%time
S_result = test_iter(S0,S1)

需要Wall时间：53min 8s。我们有更快的计划吗，谢谢？

hpaulj

这是重写，可以直接使用csr intptr。通过直接对data和切片，可以节省时间indices，而不是csr每行新建一个新的1行矩阵：

def test_iter2(A, B): 
    m,n1 = A.shape 
    n2 = B.shape[1] 
    Cshape = (m, n1*n2) 
    data = [] 
    col =  [] 
    row =  [] 
    for i in range(A.shape[0]): 
        slc1 = slice(A.indptr[i],A.indptr[i+1]) 
        data1 = A.data[slc1]; ind1 = A.indices[slc1] 
        slc2 = slice(B.indptr[i],B.indptr[i+1])  
        data2 = B.data[slc2]; ind2 = B.indices[slc2]  
        data.append(np.outer(data1, data2).ravel()) 
        col.append(((ind1*n2)[:,None]+ind2).ravel()) 
        row.append(np.full(len(data1)*len(data2), i)) 
    data = np.concatenate(data) 
    col = np.concatenate(col) 
    row = np.concatenate(row) 
    return sparse.coo_matrix((data,(row,col)),shape=Cshape)

使用较小的测试用例，可以节省大量时间：

In [536]: S0=sparse.random(200,200, 0.01, format='csr')                                                   
In [537]: S1=sparse.random(200,200, 0.01, format='csr')                                                   
In [538]: timeit test_iter(S0,S1)                                                                         
42.8 ms ± 1.7 ms per loop (mean ± std. dev. of 7 runs, 10 loops each)
In [539]: timeit test_iter2(S0,S1)                                                                        
6.94 ms ± 27 µs per loop (mean ± std. dev. of 7 runs, 100 loops each)

本文收集自互联网，转载请注明来源。

如有侵权，请联系[email protected] 删除。