Creare una matrice diagonale sparsa dalla riga di una matrice sparsa

Question

Elaborare matrici piuttosto grandi in Python/Scipy. Ho bisogno di estrarre le righe dalla matrice grande (che viene caricata su coo_matrix) e usarle come elementi diagonali. Attualmente lo faccio nel modo seguente:

import numpy as np 
from scipy import sparse 

def computation(A): 
    for i in range(A.shape[0]): 
    diag_elems = np.array(A[i,:].todense()) 
    ith_diag = sparse.spdiags(diag_elems,0,A.shape[1],A.shape[1], format = "csc") 
    #... 

#create some random matrix 
A = (sparse.rand(1000,100000,0.02,format="csc")*5).astype(np.ubyte) 
#get timings 
profile.run('computation(A)') 

Quello che vedo dalla profile uscita è che la maggior parte del tempo viene consumato da get_csr_submatrix funzione durante l'estrazione diag_elems. Questo mi fa pensare che io utilizzi una rappresentazione sparsa inefficiente dei dati iniziali o un modo sbagliato di estrarre una riga da una matrice sparsa. Puoi suggerire un modo migliore per estrarre una riga da una matrice sparsa e rappresentarla in una forma diagonale?

EDIT

La seguente variante rimuove strozzatura dall'estrazione fila (si noti che semplice cambiare 'csc' a csr non è sufficiente, A[i,:] devono essere sostituiti con A.getrow(i) pure). Tuttavia, la domanda principale è come omettere la materializzazione (.todense()) e creare la matrice diagonale dalla rappresentazione sparsa della riga.

import numpy as np 
from scipy import sparse 

def computation(A): 
    for i in range(A.shape[0]): 
    diag_elems = np.array(A.getrow(i).todense()) 
    ith_diag = sparse.spdiags(diag_elems,0,A.shape[1],A.shape[1], format = "csc") 
    #... 

#create some random matrix 
A = (sparse.rand(1000,100000,0.02,format="csr")*5).astype(np.ubyte) 
#get timings 
profile.run('computation(A)') 

Se creare matrice diagonale dal 1-fila CSR matrice direttamente, come segue:

diag_elems = A.getrow(i) 
ith_diag = sparse.spdiags(diag_elems,0,A.shape[1],A.shape[1]) 

allora posso né specificare format="csc" argomento, né convertire ith_diags formato CSC:

Traceback (most recent call last): 
    File "<stdin>", line 1, in <module> 
    File "/usr/local/lib/python2.6/profile.py", line 70, in run 
    prof = prof.run(statement) 
    File "/usr/local/lib/python2.6/profile.py", line 456, in run 
    return self.runctx(cmd, dict, dict) 
    File "/usr/local/lib/python2.6/profile.py", line 462, in runctx 
    exec cmd in globals, locals 
    File "<string>", line 1, in <module> 
    File "<stdin>", line 4, in computation 
    File "/usr/local/lib/python2.6/site-packages/scipy/sparse/construct.py", line 56, in spdiags 
    return dia_matrix((data, diags), shape=(m,n)).asformat(format) 
    File "/usr/local/lib/python2.6/site-packages/scipy/sparse/base.py", line 211, in asformat 
    return getattr(self,'to' + format)() 
    File "/usr/local/lib/python2.6/site-packages/scipy/sparse/dia.py", line 173, in tocsc 
    return self.tocoo().tocsc() 
    File "/usr/local/lib/python2.6/site-packages/scipy/sparse/coo.py", line 263, in tocsc 
    data = np.empty(self.nnz, dtype=upcast(self.dtype)) 
    File "/usr/local/lib/python2.6/site-packages/scipy/sparse/sputils.py", line 47, in upcast 
    raise TypeError,'no supported conversion for types: %s' % args 
TypeError: no supported conversion for types: object` 

Answer 1

Ecco cosa mi è venuto in mente:

def computation(A): 
    for i in range(A.shape[0]): 
     idx_begin = A.indptr[i] 
     idx_end = A.indptr[i+1] 
     row_nnz = idx_end - idx_begin 
     diag_elems = A.data[idx_begin:idx_end] 
     diag_indices = A.indices[idx_begin:idx_end] 
     ith_diag = sparse.csc_matrix((diag_elems, (diag_indices, diag_indices)),shape=(A.shape[1], A.shape[1])) 
     ith_diag.eliminate_zeros() 

Il profiler Python ha detto 1.464 secondi contro 5.574 secondi precedenti. Sfrutta gli array densi sottostanti (indptr, indici, dati) che definiscono matrici sparse. Ecco il mio corso accelerato: A.indptr [i]: A.indptr [i + 1] definisce quali elementi negli array densi corrispondono ai valori diversi da zero nella riga i. A.data è un array 1d denso di valori diversi da zero di A e A.indptr è la colonna in cui vengono utilizzati tali valori.

Farei altri test per accertarmi che questo faccia la stessa cosa di prima. Ho controllato solo alcuni casi.