Confronto dell'accesso alla memoria

Question

Quale dei 2 è più veloce (C++)?

for(i=0; i<n; i++) 
{ 
    sum_a = sum_a + a[i]; 
    sum_b = sum_b + b[i]; 
} 

O

for(i=0; i<n; i++) 
{ 
    sum_a = sum_a + a[i]; 
} 
for(i=0; i<n; i++) 
{ 
    sum_b = sum_b + b[i]; 
} 

io sono un principiante in modo da non so se questo ha un senso, ma nella prima versione, serie 'a' si accede, quindi 'b', che potrebbe portare a molti switch di memoria, poiché gli array 'a' e 'b' si trovano in differenti posizioni di memoria. Ma nella seconda versione, si accede dapprima all'intero array 'a', quindi all'intero array 'b', che consente di accedere a posizioni di memoria continue anziché alternare i due array.

Questo fa alcuna differenza tra il tempo di esecuzione delle due versioni (anche molto trascurabile)?

Answer 1

Non penso che ci sia una risposta corretta a questa domanda. In generale, la seconda versione ha più iterazioni (il sovraccarico di esecuzione della CPU), ma un accesso peggiore alla memoria (sovraccarico di accesso alla memoria). Ora immagina di eseguire questo codice su PC che ha un clock lento, ma una cache follemente buona. L'overhead della memoria viene ridotto, ma poiché l'orologio è lento, lo stesso ciclo due volte rende l'esecuzione molto più lunga. In altre parole: orologio veloce, ma memoria scadente: l'esecuzione di due loop non è un problema, quindi è meglio ottimizzare per l'accesso alla memoria.

Ecco esempio fresco su come è possibile profilo la vostra applicazione: Link

Answer 2

Quale dei due è più veloce (C++)?

O. Dipende

• L'attuazione di operator+ e operator[] (nel caso siano sovraccaricati)
• Posizione delle matrici in memoria (adiacente o meno)
• Dimensione delle matrici
• Dimensione della CPU memorizza nella cache
• Associativity di cache
velocità
• cache in relazione alla velocità della memoria
• Eventualmente altri fattori

Come Revolver_Ocelot menziona nella loro osservazione in a comment, alcuni compilatori possono persino trasformare il ciclo scritto nell'altro modulo.

Questo fa alcuna differenza tra il tempo di esecuzione delle due versioni (anche molto trascurabile)?

Può fare la differenza. La differenza può essere significativa o trascurabile.

L'analisi è valida. L'accesso alla memoria è in genere molto più lento della cache e saltare in due posizioni di memoria può causare il caching della cache ^† in alcune situazioni. Ti consiglio di utilizzare l'approccio separato per impostazione predefinita e di combinare solo i loop se lo hai misurato per essere più veloce nella CPU di destinazione.

^† Come MSalters points out thrashing non dovrebbe essere un problema con i processori desktop moderni (moderni come in ~ x86).