perché abbiamo bisogno di cudaDeviceSynchronize(); nei kernel con device-printf?

Question

__global__ void helloCUDA(float f) 
{ 
    printf("Hello thread %d, f=%f\n", threadIdx.x, f); 
} 

int main() 
{ 
    helloCUDA<<<1, 5>>>(1.2345f); 
    cudaDeviceSynchronize(); 
    return 0; 
} 

Perché cudaDeviceSynchronize(); in molti posti, ad esempio here, non è necessario dopo la chiamata del kernel?

Answer 1

Un lancio del kernel è asincrono. Ciò significa che restituisce il controllo al thread della CPU immediatamente dopo l'avvio del processo GPU, prima che il kernel abbia completato l'esecuzione.

Quindi qual è la prossima cosa nel thread della CPU qui? Uscita dell'applicazione.

All'uscita dall'applicazione, la capacità di inviare l'output allo standard output viene interrotta dal sistema operativo.

Quindi l'output generato in seguito dal kernel non ha un posto dove andare e non lo vedrete.

D'altra parte, se si utilizza cudaDeviceSynchronize(), allora il kernel è garantito per finire (e l'uscita dal kernel troveranno una coda di uscita standard di attesa), prima di l'applicazione è permesso di uscire.