Gradiente dall'espressione Theano per la visualizzazione del filtro in Keras

Question

Per un ConvNet può essere interessante trovare l'input con limiti normati che massimizza l'attività di una singola conv. filtro come un modo per visualize the filters. Mi piacerebbe farlo nel pacchetto di deep learning Keras. Questo potrebbe essere fatto usando un algoritmo di ottimizzazione della scatola nera con il codice dallo FAQ.

# with a Sequential model 
get_3rd_layer_output = theano.function([model.layers[0].input], 
             model.layers[3].get_output(train=False)) 
layer_output = get_3rd_layer_output(X) 

Tuttavia, sarebbe un compito di ottimizzazione sostanzialmente più facile se avessi il gradiente. Come posso estrarre il gradiente dall'espressione Theano e inserirlo in una libreria di ottimizzazione Python come Scipy?

Answer 1

È possibile stampare il gradiente come descritto in here e codificarlo manualmente in Scipy. È inoltre possibile eseguire l'ottimizzazione in Theano - vedere this question.

Tuttavia, probabilmente l'approccio più straight-forward è quello di creare una funzione get_gradients() che utilizza theano.grad() restituire le pendenze dei filtri rispetto ad un ingresso, quindi chiamare scipy.optimize.minimize con jac=get_gradients. Secondo il documentation:

jac: bool o richiamabile, Jacobiana opzionale (gradiente) di funzione obiettivo . [...] jac può anche essere un callable restituendo il gradiente di all'obiettivo. In questo caso, deve accettare gli stessi argomenti del divertimento.