Ho costruito alcune reti neurali con TensorFlow, come MLP di base e reti neurali convoluzionali. Ora voglio passare a reti neurali ricorrenti. Tuttavia, non ho esperienza nell'elaborazione del linguaggio naturale. Pertanto le esercitazioni di NLP su TensorFlow per gli RNN non sono facili da leggere per me (e nemmeno molto interessanti).TensorFlow: semplice rete neurale ricorrente
Fondamentalmente voglio iniziare con qualcosa di semplice, non un LSTM.
Come si costruisce una semplice rete neurale ricorrente, come una rete Elman, in TensorFlow?
Sono stato in grado di trovare solo esempi RNN GRU o LSTM per TensorFlow, principalmente per NLP. Qualcuno sa di alcuni tutorial o esempi di reti neurali ricorrenti per TensorFlow?
Questa figura mostra una rete di base Elman, che viene spesso chiamato semplicemente SRN (semplice rete ricorrente):
Ho provato a creare qualcosa con la cella RNN ma non ho avuto molto successo. Finisco sempre con 'raise TypeError (" input deve essere una lista ")' o 'TypeError: tipo inanimato: 'list'' quando fornisco una matrice numpy o una lista. Inoltre, a cosa serve esattamente lo 'stato? Ho pensato che fosse il vettore più recente fuori dal livello di contesto, ma perché sarebbe necessario un esplicito 'Tensore 2D con forma [batch_size x self.state_size]' poi (secondo i documenti)? Potresti fornire un esempio? – daniel451
Sì, lo stato è il vettore di contesto più recente. Di solito si elaborano più sequenze insieme in un batch. Quindi il tensore 2d è i vettori di stato di ciascuna delle sequenze nel batch. – Aaron
https://github.com/rajarsheem/playing-with-RNNs/blob/master/int_seq.ipynb Dai un'occhiata a questo. Se hai bisogno di spiegazioni, crea un problema lì. –