Come restituire storia di perdita validazione in Keras

Question

utilizzando anaconda Python 2.7 di Windows 10.

mi alleno un modello di linguaggio utilizzando l'exmaple Keras:

print('Build model...') 
model = Sequential() 
model.add(GRU(512, return_sequences=True, input_shape=(maxlen, len(chars)))) 
model.add(Dropout(0.2)) 
model.add(GRU(512, return_sequences=False)) 
model.add(Dropout(0.2)) 
model.add(Dense(len(chars))) 
model.add(Activation('softmax')) 

model.compile(loss='categorical_crossentropy', optimizer='rmsprop') 

def sample(a, temperature=1.0): 
    # helper function to sample an index from a probability array 
    a = np.log(a)/temperature 
    a = np.exp(a)/np.sum(np.exp(a)) 
    return np.argmax(np.random.multinomial(1, a, 1)) 


# train the model, output generated text after each iteration 
for iteration in range(1, 3): 
    print() 
    print('-' * 50) 
    print('Iteration', iteration) 
    model.fit(X, y, batch_size=128, nb_epoch=1) 
    start_index = random.randint(0, len(text) - maxlen - 1) 

    for diversity in [0.2, 0.5, 1.0, 1.2]: 
     print() 
     print('----- diversity:', diversity) 

     generated = '' 
     sentence = text[start_index: start_index + maxlen] 
     generated += sentence 
     print('----- Generating with seed: "' + sentence + '"') 
     sys.stdout.write(generated) 

     for i in range(400): 
      x = np.zeros((1, maxlen, len(chars))) 
      for t, char in enumerate(sentence): 
       x[0, t, char_indices[char]] = 1. 

      preds = model.predict(x, verbose=0)[0] 
      next_index = sample(preds, diversity) 
      next_char = indices_char[next_index] 

      generated += next_char 
      sentence = sentence[1:] + next_char 

      sys.stdout.write(next_char) 
      sys.stdout.flush() 
     print() 

Secondo la documentazione Keras, i model.fit metodo restituisce un callback della cronologia, che ha un attributo della cronologia contenente gli elenchi delle perdite successive e altre metriche.

hist = model.fit(X, y, validation_split=0.2) 
print(hist.history) 

Dopo l'allenamento il mio modello, se corro print(model.history) ottengo l'errore:

AttributeError: 'Sequential' object has no attribute 'history' 

Come faccio a restituire la mia storia modello dopo l'allenamento il mio modello con il codice di cui sopra?

UPDATE

Il problema era che:

Di seguito doveva prima essere definito:

from keras.callbacks import History 
history = History() 

L'opzione callback doveva essere chiamato

model.fit(X_train, Y_train, nb_epoch=5, batch_size=16, callbacks=[history]) 

Ma ora se stampo

print(history.History) 

restituisce

{} 

anche se ho eseguito un'iterazione.

Answer 1

È stato risolto.

Le perdite riguardano solo la storia delle epoche. Stavo eseguendo iterazioni invece di usare l'opzione Keras built in epochs.

così invece di fare 4 iterazioni Ora ho

model.fit(......, nb_epoch = 4) 

Ora torna la perdita per ogni corsa epoca:

print(hist.history) 
{'loss': [1.4358016599558268, 1.399221191623641, 1.381293383180471, h1.3758836857303727]} 

Answer 2

Il dizionario con le cronologie di "acc", "perdita", ecc. È disponibile e salvato nella variabile hist.history.

Answer 3

Solo un esempio avviato dal

history = model.fit(X, Y, validation_split=0.33, nb_epoch=150, batch_size=10, verbose=0) 

È possibile utilizzare

print(history.history.keys()) 

per elencare tutti i dati nella cronologia.

Quindi, è possibile stampare la storia di perdita di convalida in questo modo:

print(history.history['val_loss']) 

Answer 4

Un'altra opzione è CSVLogger: https://keras.io/callbacks/#csvlogger. Crea un file csv che aggiunge il risultato di ogni epoca. Anche se interrompi l'allenamento, puoi vedere come si è evoluto.