Come dire a Keras di interrompere l'allenamento in base al valore di perdita?

Question

Attualmente io uso il seguente codice:

callbacks = [ 
    EarlyStopping(monitor='val_loss', patience=2, verbose=0), 
    ModelCheckpoint(kfold_weights_path, monitor='val_loss', save_best_only=True, verbose=0), 
] 
model.fit(X_train.astype('float32'), Y_train, batch_size=batch_size, nb_epoch=nb_epoch, 
     shuffle=True, verbose=1, validation_data=(X_valid, Y_valid), 
     callbacks=callbacks) 

Racconta Keras a smettere di formazione quando la perdita non ha migliorato per 2 epoche. Ma voglio smettere di formazione dopo la perdita è diventato più piccolo di alcuni costante "THR":

if val_loss < THR: 
    break 

che ho visto nella documentazione ci sono possibilità di fare il vostro proprio callback: http://keras.io/callbacks/ Ma non abbiamo trovato nulla come fermare processo di formazione . Ho bisogno di un consiglio.

Answer 1

Una soluzione è chiamare model.fit(nb_epoch=1, ...) all'interno di un ciclo for, quindi è possibile inserire un'istruzione di interruzione all'interno del ciclo for e fare qualsiasi altro flusso di controllo personalizzato desiderato.

Answer 2

Ho trovato la risposta. Ho esaminato le fonti di Keras e ho trovato il codice per EarlyStopping. Ho fatto il mio richiamo, basato su di esso:

class EarlyStoppingByLossVal(Callback): 
    def __init__(self, monitor='val_loss', value=0.00001, verbose=0): 
     super(Callback, self).__init__() 
     self.monitor = monitor 
     self.value = value 
     self.verbose = verbose 

    def on_epoch_end(self, epoch, logs={}): 
     current = logs.get(self.monitor) 
     if current is None: 
      warnings.warn("Early stopping requires %s available!" % self.monitor, RuntimeWarning) 

     if current < self.value: 
      if self.verbose > 0: 
       print("Epoch %05d: early stopping THR" % epoch) 
      self.model.stop_training = True 

e di utilizzo:

callbacks = [ 
    EarlyStoppingByLossVal(monitor='val_loss', value=0.00001, verbose=1), 
    # EarlyStopping(monitor='val_loss', patience=2, verbose=0), 
    ModelCheckpoint(kfold_weights_path, monitor='val_loss', save_best_only=True, verbose=0), 
] 
model.fit(X_train.astype('float32'), Y_train, batch_size=batch_size, nb_epoch=nb_epoch, 
     shuffle=True, verbose=1, validation_data=(X_valid, Y_valid), 
     callbacks=callbacks) 

Answer 3

Il callback keras.callbacks.EarlyStopping ha un argomento min_delta. Dalla documentazione di Keras:

min_delta: la variazione minima nella quantità monitorata per qualificarsi come miglioramento, cioè una variazione assoluta inferiore a min_delta, non verrà considerata come miglioramento.