Quali sono i vantaggi o gli svantaggi di avere più nodi di uscita rispetto ad alcuni all'interno di una rete neurale

Question

Esistono vantaggi o svantaggi di avere molti nodi di uscita in una rete neurale rispetto ad alcuni?

Ad esempio, se uno scenario può essere rappresentato con 10, 3, 2 o 1 nodi di uscita, che è considerato migliore? - Ovviamente dipende da come vuoi rappresentare le uscite ma dire che per ora non ha importanza.

Oppure il numero di nodi di uscita non fa la differenza per l'accuratezza della rete, solo il tempo di calcolo necessario per addestrarlo?

Answer 1

Il numero di nodi di output deve corrispondere al numero di valori che si desidera calcolare. Per una semplice regressione o classificazione binaria, è necessario un solo nodo di output. Per multiclass classification o multiple regression, sono necessari più nodi di output.

In particolare, classificazione binaria utilizzando una rete neurale feedforward avviene calcolando l'attivazione di un unico nodo di uscita, quindi verificare se essa è maggiore di una certa soglia (comunemente 0 o .5). Per la classificazione multiclasse con k classi, si calcola i valori di k nodi di uscita, quindi selezionare l'indice i del valore più grande di prevedere classe i.

Inoltre, con più nodi di output è possibile eseguire multilabel classification, in cui si dispone nuovamente di un nodo di output singolo per classe/etichetta e di prevedere "true" per tutti i nodi che superano la soglia. La classificazione multilabel con le classi k può essere eseguita anche da k classificatori binari, ma è necessario addestrarli separatamente, il che può richiedere molto tempo con le reti neurali.