Tema

I concettimachine-learningNel grafo

Connessione residua

La somma dell'ingresso di un sotto-blocco con la sua uscita: il segnale e il gradiente hanno una scorciatoia, e ogni blocco corregge invece di riscrivere

Si lega a

è nel blocco del Transformer; rende addestrabile la profondità (la profondità della rete)

Dove se ne parla

  1. Il Transformer, aperto col cacciavite