Tema

I concettimachine-learningNel grafo

Encoder-only

La forma del Transformer che legge senza generare: trasforma la sequenza in rappresentazioni; la forma di BERT

Si lega a

è una forma del blocco del Transformer; non usa la maschera causale; è il termine di confronto del decoder-only

Da qui ci si arriva

  1. Encoder-decoder

    La forma che legge e poi genera: il codificatore trasforma l'ingresso, il decodificatore produce l'uscita; la forma della traduzione e di T5

Dove se ne parla

  1. Le architetture a confronto: come leggere la scheda di un modello