Si lega a
ripete il meccanismo di attenzione in parallelo; le uscite ricomposte formano l'uscita del blocco di autoattenzione
Tema
Una delle copie parallele del meccanismo, ciascuna con le proprie proiezioni, che guardano la stessa sequenza da sottospazi diversi
ripete il meccanismo di attenzione in parallelo; le uscite ricomposte formano l'uscita del blocco di autoattenzione