Tema

I concettimachine-learningNel grafo

Maledizione della dimensionalità

La crescita combinatoria delle sequenze possibili, tanto rapida che nessun corpus può coprirle tutte

Si lega a

affligge il modello n-gramma; motiva l'embedding di parola e le rappresentazioni distribuite

Da qui ci si arriva

  1. Modello n-gramma

    Un modello statistico che stima il prossimo token dalle frequenze di sequenze corte osservate e, quando i conteggi mancano, può ricorrere a sequenze più brevi

Dove se ne parla

  1. Dai token ai vettori: l'embedding