Si lega a
regola i pesi e la soglia; la sua riuscita è garantita dal teorema di convergenza del percettrone; è l'antenata della retropropagazione
Da qui ci si arriva
- Percettrone
La prima rete neurale che impara da sola i propri pesi: somma gli ingressi moltiplicati per i pesi e si accende se la somma supera la soglia. Costruita da Rosenblatt (1957-58) anche come macchina fisica, la Mark I
- Pesi
I numeri che dicono quanto conta ciascun ingresso: positivi a favore, negativi contro. Sono ciò che l'apprendimento regola - nella Mark I erano potenziometri mossi da motorini
- Teorema di convergenza del percettrone
Se esiste una retta che separa gli esempi, la regola di apprendimento la trova in un numero finito di correzioni (Rosenblatt; dimostrazione classica di Novikoff, 1962)
- Retropropagazione
L'algoritmo che ripartisce l'errore all'indietro, strato per strato, in proporzione alla responsabilità di ciascun peso; l'idea fu scoperta da più gruppi negli anni Settanta e Ottanta, e Rumelhart, Hinton e Williams (1986) la resero lo strumento di tutti