LSTM
Den minste sekvensmodellen på leaderboardet. Ett LSTM-lag, 48 skjulte enheter, én felles stamme inn i tre hoder. Poenget er å forankre hva 0.7 GB parametere kan trekke ut av den rå 21-stegs sesjonssekvensen før de større sekvensmodellene får konkurrere.
Resultater
Slik fungerer det
Et enkelt LSTM-lag leser den 38-dims per-steg-sekvensen (litt mindre per-steg- koding enn BiGRU og transformer: ingen per-steg sideinformasjon). Den siste skjulte tilstanden blir sesjonsoppsummeringen, skyves gjennom en 48-enhets MLP-stamme, deretter inn i tre lineære hoder. Ingen attention-pooling, ingen sidefeature-fusjon, ingen avansert treningsplan.
Taper mot BiGRU på alle kolonner, men holder seg innen 0.05 MAE på regresjonshodene – det er den lille-modell-historien denne raden er ment å fortelle: ekstra kapasitet i sekvensserien hjelper kjønn, knapt regresjon.
Konfigurasjon
- Skjult størrelse48
- Lag1
- Per-steg input38 dims (ingen stegtype one-hot vs BiGRUs 40)
- PoolingSiste skjulte tilstand
- Dropout0.4
- OptimererAdam, lr 1e-3, cosinusforfall over 100 epoker
- CV5-fold StratifiedKFold på kjønn, seed 42