LightGBM + perseptuelle features
Samme enkle LightGBM-konfigurasjon som enkelt-LGB-basislinjen, men med 33 ekstra perseptuelt-bevisste features boltet på den eksisterende 441-feature-vektoren. De nye featurene er i stor grad LAB-romkodinger og kjønnsprototype-avstander. Én enkelt tre-av-trær slår den fulle stakkede ensemblen på kjønn-AUC med dette feature-settet.
Resultater
Hvorfor dette er på leaderboardet
Den originale 441-feature-vektoren koder farger i RGB og HSL. Ingen av disse er perseptuelt uniforme – to farger som ser like forskjellige ut for et menneske kan ligge på veldig ulike avstander i modellens input. LAB fikser det, og gradientboostede trær kan ikke konstruere en ikke-lineær sRGB-til-LAB-transform fra akseparallelle splitter, så den nye kodingen tilfører genuint informasjon modellen ikke kunne slutte seg til.
Oppå LAB la jeg til en "kjønnsprototype"-avstand: ta noen stereotypisk jentekodet farger (lys rosa, sterk rosa, lys lilla, rød) og guttekodet farger (sterk blå, himmelblå, grønn, mørk grå), gjennomsnittes hver gruppe i LAB, og beregn Delta-E fra brukerens valg til hvert prototypesenter. Dette er den typen forkunnskap et tre ikke kan finne opp på egenhånd, selv med rike features.
De 33 nye featurene
Fem blokker med features, alle lagt til base-441-vektoren:
- Siste valg LABL*, a*, b* til den valgte fargen (3 features)
- r1 LAB-statistikkGjennomsnitt og std av L*, a*, b* over de 16 runde-1-vinnerne (6)
- r2 LAB-statistikkGjennomsnitt og std av L*, a*, b* over de 4 runde-2-vinnerne (6)
- Tilbudt LAB-statistikkGjennomsnitt og std av L*, a*, b* over alle 64 tilbudte farger (6)
- KjønnsprototypeDelta-E fra siste / r1-valg til jente-prototype og gutte-prototype-senter, pluss log-ratio av avstander (5)
- SpørsmålsvanskelighetIntragruppe tilbudt diversitet (gjennomsnitt og std), pluss valgt-vs-avvist delta normalisert etter gruppespredning (4)
- TidsavvikAndel hastede (under 1s) og dvelte (over 7s) spørsmål, variasjonskoeffisient for tidstakinger (3)
Hvilke nye features faktisk teller
Gain-basert viktighet fra en full-data LightGBM-fitting på kjønn. Rangeringer er av alle 474 features. Stjerne markerer nye.
| Rangering | Feature | Gain | Notat |
|---|---|---|---|
| ★ 1 | r1_lab_b_std | 10 689 | blå-gul spredning over r1-valg |
| 2 | sel_r1_dr | 4 045 | r1 gjennomsnittlig rød - tilbudt gjennomsnittlig rød |
| ★ 3 | r1_to_girl_proto_mean | 3 234 | gjennomsnittlig Delta-E fra r1 til jente-prototype |
| ★ 4 | r1_relative_decisive_mean | 3 102 | besluttsomhet / gruppevanskelighet |
| 5 | r1_l_mean | 2 769 | r1 gjennomsnittlig lyshet (HSL) |
| ★ 10 | off_lab_b_std | 997 | tilbudte farger b*-spredning |
| ★ 17 | r1_relative_decisive_std | 661 | variabilitet av relativ besluttsomhet |
| ★ 20 | r1_lab_L_mean | 618 | r1 gjennomsnittlig lyshet (LAB) |
Fem av topp-20-featurene er nye, inkludert den eneste med høyest gain blant
alle 474. r1_lab_b_std er interessant: den fanger hvor mye
brukerens 16 runde-1-valg varierer langs den blå-gule aksen. Liten std betyr
at brukeren holdt seg på én side av b*-spekteret – det vil si konsekvent
"blåaktig" eller konsekvent "rosa/gulaktig" – som er nøyaktig det perseptuelle
signalet kjønnsoppgaven prøver å trekke ut.
Mindre interessant: enkelt-farge-LAB-featurene for siste valg
(final_lab_L, final_lab_a, final_lab_b)
lander alle utenfor topp-350. Redundansen med eksisterende
final_h, final_s, final_l-features
er for høy til å tilføre mye. Aggregatene og prototype-avstandene er der
gainene faktisk ligger.
Konfigurasjon
- Feature-vektor441 base-features (full liste) + 33 perseptuelle ekstra
- ModellEnkel LightGBM, identisk konfig som enkelt-LGB-basislinje-raden
- Hyperparameteren_estimators=800/1000, num_leaves=63, learning_rate=0.03, feature_fraction=0.8, bagging_fraction=0.8, bagging_freq=5, min_child_samples=20, reg_lambda=1.0
- Formålbinary (kjønn) · regression / L2 (alder, humør)
- CV5-fold StratifiedKFold for kjønn, KFold for alder og humør, seed 42