Če dobre funkcije nagrade in hiperparametrov (nastavitev algoritma) še nismo odkrili, je lahko reševanje problema s spodbujevalnim učenjem praktično nemogoče.

Zaradi omejenega števila preiskovancev hiperparametrov nismo dodatno prilagajali, saj bi to lahko vodilo v pristranskost ocenjene uspešnosti.

Za vsako izbrano kombinacijo hiperparametrov model večkrat natreniramo na različnih delih učne množice in ocenimo njegovo uspešnost na preostalih delih.

Vse modele smo učili z enakimi nastavitvami, z izjemo hiperparametrov, specifičnih za posamezni model (β in λ).

Vse končne kode, odločitev o arhitekturi, izbor hiperparametrov, interpretacija rezultatov in zaključki so moj lasten intelektualni prispevek.

Vsaka eksperimentalna skupina predstavlja kombinacijo določene velikosti podatkovne zbirke in specifičnega nabora hiperparametrov.

Vgrajene so tudi številne metrike za ocenjevanje uspešnosti modelov ter metode za optimizacijo hiperparametrov, kot sta iskanje po mreži (angl.

Validacijska množica je bila uporabljena za določanje optimalnih hiperparametrov modelov, pri nevronskih mrežah pa tudi za implementacijo zgodnjega ustavljanja.

V ta namen so bile oblikovane ločene eksperimentalne skupine, ki se razlikujejo po velikosti podatkovne zbirke in vrednostih izbranih hiperparametrov.

V prvi fazi smo se osredotočili na iskanje najprimernejših hiperparametrov za nadaljnje učenje.

Ustrezna izbira reševalnika kot tudi ostalih hiperparametrov nevronskih mreže je bila razvidna iz korektnosti rezultatov napovedovanja postavljenih nevronskih mrež.

Uporabljen je bil kot glavni kriterij za nastavitev hiperparametrov in izbiro napovednega modela.

To pomeni, da so navedene metrike optimistične, saj smo prek njih hkrati izvajali optimizacijo hiperparametrov modela.

Tekom opazovanja različnih hiperparametrov opazimo, da več kombinacij doseže maksimalno vrednost, razen rep in zadnja leva noga zgolj v eni kombinaciji.

Takšna eksperimentalna zasnova omogoča primerjavo različnih nastavitev in jasno ločevanje učinkov, ki izhajajo iz spremembe velikosti zbirke, hiperparametrov in strukture modela.

Spreminjanje mejne vrednosti namreč predstavlja obliko optimizacije hiperparametrov modelov strojnega učenja.

Sledi analiza vpliva ključnih hiperparametrov, na podlagi katere je določena končna konfiguracija sistema.

Razlog za to verjetno izhaja iz neprimernih hiperparametrov za učenje v zakasnjenem okolju, vendar tega v delu nismo raziskali.

Priporočljivo ga je ponoviti ob vsaki spremembi podatkovne zbirke, arhitekture, kriterijske funkcije in drugih hiperparametrov.