geavanceerd
Ontwerp van een Transformer Model voor Time-Series
Ontwerp een aangepast transformer-architectuur voor multivariate tijdreeksvoorspelling.
📝 Treść promptu
Je hebt de opdracht gekregen om een state-of-the-art voorspellingsmodel te bouwen voor financiële marktdata die niet-stationair is en veel ruis bevat. Beschrijf in detail de architectuur van een op Transformer gebaseerd model (bijv. Temporal Fusion Transformer). Leg uit hoe je positionele encoding toepast op tijdreeksgegevens, hoe je attention-mechanismen configureert om langdurige afhankelijkheden te vangen, en welke regularisatietechnieken je gebruikt om overfitting te voorkomen. Geef ook pseudocode voor de aangepaste loss-functie die zwaarder weegt op recente voorspellingsfouten.