Τα μοντέλα χρονοσειρών των προηγούμενων δύο κεφαλαίων επιτρέπουν την ενσωμάτωση πληροφοριών από προηγούμενες παρατηρήσεις μιας σειράς, αλλά όχι άλλων πληροφοριών που μπορεί, επίσης, να είναι σχετικές. Για παράδειγμα, η επίδραση των διακοπών, η δραστηριότητα των ανταγωνιστών, οι αλλαγές στη νομοθεσία, η ευρύτερη οικονομία ή άλλες εξωτερικές μεταβλητές, μπορούν να εξηγήσουν μερικές από τις ιστορικές διακυμάνσεις και αυτό μπορεί να οδηγήσει σε πιο ακριβείς προβλέψεις. Από την άλλη πλευρά, τα μοντέλα παλινδρόμησης του Κεφαλαίου 7 επιτρέπουν την ενσωμάτωση πολλών σχετικών πληροφοριών από παράγοντες πρόβλεψης, αλλά όχι την ανεπαίσθητη δυναμική των χρονοσειρών, η οποία είναι διαχειρίσιμη με μοντέλα ARIMA. Σε αυτό το κεφάλαιο, εξετάζουμε πώς μπορούμε να επεκτείνουμε τα μοντέλα ARIMA για να επιτρέψουμε άλλες πληροφορίες να συμπεριληφθούν στα μοντέλα.
Στο Κεφάλαιο 7 εξετάσαμε τα μοντέλα παλινδρόμησης της μορφής
y_t = \beta_0 + \beta_1 x_{1,t} + \dots + \beta_k x_{k,t} + \varepsilon_t,
όπου y_t είναι μια γραμμική συνάρτηση των k παραγόντων πρόβλεψης (x_{1,t},\dots,x_{k,t}) και \varepsilon_t συνήθως θεωρείται ο μη συσχετισμένος όρος σφάλματος (δηλαδή, είναι λευκός θόρυβος). Θεωρήσαμε ελέγχους, όπως ο έλεγχος Ljung-Box, για να εκτιμήσουμε εάν τα προκύπτοντα υπόλοιπα συσχετίζονται σημαντικά.
Σε αυτό το κεφάλαιο, θα επιτρέψουμε στα σφάλματα από μια παλινδρόμηση να περιέχουν αυτοσυσχέτιση. Για να τονίσουμε την προοπτική αυτής της αλλαγής, θα αντικαταστήσουμε στην εξίσωση το \varepsilon_t με \eta_t. Το σφάλμα της σειρά \eta_t θεωρείται ότι ακολουθεί ένα μοντέλο ARIMA. Για παράδειγμα, εάν το \eta_t ακολουθεί ένα μοντέλο ARIMA(1,1,1), τότε μπορούμε να γράψουμε \begin{align*}
y_t & = \beta_0 + \beta_1 x_{1,t} + \dots + \beta_k x_{k,t} + \eta_t, \\
& (1 - \phi_1B)(1 - B)\eta_t = (1 + \theta_1B)\varepsilon_t,
\end{align*} όπου το \varepsilon_t είναι μια σειρά λευκού θορύβου.
Σημειώστε ότι το μοντέλο εδώ έχει δύο όρους σφάλματος — το σφάλμα από το μοντέλο παλινδρόμησης, το οποίο συμβολίζουμε με \eta_t και το σφάλμα από το μοντέλο ARIMA, το οποίο συμβολίζουμε με \varepsilon_t. Μόνο τα σφάλματα του μοντέλου ARIMA θεωρείται ότι είναι λευκός θόρυβος.
10.1 Εκτίμηση
Για να εκτιμήσουμε τις παραμέτρους του μοντέλου, πρέπει να ελαχιστοποιήσουμε το άθροισμα των τετραγώνων των τιμών \varepsilon_t. Αν ελαχιστοποιήσουμε το άθροισμα των τετραγώνων των τιμών \eta_t (κάτι που θα συνέβαινε αν εκτιμούσαμε το μοντέλο παλινδρόμησης αγνοώντας τους αυτοσυσχετισμούς στα σφάλματα), θα προκύψουν πολλά προβλήματα.
Οι εκτιμώμενοι συντελεστές \hat{\beta}_0,\dots,\hat{\beta}_k δεν είναι πλέον οι καλύτερες εκτιμήσεις, καθώς ορισμένες πληροφορίες έχουν αγνοηθεί στους υπολογισμούς.
Τυχόν στατιστικοί έλεγχοι που σχετίζονται με το μοντέλο (π.χ. έλεγχος t-test στους συντελεστές) θα είναι λανθασμένοι.
Οι τιμές AICc των προσαρμοζόμενων μοντέλων δεν αποτελούν πλέον καλό οδηγό ως προς το ποιο είναι το καλύτερο μοντέλο πρόβλεψης.
Στις περισσότερες περιπτώσεις, οι τιμές του p, που σχετίζονται με τους συντελεστές, θα είναι πολύ μικρές και έτσι ορισμένοι παράγοντες πρόβλεψης φαίνεται να είναι σημαντικοί, ενώ δεν είναι. Αυτό είναι γνωστό ως “ψευδής παλινδρόμηση (spurious regression)”.
Η ελαχιστοποίηση του αθροίσματος των τετραγώνων των τιμών \varepsilon_t πρέπει να αποφεύγεται σε αυτά τα προβλήματα. Εναλλακτικά, μπορεί να χρησιμοποιηθεί εκτίμηση μέγιστης πιθανοφάνειας. Αυτή θα δώσει παρόμοιες εκτιμήσεις των συντελεστών.
Ένα σημαντικό ζήτημα κατά την εκτίμηση μιας παλινδρόμησης με σφάλματα ARMA είναι ότι όλες οι μεταβλητές του μοντέλου θα πρέπει πρώτα να είναι στάσιμες. Επομένως, πρέπει πρώτα να ελέγξουμε ότι το y_t και όλοι οι παράγοντες πρόβλεψης (x_{1,t},\dots,x_{k,t}) φαίνεται να είναι στάσιμοι. Εάν εκτιμήσουμε το μοντέλο όταν οποιοσδήποτε από αυτούς είναι μη στάσιμος, οι εκτιμώμενοι συντελεστές δεν θα είναι συνεπείς εκτιμήσεις (και επομένως μπορεί να μην έχουν νόημα). Μία εξαίρεση σε αυτό είναι η περίπτωση όπου οι μη στάσιμες μεταβλητές συν-ολοκληρώνονται (co-integrated). Εάν υπάρχει ένας γραμμικός συνδυασμός των μη στάσιμων y_t και των παραγόντων πρόβλεψης που είναι στάσιμοι,, τότε οι εκτιμώμενοι συντελεστές θα είναι συνεπείς.1
Επομένως, πρώτα διαφοροποιούμε τις μη στάσιμες μεταβλητές του μοντέλου. Συχνά είναι επιθυμητό να διατηρηθεί η μορφή της σχέσης μεταξύ του y_t και των παραγόντων πρόβλεψης, και κατά συνέπεια είναι σύνηθες να διαφοροποιούνται όλες οι μεταβλητές εάν κάποια από αυτές χρειάζεται διαφοροποίηση. Το μοντέλο που προκύπτει καλείται στη συνέχεια “διαφοροποιημένο μοντέλο (model in differences)”, ως ξεχωριστό από το “μοντέλο σε επίπεδα”, το οποίο αποκτάται όταν τα αρχικά δεδομένα χρησιμοποιούνται χωρίς διαφοροποίηση.
Εάν όλες οι μεταβλητές στο μοντέλο είναι στάσιμες, τότε πρέπει να λάβουμε υπόψη μόνο μια διαδικασία ARMA για τα σφάλματα. Είναι εύκολο να δούμε ότι ένα μοντέλο παλινδρόμησης με σφάλματα ARIMA είναι ισοδύναμο με ένα διαφοροποιημένο μοντέλο παλινδρόμησης με σφάλματα ARMA. Για παράδειγμα, εάν το παραπάνω μοντέλο παλινδρόμησης με σφάλματα ARIMA(1,1,1) διαφοροποιηθεί, λαμβάνουμε το μοντέλο \begin{align*}
y'_t & = \beta_1 x'_{1,t} + \dots + \beta_k x'_{k,t} + \eta'_t, \\
& (1 - \phi_1B)\eta'_t = (1 + \theta_1B)\varepsilon_t,
\end{align*} όπου y'_t=y_t-y_{t-1}, x'_{t,i}=x_{t,i}-x_{t-1,i} και \eta'_t=\eta_t-\eta_{t-1}, το οποίο είναι ένα διαφοροποιημένο μοντέλο παλινδρόμησης με σφάλματα ARMA.
10.2 Παλινδρόμηση με σφάλματα ARIMA χρησιμοποιώντας το fable
Η συνάρτηση ARIMA() θα προσαρμόσει ένα μοντέλο παλινδρόμησης με σφάλματα ARIMA εάν περιλαμβάνονται στον τύπο εξωγενείς παλινδρομητές. Όπως παρουσιάστηκε στην Ενότητα 9.5, η ειδική συνάρτηση pdq() προσδιορίζει τη τάξη του μοντέλου σφάλματος ARIMA. Εάν έχει προσδιοριστεί διαφοροποίηση, τότε η διαφοροποίηση εφαρμόζεται σε όλες τις μεταβλητές στο μοντέλο παλινδρόμησης πριν από την εκτίμησή του. Για παράδειγμα, η εντολή
ARIMA(y ~ x +pdq(1,1,0))
θα προσαρμόσει το μοντέλο y_t' = \beta_1 x'_t + \eta'_t, όπου \eta'_t = \phi_1 \eta'_{t-1} + \varepsilon_t είναι σφάλμα AR(1). Αυτό είναι ισοδύναμο με το μοντέλο
y_t = \beta_0 + \beta_1 x_t + \eta_t,
όπου \eta_t είναι ένα σφάλμα ARIMA(1,1,0). Παρατηρήστε ότι ο σταθερός όρος εξαφανίζεται λόγω της διαφοράς. Για να συμπεριλάβουμε μια σταθερά στο διαφοροποιημένο μοντέλο, θα προσθέσουμε το 1 στον τύπο του μοντέλου.
Η συνάρτηση ARIMA() μπορεί επίσης να χρησιμοποιηθεί για την επιλογή του καλύτερου μοντέλου ARIMA για τα σφάλματα. Αυτό γίνεται μη χρησιμοποιώντας την ειδική συνάρτηση pdq(). Το αν απαιτείται διαφοροποίηση καθορίζεται εφαρμόζοντας έναν έλεγχο KPSS στα υπόλοιπα του μοντέλου παλινδρόμησης που εκτιμάται με τη μέθοδο των ελαχίστων τετραγώνων. Εάν απαιτείται διαφοροποίηση, τότε όλες οι μεταβλητές διαφοροποιούνται και το μοντέλο επανεκτιμάται με τη μέθοδο της μέγιστης πιθανοφάνειας. Το τελικό μοντέλο θα εκφραστεί ως προς τις αρχικές μεταβλητές, ακόμη κι αν έχει εκτιμηθεί χρησιμοποιώντας διαφοροποιημένες μεταβλητές.
Το AICc υπολογίζεται για το τελικό μοντέλο και αυτή η τιμή μπορεί να χρησιμοποιηθεί για τον προσδιορισμό των καλύτερων παραγόντων πρόβλεψης. Δηλαδή, η διαδικασία πρέπει να επαναληφθεί για να ληφθούν υπόψη όλα τα υποσύνολα των παραγόντων πρόβλεψης και να επιλεγεί το μοντέλο με τη χαμηλότερη τιμή AICc.
Παράδειγμα: Προσωπική κατανάλωση και εισόδημα στις ΗΠΑ
Το Σχήμα 10.1 παρουσιάζει τις τριμηνιαίες μεταβολές στις προσωπικές καταναλωτικές δαπάνες και τα προσωπικά διαθέσιμα έσοδα από το 1970 έως το 2019 Q2. Θα θέλαμε να προβλέψουμε τις μεταβολές στις δαπάνες με βάση τις μεταβολές στα έσοδα. Μια μεταβολή στο εισόδημα δεν μεταφράζεται απαραίτητα σε μια άμεση μεταβολή στην κατανάλωση (π.χ., μετά την απώλεια εργασίας, μπορεί να χρειαστούν μερικοί μήνες για να μειωθούν τα έξοδα, όπως επιβάλλεται από τις νέες συνθήκες). Ωστόσο, θα αγνοήσουμε αυτήν την πολυπλοκότητα σε αυτό το παράδειγμα και θα προσπαθήσουμε να μετρήσουμε τη στιγμιαία επίδραση της μέσης μεταβολής του εισοδήματος στη μέση μεταβολή των καταναλωτικών δαπανών.
us_change |>pivot_longer(c(Consumption, Income), names_to ="var", values_to ="value") |>ggplot(aes(x = Quarter, y = value)) +geom_line() +facet_grid(vars(var), scales ="free_y") +labs(title ="Κατανάλωση και προσωπικό εισόδημα στις ΗΠΑ", y ="Τριμηνιαία % μεταβολή", x ="Τρίμηνο")
Σχήμα 10.1: Ποσοστιαίες μεταβολές στις τριμηνιαίες προσωπικές καταναλωτικές δαπάνες και προσωπικά διαθέσιμα έσοδα για τις ΗΠΑ, 1970 Q1 έως 2019 Q2.
fit <- us_change |>model(ARIMA(Consumption ~ Income))report(fit)
Για τη πρόβλεψη με χρήση ενός μοντέλου παλινδρόμησης με σφάλματα ARIMA, πρέπει να προβλέψουμε το τμήμα παλινδρόμησης και το τμήμα ARIMA του μοντέλου και να συνδυάσουμε τα αποτελέσματα. Όπως με τα συνηθισμένα μοντέλα παλινδρόμησης, για να λάβουμε προβλέψεις πρέπει πρώτα να προβλέψουμε τους παράγοντες πρόβλεψης. Όταν οι παράγοντες πρόβλεψης είναι γνωστοί στο μέλλον (π.χ. μεταβλητές που σχετίζονται με το ημερολόγιο, όπως ώρα, ημέρα της εβδομάδας κλπ.), αυτό είναι απλό. Αλλά όταν οι ίδιοι οι παράγοντες πρόβλεψης είναι άγνωστοι, πρέπει είτε να τους μοντελοποιήσουμε ξεχωριστά, είτε να χρησιμοποιήσουμε υποτιθέμενες μελλοντικές τιμές για κάθε παράγοντα πρόβλεψης.
Παράδειγμα: Προσωπική κατανάλωση και εισόδημα στις ΗΠΑ
Θα υπολογίσουμε τις προβλέψεις για τα επόμενα οκτώ τρίμηνα, υποθέτοντας ότι οι μελλοντικές ποσοστιαίες μεταβολές του προσωπικού διαθέσιμου εισοδήματος θα είναι ίσες με τη μέση ποσοστιαία μεταβολή των τελευταίων σαράντα χρόνων.
Σχήμα 10.4: Οι προβλέψεις που προέκυψαν από την παλινδρόμηση της ποσοστιαίας μεταβολής των καταναλωτικών δαπανών επί της ποσοστιαίας μεταβολής του διαθέσιμου εισοδήματος, με ένα μοντέλο σφάλματος ARIMA(1,0,2).
Τα διαστήματα πρόβλεψης για αυτό το μοντέλο είναι στενότερα από ό,τι αν είχαμε εφαρμόσει ένα μοντέλο ARIMA χωρίς συμμεταβλητή (covariate), διότι τώρα μπορούμε να εξηγήσουμε μερικές από τις διακυμάνσεις στα δεδομένα χρησιμοποιώντας τον παράγοντα πρόβλεψης του εισοδήματος.
Είναι σημαντικό να συνειδητοποιήσουμε ότι τα διαστήματα πρόβλεψης από τα μοντέλα παλινδρόμησης (με ή χωρίς σφάλματα ARIMA) δεν λαμβάνουν υπόψη την αβεβαιότητα στις προβλέψεις των παραγόντων πρόβλεψης. Επομένως, πρέπει να ερμηνευθούν ως εξαρτώμενες από τις υποτιθέμενες (ή εκτιμώμενες) μελλοντικές τιμές των παραγόντων πρόβλεψης.
Παράδειγμα: Πρόβλεψη ζήτησης ηλεκτρικής ενέργειας
Η ημερήσια ζήτηση ηλεκτρικής ενέργειας μπορεί να μοντελοποιηθεί ως συνάρτηση της θερμοκρασίας. Όπως μπορεί να παρατηρηθεί σε ένα λογαριασμό ηλεκτρικής ενέργειας, η περισσότερη ηλεκτρική ενέργεια χρησιμοποιείται σε κρύες ημέρες λόγω θέρμανσης και σε ζεστές ημέρες λόγω κλιματισμού. Η υψηλότερη ζήτηση σε κρύες και ζεστές μέρες αντικατοπτρίζεται από το σχήμα U του Σχήματος 10.5, όπου απεικονίζεται η ημερήσια ζήτηση σε σχέση με την ημερήσια μέγιστη θερμοκρασία.
Σχήμα 10.5: Ημερήσια ζήτηση ηλεκτρικής ενέργειας ως προς τη μέγιστη ημερήσια θερμοκρασία στην πολιτεία Victoria στην Αυστραλία για το 2014.
Τα δεδομένα που είναι αποθηκευμένα ως vic_elec_daily περιλαμβάνουν τη συνολική ημερήσια ζήτηση, τις ημερήσιες μέγιστες θερμοκρασίες και μια μεταβλητή δείκτη για το εάν αυτή η ημέρα είναι αργία. Το Σχήμα 10.6 δείχνει τις χρονοσειρές τόσο της ημερήσιας ζήτησης όσο και των ημερήσιων μέγιστων θερμοκρασιών. Τα διαγράμματα υπογραμμίζουν την ανάγκη τόσο ενός μη γραμμικού όσο και ενός δυναμικού μοντέλου.
vic_elec_daily |>pivot_longer(c(Demand, Temperature)) |>ggplot(aes(x = Date, y = value)) +geom_line() +facet_grid(name ~ ., scales ="free_y") +labs(y ="", x ="Ημερομηνία")
Σχήμα 10.6: Ημερήσια ζήτηση ηλεκτρικής ενέργειας και μέγιστη ημερήσια θερμοκρασία για την πολιτεία Victoria στην Αυστραλία για το 2014.
Σε αυτό το παράδειγμα, προσαρμόζουμε ένα τετραγωνικό μοντέλο παλινδρόμησης με σφάλματα ARMA χρησιμοποιώντας τη συνάρτηση ARIMA(). Το μοντέλο περιλαμβάνει επίσης μια μεταβλητή δείκτη για το αν η ημέρα ήταν εργάσιμη ή όχι.
fit <- vic_elec_daily |>model(ARIMA( Demand ~ Temperature +I(Temperature^2) + (Day_Type =="Εργάσιμη") ))fit |>gg_tsresiduals() +labs(x ="Ημερομηνία", y ="Καινοτόμα υπόλοιπα")
Σχήμα 10.7: Διαγνωστικά υπολοίπων για ένα δυναμικό μοντέλο παλινδρόμησης για ημερήσια ζήτηση ηλεκτρικής ενέργειας με επίδραση της εργάσιμης ημέρας και της θερμοκρασίας σε τετραγωνική μορφή.
Το προσαρμοσμένο μοντέλο έχει σφάλμα ARIMA(2,1,2)(2,0,0)[7], οπότε υπάρχουν 6 συντελεστές AR και MA.
augment(fit) |>features(.innov, ljung_box, dof =6, lag =14)
Υπάρχει σαφής ετεροσκεδαστικότητα στα υπόλοιπα, με υψηλότερη διακύμανση τον Ιανουάριο και Φεβρουάριο, και χαμηλότερη τον Μάιο. Το μοντέλο έχει επίσης κάποια σημαντική αυτοσυσχέτιση στα υπόλοιπα και το ιστόγραμμα των υπολοίπων παρουσιάζει μεγάλες ουρές. Όλα αυτά τα ζητήματα με τα υπόλοιπα μπορεί να επηρεάσουν την κάλυψη των διαστημάτων πρόβλεψης, αλλά οι σημειακές προβλέψεις θα πρέπει να είναι εντάξει.
Χρησιμοποιώντας το εκτιμώμενο μοντέλο προβλέψαμε 14 ημέρες μπροστά, ξεκινώντας από την Πέμπτη 1 Ιανουαρίου 2015 (μη εργάσιμη ημέρα που αντιστοιχεί στην επίσημη αργία της Πρωτοχρονιάς). Σε αυτήν την περίπτωση, θα μπορούσαμε να λάβουμε καιρικές προβλέψεις από το μετεωρολογικό γραφείο για τις επόμενες 14 ημέρες. Για λόγους απεικόνισης, θα χρησιμοποιήσουμε πρόβλεψη βάσει σεναρίων (όπως παρουσιάζονται στην Ενότητα 7.6) όπου ορίζουμε τη θερμοκρασία για τις επόμενες 14 ημέρες να είναι σταθερά ίση με 26 βαθμούς.
Σχήμα 10.8: Προβλέψεις από το δυναμικό μοντέλο παλινδρόμησης για ημερήσια ζήτηση ηλεκτρικής ενέργειας. Όλες οι μελλοντικές θερμοκρασίες ορίστηκαν να είναι 26 βαθμοί και η εικονική μεταβλητή της εργάσιμης ημέρας ορίστηκε να είναι ίση με γνωστές μελλοντικές τιμές.
Οι σημειακές προβλέψεις φαίνονται λογικές για τις δύο πρώτες εβδομάδες του 2015. Η επιβράδυνση της ζήτησης ηλεκτρικής ενέργειας στο τέλος του 2014 (λόγω πολλών ατόμων που έκαναν καλοκαιρινές διακοπές) προκάλεσε στην πρόβλεψη των επόμενων δύο εβδομάδων να παρουσιάζει παρόμοια χαμηλές τιμές ζήτησης.
10.4 Στοχαστικές και αιτιοκρατικές τάσεις
Υπάρχουν δύο διαφορετικοί τρόποι μοντελοποίησης μιας γραμμικής τάσης. Μια αιτιοκρατική τάση επιτυγχάνεται χρησιμοποιώντας το μοντέλο παλινδρόμησης
y_t = \beta_0 + \beta_1 t + \eta_t,
όπου \eta_t είναι μια διαδικασία ARMA. Μια στοχαστική τάση επιτυγχάνεται χρησιμοποιώντας το μοντέλο
y_t = \beta_0 + \beta_1 t + \eta_t,
όπου \eta_t είναι μια διαδικασία ARIMA με d=1. Στην τελευταία περίπτωση, μπορούμε να διακρίνουμε και τις δύο πλευρές έτσι ώστε y_t' = \beta_1 + \eta_t', όπου \eta_t' είναι μια διαδικασία ARMA. Με άλλα λόγια,
y_t = y_{t-1} + \beta_1 + \eta_t'.
Αυτή είναι παρόμοια με έναν τυχαίο περίπατο με περιπλάνηση (εισήχθη στην Ενότητα 9.1), αλλά εδώ ο όρος σφάλματος είναι μια διαδικασία ARMA και όχι απλά λευκός θόρυβος.
Αν και αυτά τα μοντέλα φαίνονται αρκετά όμοια (διαφέρουν μόνο στον αριθμό των διαφορών που πρέπει να εφαρμοστούν στην \eta_t), τα χαρακτηριστικά πρόβλεψής τους είναι αρκετά διαφορετικά.
aus_airpassengers |>autoplot(Passengers) +labs(y ="Επιβάτες (σε εκατομμύρια)", x ="Έτος", title ="Ετήσιο σύνολο επιβατών")
Σχήμα 10.9: Ετήσιο σύνολο επιβατών (σε εκατομμύρια) των Αυστραλιανών αερομεταφορέων, 1970-2016.
Το Σχήμα 10.9 παρουσιάζει το συνολικό αριθμό επιβατών των Αυστραλιανών αερομεταφορέων κάθε χρόνο από το 1970 έως το 2016. Θα προσαρμόσουμε σε αυτά τα δεδομένα τόσο ένα αιτιοκρατικό όσο και ένα στοχαστικό μοντέλο τάσης.
Το αιτιοκρατικό μοντέλο τάσης λαμβάνεται ως ακολούθως:
Αυτό το μοντέλο μπορεί να γραφτεί ως \begin{align*}
y_t & = 0.901 + 1.415 t + \eta_t \\
\eta_t & = 0.956 \eta_{t-1} + \varepsilon_t\\
\varepsilon_t & \sim \text{NID}(0,4.343).
\end{align*}
Η εκτιμώμενη αύξηση του αριθμού των επισκεπτών είναι 1.42 εκατομμύρια άνθρωποι ετησίως.
Εναλλακτικά, μπορεί να εκτιμηθεί το μοντέλο της στοχαστικής τάσης.
Αυτό το μοντέλο μπορεί να γραφτεί ως y_t-y_{t-1} = 1.419 + \varepsilon_t, ή ισοδύναμα \begin{align*}
y_t & = y_0 + 1.419 t + \eta_t \\
\eta_t & = \eta_{t-1} + \varepsilon_{t} \\
\varepsilon_t & \sim \text{NID}(0,4.271).
\end{align*}
Σε αυτήν την περίπτωση, η εκτιμώμενη αύξηση του αριθμού των επισκεπτών είναι επίσης 1.42 εκατομμύρια άνθρωποι ετησίως. Αν και οι εκτιμήσεις αύξησης είναι παρόμοιες, τα διαστήματα πρόβλεψης δεν είναι, όπως φαίνεται στο Σχήμα 10.10. Συγκεκριμένα, οι στοχαστικές τάσεις έχουν πολύ ευρύτερα διαστήματα πρόβλεψης, επειδή τα σφάλματα δεν είναι στάσιμα.
Υπάρχει μια έμμεση υπόθεση με τις αιτιοκρατικές τάσεις ότι η κλίση της τάσης δεν πρόκειται να αλλάξει με την πάροδο του χρόνου. Από την άλλη πλευρά, οι στοχαστικές τάσεις μπορούν να αλλάξουν και η εκτιμώμενη αύξηση θεωρείται ότι θα είναι μόνο η μέση αύξηση κατά την ιστορική περίοδο, όχι απαραίτητα ο ρυθμός αύξησης που θα παρατηρηθεί στο μέλλον. Κατά συνέπεια, είναι ασφαλέστερο να προβλεφθούν με στοχαστικές τάσεις, ειδικά για μεγαλύτερους ορίζοντες πρόβλεψης, καθώς τα διαστήματα πρόβλεψης επιτρέπουν μεγαλύτερη αβεβαιότητα σε μελλοντική αύξηση.
10.5 Δυναμική αρμονική παλινδρόμηση
Όταν υπάρχουν μεγάλες εποχιακές περίοδοι, μια δυναμική παλινδρόμηση με όρους Fourier είναι συχνά καλύτερη από άλλα μοντέλα που έχουμε εξετάσει σε αυτό το βιβλίο.2
Για παράδειγμα, τα ημερήσια δεδομένα μπορεί να έχουν ετήσια εποχικότητα μήκους 365, τα εβδομαδιαία δεδομένα έχουν εποχιακή περίοδο περίπου 52, ενώ τα ημίωρα δεδομένα μπορεί να έχουν αρκετές εποχιακές περιόδους, η συντομότερη από τις οποίες είναι το ημερήσιο πρότυπο περιόδου 48.
Οι εποχιακές εκδόσεις των μοντέλων ARIMA και ETS έχουν σχεδιαστεί για μικρότερες περιόδους, όπως 12 για μηνιαία δεδομένα ή 4 για τριμηνιαία δεδομένα. Το μοντέλο ETS() περιορίζει την εποχικότητα σε περίοδο το πολύ 24 για να επιτρέπει ωριαία δεδομένα αλλά όχι δεδομένα με μεγαλύτερη εποχιακή περίοδο. Το πρόβλημα είναι ότι υπάρχουν m - 1 παράμετροι προς εκτίμηση για τις αρχικές εποχιακές καταστάσεις όπου m είναι η εποχιακή περίοδος. Έτσι, για μεγάλα m, η εκτίμηση καθίσταται σχεδόν αδύνατη.
Η συνάρτηση ARIMA() θα επιτρέψει μια εποχιακή περίοδο έως m=350, αλλά στην πράξη συνήθως εξαντλείται η μνήμη κάθε φορά που η εποχιακή περίοδος είναι μεγαλύτερη από περίπου 200. Σε κάθε περίπτωση, η εποχιακή διαφοροποίηση υψηλής τάξης δεν έχει πολύ νόημα — για ημερήσια δεδομένα περιλαμβάνει τη σύγκριση του τι συνέβη σήμερα με αυτό που συνέβη ακριβώς πριν από ένα χρόνο και δεν υπάρχει περιορισμός ότι το εποχιακό μοτίβο είναι ομαλό.
Έτσι, για τέτοιες χρονοσειρές, προτιμούμε μια προσέγγιση αρμονικής παλινδρόμησης όπου το εποχιακό πρότυπο διαμορφώνεται χρησιμοποιώντας όρους Fourier με τις βραχυπρόθεσμες δυναμικές των χρονοσειρών να αντιμετωπίζονται από ένα σφάλμα ARMA.
Τα πλεονεκτήματα αυτής της προσέγγισης είναι:
επιτρέπει οποιουδήποτε μήκους εποχικότητας.
για δεδομένα με περισσότερες από μία εποχιακές περιόδους, μπορούν να συμπεριληφθούν όροι Fourier διαφορετικών συχνοτήτων.
η ομαλότητα του εποχιακού προτύπου μπορεί να ελεγχθεί από το K, το πλήθος των Fourier ζευγαριών sin και cos – το εποχιακό πρότυπο είναι πιο ομαλό για μικρότερες τιμές του K.
η βραχυπρόθεσμη δυναμική αντιμετωπίζεται εύκολα με ένα απλό σφάλμα ARMA.
Το μόνο πραγματικό μειονέκτημα (σε σύγκριση με ένα εποχιακό μοντέλο ARIMA) είναι ότι η εποχικότητα θεωρείται ότι είναι σταθερή — το εποχικό πρότυπο δεν επιτρέπεται να αλλάζει με την πάροδο του χρόνου. Αλλά στην πράξη, η εποχικότητα είναι συνήθως εξαιρετικά σταθερή, οπότε αυτό δεν είναι μεγάλο μειονέκτημα εκτός από μεγάλες χρονοσειρές.
Παράδειγμα: Έξοδα σε εστίαση στην Αυστραλία
Σε αυτό το παράδειγμα παρουσιάζουμε τον συνδυασμό όρων Fourier για την καταγραφή της εποχικότητας με σφάλματα ARIMA που καταγράφουν άλλες δυναμικές στα δεδομένα. Για απλότητα, θα χρησιμοποιήσουμε ένα παράδειγμα με μηνιαία δεδομένα. Η ίδια προσέγγιση μοντελοποίησης με χρήση εβδομαδιαίων δεδομένων συζητείται στην Ενότητα 13.1.
Χρησιμοποιούμε τις συνολικές μηνιαίες δαπάνες σε καφετέριες, εστιατόρια και υπηρεσίες φαγητού σε πακέτο στην Αυστραλία ($δισεκατομμύρια) από το 2004 έως το 2018 και προβλέπουμε 24 μήνες μπροστά. Μεταβάλλουμε το K, το πλήθος των Fourier ζευγαριών sin και cos, από K=1 έως K=6 (που ισοδυναμεί με τη ενσωμάτωση εικονικών εποχιακών μεταβλητών). Το Σχήμα 10.11 δείχνει το εποχιακό πρότυπο στις προβλέψεις καθώς αυξάνεται το K. Παρατηρήστε ότι καθώς το K αυξάνει οι όροι Fourier αποτυπώνουν και προβάλουν ένα πιο “κυματοειδές” εποχιακό πρότυπο και απαιτούνται απλούστερα μοντέλα ARIMA για τη λήψη άλλων δυναμικών. Η τιμή του AICc ελαχιστοποιείται για K=6, με ένα σημαντικό άλμα από K=4 σε K=5, οπότε οι προβλέψεις που δημιουργούνται από αυτό το μοντέλο θα είναι αυτές που χρησιμοποιηθούν.
Σχήμα 10.11: Χρησιμοποιώντας όρους Fourier και σφάλματα ARIMA για την πρόβλεψη μηνιαίων δαπανών στην εστίαση στην Αυστραλία.
10.6 Παράγοντες πρόβλεψης υστέρησης
Μερικές φορές, οι επιπτώσεις ενός παράγοντα πρόβλεψης, που περιλαμβάνεται σε ένα μοντέλο παλινδρόμησης, δεν θα είναι απλές και άμεσες. Για παράδειγμα, μια διαφημιστική καμπάνια μπορεί να επηρεάσει τις πωλήσεις για κάποιο χρονικό διάστημα πέραν του τέλους της καμπάνιας και οι πωλήσεις σε ένα μήνα θα εξαρτώνται από τις διαφημιστικές δαπάνες για καθέναν από τους τελευταίους μήνες. Ομοίως, μια αλλαγή στην πολιτική ασφάλειας μιας εταιρείας μπορεί να μειώσει αμέσως τα ατυχήματα, αλλά έχει μειωμένο αποτέλεσμα με την πάροδο του χρόνου καθώς οι εργαζόμενοι λαμβάνουν λιγότερη προσοχή όταν εξοικειωθούν με τις νέες συνθήκες εργασίας.
Σε αυτές τις καταστάσεις, πρέπει να επιτρέψουμε τις υστερημένες επιδράσεις της πρόβλεψης. Ας υποθέσουμε ότι έχουμε μόνο έναν παράγοντα πρόβλεψης στο μοντέλο μας. Τότε, μπορεί να γραφτεί ένα μοντέλο που επιτρέπει υστερημένη επίδραση
y_t = \beta_0 + \gamma_0x_t + \gamma_1 x_{t-1} + \dots + \gamma_k x_{t-k} + \eta_t,
όπου \eta_t είναι μια διαδικασία ARIMA. Η τιμή του k μπορεί να επιλεγεί χρησιμοποιώντας το AICc, μαζί με τις τιμές p και q για το σφάλμα ARIMA.
Παράδειγμα: Προσφορές τηλεοπτικής διαφήμισης και ασφάλισης
Μια αμερικανική ασφαλιστική εταιρεία διαφημίζεται στην εθνική τηλεόραση σε μια προσπάθεια να αυξήσει τον αριθμό των παρεχόμενων ασφαλιστικών προσφορών (και κατά συνέπεια τον αριθμό των νέων ασφαλιστηρίων). Το Σχήμα 10.12 δείχνει τον αριθμό των προσφορών και τις δαπάνες για τηλεοπτικές διαφημίσεις της εταιρείας κάθε μήνα από τον Ιανουάριο του 2002 έως τον Απρίλιο του 2005.
insurance |>pivot_longer(Quotes:TVadverts) |>ggplot(aes(x = Month, y = value)) +geom_line() +facet_grid(vars(name), scales ="free_y") +labs(y ="", x ="Μήνας", title ="Ασφαλιστικές διαφημίσεις και προσφορές")
Σχήμα 10.12: Αριθμός ασφαλιστικών προσφορών που παρέχονται ανά μήνα και μηνιαίες δαπάνες διαφήμισης.
Θα εξετάσουμε το ενδεχόμενο να συμπεριλάβουμε διαφημιστικές δαπάνες για έως και τέσσερις μήνες. Δηλαδή, το μοντέλο μπορεί να περιλαμβάνει διαφημιστικές δαπάνες τον τρέχοντα μήνα και τους τρεις μήνες πριν από αυτό. Κατά τη σύγκριση μοντέλων, είναι σημαντικό να χρησιμοποιούν όλοι το ίδιο σύνολο εκπαίδευσης. Στον ακόλουθο κώδικα, εξαιρούμε τους πρώτους τρεις μήνες για να κάνουμε δίκαιες συγκρίσεις.
Το καλύτερο μοντέλο (με τη μικρότερη τιμή AICc) είναι το lag1 με δύο παράγοντες πρόβλεψης. Δηλαδή, περιλαμβάνει διαφημίσεις μόνο τον τρέχοντα μήνα και τον προηγούμενο μήνα. Έτσι, επανεκτιμούμε τώρα αυτό το μοντέλο, αλλά χρησιμοποιώντας όλα τα διαθέσιμα δεδομένα.
Το επιλεγμένο μοντέλο έχει σφάλματα ARIMA(1,0,2). Το μοντέλο μπορεί να γραφτεί ως
y_t = 2.155 +
1.253 x_t +
0.146 x_{t-1} + \eta_t,
όπου y_t είναι ο αριθμός των προσφορών που παρέχονται το μήνα t, x_t είναι οι διαφημιστικές δαπάνες του μήνα t,
\eta_t = 0.512 \eta_{t-1} +
\varepsilon_t + 0.917 \varepsilon_{t-1} +
0.459 \varepsilon_{t-2},
και το \varepsilon_t είναι λευκός θόρυβος.
Μπορούμε να υπολογίσουμε τις προβλέψεις χρησιμοποιώντας αυτό το μοντέλο εάν υποθέσουμε μελλοντικές τιμές για τη μεταβλητή διαφήμισης. Αν ορίσουμε τη μελλοντική μηνιαία διαφήμιση σε 8 μονάδες, λαμβάνουμε τις προβλέψεις στο Σχήμα 10.13.
Σχήμα 10.13: Προβλέψεις μηνιαίων ασφαλιστικών προσφορών, υποθέτοντας ότι οι μελλοντικές διαφημιστικές δαπάνες είναι 8 μονάδες σε κάθε μελλοντικό μήνα.
10.7 Ασκήσεις
Αυτή η άσκηση χρησιμοποιεί το σύνολο δεδομένων LakeHuron που δίνει το επίπεδο της λίμνης Huron από το 1875-1972.
Μετατρέψτε τα δεδομένα σε αντικείμενο tsibble χρησιμοποιώντας τη συνάρτηση as_tsibble().
Προσαρμόστε ένα γραμμικό μοντέλο τάσης στα δεδομένα Lake Huron με έναν κόμβο το 1920 και μια δομή σφάλματος ARMA.
Προβλέψτε το επίπεδο για τα επόμενα 30 χρόνια. Πιστεύετε ότι η παρατεταμένη γραμμική τάση είναι ρεαλιστική;
Επαναλάβετε την Άσκηση 4 από την Ενότητα 7.10, αλλά αυτή τη φορά προσθέτοντας σφάλματα ARIMA για την αντιμετώπιση των αυτοσυσχετίσεων στα υπόλοιπα.
Πόσο μεταβάλει τους συντελεστές παλινδρόμησης η διαδικασία σφάλματος ARIMA;
Πόσο μεταβάλει τις προβλέψεις η διαδικασία σφάλματος ARIMA;
Ελέγξτε τα υπόλοιπα του προσαρμοζόμενου μοντέλου για να βεβαιωθείτε ότι η διαδικασία ARIMA έχει αντιμετωπίσει επαρκώς τις αυτοσυσχέτισεις που παρατηρήθηκαν στο μοντέλο TSLM.
Επαναλάβετε το παράδειγμα ημερήσιας ηλεκτρικής ενέργειας, αλλά αντί να χρησιμοποιήσετε μια τετραγωνική συνάρτηση για τη θερμοκρασία, χρησιμοποιήστε μια γραμμική συνάρτηση με τον “κόμβο” να είναι περίπου στους 25 βαθμούς Celsius (χρησιμοποιήστε τους παράγοντες πρόβλεψης Temperature & Temp2). Πώς μπορείτε να βελτιστοποιήσετε την επιλογή του κόμβου;
Τα δεδομένα μπορούν να δημιουργηθούν ως ακολούθως.
Αυτή η άσκηση αφορά το aus_accommodation: τα συνολικά τριμηνιαία έσοδα από καταλύματα και το επίπεδο πληρότητας δωματίων σε ξενοδοχεία, μοτέλ και ξενώνες στην Αυστραλία, μεταξύ Ιανουαρίου 1998 και Ιουνίου 2016. Τα συνολικά τριμηνιαία έσοδα είναι σε εκατομμύρια δολάρια Αυστραλίας.
Υπολογίστε τις προσαρμοσμένες τιμές του Δείκτη Τιμών Καταναλωτή (ΔΤΚ) και σχεδιάστε το αποτέλεσμα για κάθε κατάσταση.
Για κάθε κατάσταση, προσαρμόστε ένα δυναμικό μοντέλο παλινδρόμησης προσαρμοζόμενων βάσει ΔΤΚ με εποχιακές εικονικές μεταβλητές, μια τμηματικά γραμμική χρονική τάση με έναν κόμβο στο πρώτο τρίμηνο του 2008 και τα σφάλματα ARIMA.
Ελέγξτε ότι τα υπόλοιπα του μοντέλου μοιάζουν με λευκό θόρυβο.
Προβλέψτε τα έσοδα για κάθε πολιτεία έως το τέλος του 2017. (Συμβουλή: Θα πρέπει πρώτα να υποβάλετε προβλέψεις για τον ΔΤΚ.)
Ποιες πηγές αβεβαιότητας δεν έχουν ληφθεί υπόψη στα διαστήματα προβλέψεων;
Τοποθετήσαμε ένα μοντέλο αρμονικής παλινδρόμησης σε μέρος της σειράς us_gasoline στην Άσκηση 5 στην Ενότητα 7.10. Τώρα θα επανεξετάσουμε αυτό το μοντέλο και θα το επεκτείνουμε ώστε να περιλαμβάνει περισσότερα δεδομένα και σφάλματα ARMA.
Χρησιμοποιώντας τη TSLM(), προσαρμόστε μια αρμονική παλινδρόμηση με μια τμηματικά γραμμική χρονική τάση στην πλήρη σειρά. Επιλέξτε τη θέση των κόμβων στην τάση και το κατάλληλο πλήθος όρων Fourier που θα συμπεριλάβετε ελαχιστοποιώντας την τιμή AICc ή CV.
Τώρα επαναπροσαρμόστε το μοντέλο χρησιμοποιώντας την ARIMA() για να επιτρέψετε συσχετισμένα σφάλματα, διατηρώντας τους ίδους παράγοντες πρόβλεψης που χρησιμοποιήσατε με την TSLM().
Ελέγξτε τα υπόλοιπα του τελικού μοντέλου χρησιμοποιώντας τη συνάρτηση gg_tsresiduals() και έναν έλεγχο Ljung-Box. Μοιάζουν αρκετά με λευκό θόρυβο για να συνεχίσετε; Εάν όχι, δοκιμάστε να τροποποιήσετε το μοντέλο σας ή να καταργήσετε τα πρώτα χρόνια των δεδομένων.
Μόλις πάρετε ένα μοντέλο με τα υπόλοιπα να μοιάζουν με λευκό θόρυβο, δημιουργήστε προβλέψεις για τον επόμενο χρόνο.
Η κατανάλωση ηλεκτρικής ενέργειας συχνά μοντελοποιείται ως συνάρτηση της θερμοκρασίας. Η θερμοκρασία μετριέται από τους ημερήσιους βαθμούς θέρμανσης και ψύξης. Οι βαθμοί θέρμανσης είναι 18^\circC μείον τη μέση ημερήσια θερμοκρασία όταν ο ημερήσιος μέσος όρος είναι κάτω από 18^\circC, διαφορετικά είναι μηδέν. Αυτό παρέχει ένα μέτρο της ανάγκης μας να θερμανθούμε καθώς μειώνεται η θερμοκρασία. Οι βαθμοί ψύξης μετράνε την ανάγκη μας να δροσιστούμε καθώς αυξάνεται η θερμοκρασία. Ορίζεται ως η μέση ημερήσια θερμοκρασία μείον 18^\circC όταν ο ημερήσιος μέσος όρος είναι πάνω από 18^\circC ή μηδέν διαφορετικά. Έστω ότι y_t συμβολίζει το μηνιαίο σύνολο των κιλοβατώρων ηλεκτρικής ενέργειας που χρησιμοποιείται, x_{1,t} το μηνιαίο σύνολο των βαθμών θέρμανσης και x_{2,t} το μηνιαίο σύνολο των βαθμών ψύξης.
Ένας αναλυτής προσαρμόζει το ακόλουθο μοντέλο σε ένα σύνολο τέτοιων δεδομένων:
y^*_t = \beta_1x^*_{1,t} + \beta_2x^*_{2,t} + \eta_t,
όπου
(1 - \Phi_{1}B^{12} - \Phi_{2}B^{24})(1 - B)(1 - B^{12})\eta_t
= (1 + \theta_1 B)\varepsilon_t
και y^*_t = \log(y_t), x^*_{1,t} = \sqrt{x_{1,t}} και x^*_{2,t} = \sqrt{x_{2,t}}.
Τι είδους μοντέλο ARIMA αναγνωρίζεται για το \eta_t;
Οι εκτιμώμενοι συντελεστές είναι
Παράμετρος
Εκτίμηση
s.e.
Z
Τιμή P
\beta_1
0.0077
0.0015
4.98
0.000
\beta_2
0.0208
0.0023
9.23
0.000
\theta_1
-0.5830
0.0720
-8.10
0.000
\Phi_{1}
-0.5373
0.0856
-6.27
0.000
\Phi_{2}
-0.4667
0.0862
-5.41
0.000
Εξηγήστε τι μας λένε οι εκτιμήσεις των \beta_1 και \beta_2 για την κατανάλωση ηλεκτρικής ενέργειας.
Γράψτε την εξίσωση σε μια πιο κατάλληλη μορφή για πρόβλεψη.
Περιγράψτε πώς θα μπορούσε να χρησιμοποιηθεί αυτό το μοντέλο για την πρόβλεψη της ζήτησης ηλεκτρικής ενέργειας για τους επόμενους 12 μήνες.
Εξηγήστε γιατί ο όρος \eta_t πρέπει να μοντελοποιηθεί με ένα μοντέλο ARIMA αντί να μοντελοποιηθούν τα δεδομένα χρησιμοποιώντας ένα τυπικό πακέτο παλινδρόμησης. Στη συζήτησή σας, σχολιάστε τις ιδιότητες των εκτιμήσεων, την εγκυρότητα των τυπικών αποτελεσμάτων παλινδρόμησης και τη σημασία του μοντέλου \eta_t στην παραγωγή προβλέψεων.
Για τις χρονοσειρές λιανικού εμπορίου που εξετάστηκαν σε προηγούμενα κεφάλαια:
Αναπτύξτε ένα κατάλληλο μοντέλο δυναμικής παλινδρόμησης με όρους Fourier για την εποχικότητα. Χρησιμοποιήστε το AICc για να επιλέξετε τον αριθμό των όρων Fourier που θα συμπεριληφθούν στο μοντέλο. (Ίσως χρειαστεί να χρησιμοποιήσετε τον ίδιο μετασχηματισμό Box-Cox που προσδιορίσατε προηγουμένως.)
Ελέγξτε τα υπόλοιπα του προσαρμοσμένου μοντέλου. Μήπως οι σειρές των υπολοίπων μοιάζουν με λευκό θόρυβο;
Συγκρίνετε τις προβλέψεις με αυτές που αποκτήσατε νωρίτερα χρησιμοποιώντας εναλλακτικά μοντέλα.
10.8 Περαιτέρω μελέτη
Μια λεπτομερής συζήτηση για μοντέλα δυναμικής παλινδρόμησης παρέχεται στο βιβλίο του Pankratz (1991).
Η γενίκευση των μοντέλων δυναμικής παλινδρόμησης, γνωστά ως “μοντέλα συνάρτησης μεταφοράς”, συζητείται στο βιβλίο των Box κ.ά. (2015).
Box, GEP, Jenkins, GM, Reinsel, GC, & Ljung, GM. (2015). Time series analysis: forecasting and control (5th ed). John Wiley & Sons.
Harris, R, & Sollis, R. (2003). Applied time series modelling and forecasting. John Wiley & Sons.
Pankratz, AE. (1991). Forecasting with dynamic regression models. John Wiley & Sons.
Young, PC, Pedregal, DJ, & Tych, W. (1999). Dynamic harmonic regression. Journal of Forecasting, 18, 369–394.
Η πρόβλεψη με συνολοκληρωμένα μοντέλα συζητείται από τους Harris & Sollis (2003).↩︎
Ο όρος “δυναμική αρμονική παλινδρόμηση” χρησιμοποιείται επίσης και για μια αρμονική παλινδρόμηση με χρονικά μεταβαλλόμενες παραμέτρους (Young κ.ά., 1999).↩︎