Forum

Μερικές απορίες επί του μαθήματος

Μερικές απορίες επί του μαθήματος

by PANAGIOTIS EVANGELIDAKIS -
Number of replies: 4

Καλησπέρα σας!!
Υπάρχουν μερικές απορίες σχετικά με την στατιστική επάρκεια, την πληροφορία Fisher και την προσέγγιση εκτίμησης των αγνώστων παραμέτρων τις οποίες και θα προσπαθήσω να αναλύσω παρακάτω.

  • Αν έχω καταλάβει καλά, όταν έχουμε αποδείξει ότι μία στατιστική συνάρτηση είναι επαρκής, ουσιαστικά μελετάμε την πληροφορία που έχουμε από τις παρατηρήσεις \( \underline{x}={x_i}_{i=1}^n \)  των τυχαίων μεταβλητών \( \underline{X}={Χ_i}_{i=1}^n \) περιορίζοντας την μελέτη μας σε μικρότερες διαστάσεις \(k \leq n \). Έτσι, αν βρούμε την ελάχιστη δυνατή διάσταση που μπορεί να δημιουργηθεί μία στατιστική συνάρτηση και να μην αλλοιώνει την πληροφορία που φέρουν οι παρατηρήσεις, τότε η συνάρτηση αυτή είναι ελάχιστα επαρκής. Αν, λοιπόν, σε ένα πρόβλημα έχουμε βρει μία μονοδιάστατη στατιστική συνάρτηση ότι είναι επαρκής, μπορούμε να συμπεράνουμε ότι είναι ελάχιστα επαρκής χωρίς περαιτέρω μελέτη; 
  • Γνωρίζουμε ότι η πληροφορία Fisher είναι ένας τρόπος μέτρησης του πλήθους πληροφορίας που φέρουν οι παρατηρήσεις \( \underline{x}={x_i}_{i=1}^n \)  των τυχαίων μεταβλητών \( \underline{X}={Χ_i}_{i=1}^n \)  ως προς την άγνωστη παράμετρο θ. Αυτό, όμως, που μας βοηθάει στην πράξη;
    Υπάρχει κάποια ποσότητα \( c_F \in \mathbb{R} \) (η οποία εξαρτάται από την συνάρτηση κατανομής πιθανότητας \(F_\underline{X} \) ), τέτοια ώστε αν η πληροφορία Fisher είναι μεγαλύτερη της ποσότητας αυτής, τότε οι παρατηρήσεις αυτές φέρουν επαρκές πλήθος πληροφορίας (ώστε τα αποτελέσματα της στατιστικής ανάλυσης να είναι σημαντικά) κι αν δεν ισχύει το ανωτέρω να πρέπει να επαναλάβουμε το πείραμα με περισσότερες ή λιγότερες παρατηρήσεις;
  • Επίσης, έχουμε μάθει κάποιους τρόπους εκτίμησης της άγνωστης παραμέτρου θ. Υπάρχει κάποιο κριτήριο βέλτιστης επιλογής εκτίμησης της άγνωστης παραμέτρου; Δηλαδή, σε ένα πραγματικό πρόβλημα, με ποιον γνώμονα θα προσπαθήσουμε να εκτιμήσουμε την παράμετρο θ με την εκτιμήτρια μεγίστης πιθανοφάνειας και όχι με κάποιον άλλον τρόπο;

Με συγχωρείτε για τυχών λάθη που υπάρχουν. Σας ευχαριστώ πολύ για το χρόνο σας!!

In reply to PANAGIOTIS EVANGELIDAKIS

Re: Μερικές απορίες επί του μαθήματος

by Konstantinos Smaragdakis -

Καλησπέρα,

- Ναι στη πρώτη περίπτωση δεν θα μπορείς να αφαιρέσεις από την στατιστική χωρίς απώλεια, άρα έχει ελάχιστη επάρκεια.

- Προσφέρεται για σύγκριση της ευαισθησίας του μοντέλου ως προς τις διάφορες συνιστώσες της παραμέτρου. Πχ έχω περισσότερη πληροφορία για την εκτίμηση της μέσης τιμής από τη διασπορά. Επίσης για σύγκριση διαφορετικών στατιστικών μοντέλων.

- Στη σημερινή διάλεξη έχουμε χρησιμοποιήσει την πληροφορία Fisher για να φράξουμε την αβεβαιότητα (διασπορά) της εκτίμησης μας. Αυτό το φράγμα  μας δίνει ένα κριτήριο για την αποδοτικότητα της εκτιμήτριας ως προς την διασπορά. Η διασπορά ελαχιστοποιείται με την τετραγωνική συνάρτηση απώλειας αλλά η μέθοδος μεγιστης πιθανοφάνειας δεν την ελάχιστόποιει κατα ανάγκη. Από την άλλη είναι συνήθως ευκολότερη η ευρεση της Θ_ml και μελετάμε εκ των υστέρων την αποδοτικότητα της.

Πάντως σε κάθε περίπτωση είναι τι θέλουμε να επιτύχουμε με την εκτίμηση στο κάθε πρόβλημα και αυτό εξαρτάται πως μπαίνει η παράμετρος στις εξισώσεις που διέπουν το πρόβλημα. Αυτό δεν είναι πάντα η διασπορά αλλα σε πολλές περιπτωσης το απόλυτο σφάλμα, ή να μην υπο-εκτιμήσουμε (ή υπερ-εκτιμήσουμε) είναι πολύ κρίσιμο για την εφαρμογή.

In reply to Konstantinos Smaragdakis

Re: Μερικές απορίες επί του μαθήματος

by PANAGIOTIS EVANGELIDAKIS -
Επομένως, σε κάθε πρόβλημα ουσιαστικά μοντελοποιούμε το πρόβλημα προσπαθώντας να δημιουργήσουμε ένα παραμετρικό χώρο, όπου θα μεγιστοποιείται η πληροφορία Fisher. κι ύστερα εκτιμάμε τις άγνωστες παραμέτρους;
In reply to PANAGIOTIS EVANGELIDAKIS

Re: Μερικές απορίες επί του μαθήματος

by Konstantinos Smaragdakis -
Γενικά να κανεις βελτιστοποίηση ως προς την πληροφορία δ3ν είναι ευκολο. Απλα θέλεις όσο γίνεται να έχεις εκτιμήτριες με variance κοντά στο φράγμα Cramer-Rao.