Στατιστική είναι η επιστήμη η οποία ασχολείται με τον σχεδιασμό πειραμάτων, τη συλλογή και ανάλυση αριθμητικών δεδομένων και την εξαγωγή συμπερασμάτων. Τα συμπεράσματα αναφέρονται σε άγνωστα χαρακτηριστικά και ιδιότητες πληθυσμών και εξάγονται με την βοήθεια πληροφοριών που περιέχονται σε δείγματα από τους πληθυσμούς αυτούς. Στα πειράματα περιλαμβάνονται και οι δειγματοληπτικές έρευνες αγοράς. Το θεωρητικό υπόβαθρο της Στατιστικής είναι η Θεωρία των Πιθανοτήτων.

Η Στατιστική μαζί με την Θεωρία των Πιθανοτήτων χρησιμοποιείται σε όλους τους κλάδους της ανθρώπινης δραστηριότητας και γνώσης όπως οι επιχειρήσεις, η διοίκηση, η βιολογία, η εκπαίδευση, η ψυχολογία, τα οικονομικά. Με την πάροδο του χρόνου και την εξάπλωση των ηλεκτρονικών υπολογιστών η εφαρμογή και η ανάπτυξη της Στατιστικής γίνεται ολοένα και μεγαλύτερη.

Οι πρώτες βασικές έννοιες της στατιστικής είναι ο πληθυσμός και το δείγμα. Η έννοια του πληθυσμού ταυτίζεται με την ομώνυμη έννοια στη Θεωρία των Πιθανοτήτων. Το σύνολο των τιμών μιας μεταβλητής είναι ένας πληθυσμός. Το μέγεθος ρου πληθυσμού μπορεί να είναι πεπερασμένο, άπειρο ή υπεράριθμο. Το μέγεθος επίσης μπορεί να αυξάνεται ή να ελαττώνεται ανάλογα με το ιδιαίτερο ενδιαφέρον μας. Ο πληθυσμός αποτελεί το άγνωστο μέρος της Στατιστικής. Σκοπός της Στατιστικής είναι η εξαγωγή συμπερασμάτων  για τον πληθυσμό βάσει του δείγματος.

Το δείγμα ορίζεται απλώς σαν ένα μέρος του πληθυσμού. Οι τιμές των μεταβλητών που προκύπτουν από τα μέλη του δείγματος λέγονται και τιμές του δείγματος. Υπάρχουν διάφορα είδη δειγμάτων. Βασικός στόχος είναι το δείγμα να αντιπροσωπεύει τον πληθυσμό.

Τυχαίο δείγμα, είναι το δείγμα που επιλέγεται κατά τέτοιο τρόπο ώστε όλα τα μέλη του πληθυσμού να έχουν ίση και ανεξάρτητη πιθανότητα να συμπεριληφθούν στο δείγμα. Είναι προφανές ότι οι τιμές του τυχαίου δείγματος είναι τιμές μιας τυχαίας μεταβλητής του πληθυσμού. Αν στο σημείο αυτό φανταστούμε ότι η όλη δειγματοληψία μπορεί να επαναληφθεί ένα μεγάλο (άπειρο) αριθμό φορών, βλέπουμε ότι οι τιμές του δείγματος μεταβάλλονται σε όλο το φάσμα των τιμών της τυχαίας μεταβλητής.  Με τις νοερές αυτές αυτές επαναλήψεις κάθε τιμή του δείγματος γίνεται τυχαία μεταβλητή ισόνομη με την χ και ανεξάρτητη από τις άλλες, άρα n τυχαίες μεταβλητές συμβολίζονται ως χ_1, χ_2,…….χ_n.