La statistique est d'un point de vue théorique une science, une méthode et une technique. La statistique comprend : la collecte des données, le traitement des données collectées, l'interprétation des données, la présentation afin de rendre les données compréhensibles par tous. Ainsi la statistique est un domaine des mathématiques qui possède une composante théorique ainsi qu'une composante appliqu
ée. La composante théorique est proche de la théorie des probabilités et forme avec cette dernière, les sciences de l'aléatoire. La statistique appliquée est utilisée dans presque tous les domaines de l'activité humaine[1] : ingénierie, management, économie, biologie, informatique, etc. Ces distinctions ne consistent pas à définir plusieurs domaines étanches. En effet, le traitement et l'interprétation des données ne peuvent se faire que lorsque celles-ci ont été collectées. La statistique possède des règles et des méthodes sur la collecte des données, pour que celles-ci puissent être correctement interprétées. John Tukey prétend qu'il y a deux approches en statistiques, entre lesquelles on jongle constamment : les statistiques exploratoires et les statistiques confirmatoires (exploratory and confirmatory statistics) :
* on explore d'abord les données pour avoir une idée qualitative de leurs propriétés ;
* puis on fait des hypothèses de comportement que l'on confirme ou infirme en recourant à d'autres techniques statistique
Remarquons que la statistique est parfois notée[7] « la Statistique » (avec une majuscule) ce qui permet de différentier cette science avec une statistique (avec une minuscule). Le pluriel est également parfois utilisé[8] pour désigner ce domaine mathématique : « les statistiques », cela permet de montrer la diversité de cette science ; le pluriel est utilisé en anglais.
