Théorie des ensembles, branche des mathématiques qui traite des propriétés de collections bien définies d’objets, qui peuvent ou non être de nature mathématique, comme les nombres ou les fonctions. Cette théorie a moins de valeur dans son application directe à l’expérience ordinaire que comme base d’une terminologie précise et adaptable pour la définition de concepts mathématiques complexes et sophistiqués.

Entre les années 1874 et 1897, le mathématicien et logicien allemand Georg Cantor a créé une théorie des ensembles abstraits d’entités et en a fait une discipline mathématique. Cette théorie est née de ses recherches sur certains problèmes concrets concernant certains types d’ensembles infinis de nombres réels. Un ensemble, écrivait Cantor, est une collection d’objets définis et distinguables de la perception ou de la pensée, conçus comme un tout. Les objets sont appelés éléments ou membres de l’ensemble.

La théorie avait l’aspect révolutionnaire de traiter les ensembles infinis comme des objets mathématiques sur un pied d’égalité avec ceux qui peuvent être construits en un nombre fini d’étapes. Depuis l’Antiquité, une majorité de mathématiciens avaient soigneusement évité l’introduction dans leurs arguments de l’infini réel (c’est-à-dire d’ensembles contenant une infinité d’objets conçus comme existant simultanément, du moins en pensée). Comme cette attitude a persisté presque jusqu’à la fin du XIXe siècle, les travaux de Cantor ont fait l’objet de nombreuses critiques selon lesquelles ils traitaient de fictions – en fait, ils empiétaient sur le domaine des philosophes et violaient les principes de la religion. Cependant, dès que l’on a commencé à trouver des applications à l’analyse, les attitudes ont commencé à changer et, dans les années 1890, les idées et les résultats de Cantor étaient de plus en plus acceptés. En 1900, la théorie des ensembles était reconnue comme une branche distincte des mathématiques.

À ce moment-là, cependant, plusieurs contradictions dans la théorie des ensembles dite naïve ont été découvertes. Afin d’éliminer de tels problèmes, une base axiomatique a été développée pour la théorie des ensembles, analogue à celle développée pour la géométrie élémentaire. Le degré de réussite de ce développement, ainsi que la stature actuelle de la théorie des ensembles, ont été bien exprimés dans les Éléments de mathématique de Nicolas Bourbaki (commencés en 1939 ; « Éléments de mathématique ») : « On sait aujourd’hui qu’il est possible, logiquement parlant, de dériver pratiquement l’ensemble des mathématiques connues à partir d’une source unique, la théorie des ensembles. »