Mengentheorie, Zweig der Mathematik, der sich mit den Eigenschaften wohldefinierter Sammlungen von Objekten beschäftigt, die mathematischer Natur sein können oder auch nicht, wie zum Beispiel Zahlen oder Funktionen. Die Theorie ist weniger wertvoll in der direkten Anwendung auf die alltägliche Erfahrung als vielmehr als Grundlage für eine präzise und anpassungsfähige Terminologie zur Definition komplexer und anspruchsvoller mathematischer Konzepte.

Zwischen den Jahren 1874 und 1897 schuf der deutsche Mathematiker und Logiker Georg Cantor eine Theorie der abstrakten Mengen von Entitäten und machte sie zu einer mathematischen Disziplin. Diese Theorie erwuchs aus seinen Untersuchungen einiger konkreter Probleme bezüglich bestimmter Arten von unendlichen Mengen reeller Zahlen. Eine Menge, schrieb Cantor, ist eine Sammlung von bestimmten, unterscheidbaren Objekten der Wahrnehmung oder des Denkens, die als Ganzes aufgefasst werden. Die Objekte werden Elemente oder Glieder der Menge genannt.

Die Theorie hatte den revolutionären Aspekt, dass sie unendliche Mengen als mathematische Objekte behandelte, die gleichberechtigt mit solchen sind, die in einer endlichen Anzahl von Schritten konstruiert werden können. Seit der Antike hatte die Mehrheit der Mathematiker sorgfältig vermieden, das tatsächliche Unendliche (d. h. Mengen, die eine Unendlichkeit von Objekten enthalten, die zumindest gedanklich als gleichzeitig existierend aufgefasst werden) in ihre Argumentation einzuführen. Da diese Haltung bis fast zum Ende des 19. Jahrhunderts anhielt, wurde Cantors Arbeit stark kritisiert, weil sie sich mit Fiktionen beschäftigte – ja, weil sie in die Domäne der Philosophen eindrang und die Grundsätze der Religion verletzte. Sobald jedoch Anwendungen für die Analysis gefunden wurden, begann sich die Einstellung zu ändern, und in den 1890er Jahren wurden Cantors Ideen und Ergebnisse akzeptiert. Um 1900 wurde die Mengenlehre als eigenständiger Zweig der Mathematik anerkannt.

Zu dieser Zeit wurden jedoch einige Widersprüche in der sogenannten naiven Mengenlehre entdeckt. Um solche Probleme zu beseitigen, wurde eine axiomatische Grundlage für die Mengenlehre entwickelt, analog zu derjenigen, die für die elementare Geometrie entwickelt wurde. Wie erfolgreich diese Entwicklung war und welchen Stellenwert die Mengenlehre heute hat, ist in den Éléments de mathématique von Nicolas Bourbaki (begonnen 1939; „Elemente der Mathematik“) gut ausgedrückt: „Heute weiß man, dass es logisch möglich ist, praktisch die gesamte bekannte Mathematik aus einer einzigen Quelle, der Theorie der Mengen, abzuleiten.“