La empresa fue fundada por Sebastian S. Kresge, un vendedor ambulante de ferretería, y John G. McCrory, propietario de ocho tiendas de productos generales en el este de Estados Unidos y uno de los clientes de Kresge. En 1897, ambos abrieron un par de tiendas de cinco y diez centavos en Memphis (Tennessee) y Detroit (Michigan) (McCrory siguió dirigiendo sus tiendas de McCrory Corporation hasta la década de 1920). Finalmente, Kresge se convirtió en el único propietario de esta empresa y, en 1907, gestionaba las tiendas S.S. Kresge en ocho ciudades entre Chicago y Pittsburgh (Pensilvania). Con Kresge como presidente (1907-25) y presidente del consejo de administración (1913-66), la empresa se expandió constantemente. Al principio, Kresge’s restringió el precio de sus productos a no más de 10 céntimos, pero la inflación provocada por la Primera Guerra Mundial hizo que el límite fuera de 15 céntimos o más.

En 1962, bajo un programa diseñado por el presidente de la compañía, Harry B. Cunningham, Kresge’s se introdujo en el mercado de la gran distribución con la construcción de la primera tienda Kmart fuera de Detroit. Con su éxito, la empresa se expandió agresivamente, erigiendo una media de 85 tiendas de descuento al año durante las dos décadas siguientes en todo Estados Unidos y partes de Canadá. Durante esta época, Kmart también introdujo (1965) sus populares «Bluelight Specials», ofertas sorpresa que se anunciaban en la tienda y se ofrecían durante sólo 15 minutos; después de 1991 sólo se utilizaron ocasionalmente. El nombre de la empresa se cambió a Kmart en 1977. Kmart fue especialmente previsor a la hora de concertar un acuerdo de venta al por menor con Martha Stewart: en 1987 la empresa la contrató para que sirviera de cara al público para sus productos de entretenimiento y estilo de vida, y en 1997 Kmart se convirtió en la tienda minorista exclusiva de la línea de muebles para el hogar Martha Stewart Everyday.

La expansión de Kmart continuó a lo largo del siglo XX, y en el año 2000 la empresa contaba con 2.200 tiendas Kmart, Big Kmart y Super Kmart en Estados Unidos, Puerto Rico, Guam y las Islas Vírgenes estadounidenses. Sin embargo, la creciente competencia con el mayor minorista del mundo, Wal-Mart, y otras tiendas de descuento, llevó a Kmart a declararse en quiebra en 2002. Aunque se cerraron algunas de sus tiendas, Kmart sobrevivió tanto a la quiebra como a las dificultades legales experimentadas por la representante de su marca estrella, Martha Stewart. La reorganizada Kmart Holding Corporation adquirió Sears, Roebuck and Company en 2005 por unos 12.000 millones de dólares y adoptó el nombre de Sears Holdings Corporation, la entidad corporativa formada para gestionar las marcas minoristas Kmart y Sears. Edward S. Lampert controlaba casi el 40% de la nueva corporación. Aunque el holding siguió siendo próspero, las ventas de las tiendas Kmart y Sears siguieron disminuyendo. En 2009 Stewart acusó a Kmart de permitir que su línea se «deteriorara», y su asociación terminó al año siguiente. Durante este tiempo se cerraron varias tiendas Kmart. Además, la estabilidad financiera de Sears Holdings se volvió cada vez más incierta, y Lampert recibió críticas por su manejo de la corporación. En octubre de 2018, Sears Holdings se acogió al Capítulo 11 de protección por bancarrota.