Horace Mann nació en Franklin, Massachusetts, el 4 de mayo de 1796. Trabajó en la granja familiar y aprendió las letras en casa y en la escuela del distrito, complementado con largas horas en la biblioteca del pueblo. Guiado por sus padres, desarrolló un apetito por el conocimiento. El padre de Mann murió en 1809. Al año siguiente, cuando su hermano mayor se ahogó mientras nadaba un domingo, el ministro congregacional local se explayó sobre los peligros de romper el sábado, en lugar de consolar a la familia. Esto confirmó el creciente distanciamiento de Mann de la Iglesia.

Después de asistir brevemente a una academia en Wrentham y de recibir clases intensivas de un maestro itinerante, Mann ingresó en la clase de segundo año de la Universidad de Brown en 1816. Desarrolló un gran interés por el debate, y a menudo hablaba en apoyo de causas humanitarias. Se graduó como mejor alumno en 1819. Su creciente interés por los asuntos públicos le llevó a estudiar derecho tras su graduación. Interrumpió su formación jurídica para ser tutor de latín y griego en Brown, pero volvió a estudiar derecho en 1821 en la famosa escuela de Tapping Reeve en Litchfield, Connecticut. Fue admitido en el colegio de abogados en 1823.

Mann ejerció en Dedham y Boston, adquirió admiración por la política whig y fue elegido para la legislatura de Massachusetts en 1827. Esencialmente un activista, Mann llegó a creer que la educación pública, que él llamaba «el gran igualador de las condiciones de los hombres», tenía más probabilidades de producir las mejoras sociales generales que él deseaba que los esfuerzos parciales en nombre de la reforma de las prisiones, el tratamiento humano de los locos y la templanza. Un colega legislador había estudiado las condiciones de la educación en Massachusetts e informó que apenas un tercio de los niños en edad escolar asistían a la escuela; que los maestros estaban mal preparados, mal pagados y eran incapaces de mantener la disciplina; y que las escuelas públicas eran evitadas por aquellos que podían pagar la educación privada. Como resultado, en 1837 la asamblea creó el Consejo Estatal de Educación de Massachusetts. La junta debía recoger y difundir información sobre las escuelas públicas y, a través de su secretario, informar anualmente a la legislatura.