Horace Mann nasceu em Franklin, Mass., a 4 de Maio de 1796. Trabalhou na quinta da família e aprendeu as suas cartas em casa e na escola distrital, complementadas por longas horas na biblioteca da cidade. Guiado pelos seus pais, desenvolveu uma apetência pelo conhecimento. O pai de Mann morreu em 1809. No ano seguinte, quando o seu irmão mais velho se afogou enquanto nadava num domingo, o ministro da Congregação local elaborou sobre os perigos de quebrar o Sábado, em vez de consolar a família. Isto confirmou a crescente alienação de Mann à Igreja.
Após breve frequência de uma academia em Wrentham e aulas intensivas por um mestre de escola itinerante, Mann entrou na classe do segundo ano da Universidade de Brown em 1816. Desenvolveu um vivo interesse no debate, falando frequentemente em apoio de causas humanitárias. Formou-se como valedictoriano em 1819. Um interesse crescente em assuntos públicos levou-o a estudar Direito após a graduação. Interrompeu os seus estudos jurídicos para servir como tutor de latim e grego em Brown, mas regressou aos estudos jurídicos em 1821 na famosa escola de Tapping Reeve em Litchfield, Conn. Foi admitido no bar em 1823.
Mann praticou em Dedham e Boston, adquiriu uma admiração pela política de Whig, e foi eleito para a Legislatura de Massachusetts em 1827. Essencialmente um activista, Mann chegou a acreditar que a educação pública, a que chamou “o grande equalizador das condições dos homens”, era mais susceptível de produzir as melhorias sociais gerais que desejava do que esforços pontuais em prol da reforma prisional, tratamento humano dos loucos, e temperança. Um colega legislador tinha estudado as condições educacionais em Massachusetts e informou que apenas um terço das crianças em idade escolar frequentavam a escola; que os professores estavam mal preparados, mal pagos e incapazes de manter a disciplina; e que as escolas públicas eram evitadas por aqueles que podiam pagar a educação privada. Como resultado, em 1837, a assembleia criou o Conselho de Educação do Estado de Massachusetts. O conselho era obrigado a recolher e divulgar informações sobre as escolas públicas e, através do seu secretário, apresentar um relatório anual ao legislador.