Dans un contexte urbain complètement renouvelé, les vieilles familles mulhousiennes dominent toujours au XIXème siècle la vie économique, politique et culturelle de la cité. Elles éprouvent une fierté immense pour l’histoire singulière de la République de Mulhouse mais aussi une nostalgie certaine pour le « Vieux Mulhouse » qui disparaît sous leurs yeux.
Les études historiques se multiplient et un comité d’histoire est créé en 1860 au sein de la Société Industrielle. A la même époque s’ouvrent des chantiers archéologiques (au tumulus du Hünerhubel par exemple), tandis que Xavier Mossmann travaille au Cartulaire de Mulhouse (recueil d’archives). De son côté, Auguste Stoeber rassemble à la Bibliothèque quelques objets anciens, prémices du futur musée.
Frédéric Engel-Dollfus, vice-président de la Société Industrielle et grand collectionneur, coordonne ces initiatives et pilote le projet de création du Musée historique. Une commission se met en place en 1864 pour solliciter la générosité des donateurs et inventorier la collection. Une convention est signée avec la Ville en 1872, puis les statuts du Musée sont adoptés l’année suivante. Enfin le Musée historique, installé provisoirement à l’Ecole de dessin, ouvre le 11 novembre 1874.
En 1882, il est transféré dans le nouveau bâtiment construit par la Société Industrielle pour abriter l’ensemble des collections mulhousiennes (aujourd’hui Musée de l’Impression sur Etoffes). Il en sort en 1937 pour rejoindre la Villa Steinbach (aujourd’hui Musée des Beaux-Arts), avant de s’installer en 1969 dans l’ancien hôtel de ville de Mulhouse.
Entretemps deux dates méritent attention : en 1876 paraît le premier numéro du Bulletin du Musée Historique et en 1951 la gestion du musée est municipalisée.