Le musée de la ville occupe l'ancienne gare dessinée par l'ancien architecte de la société des trains du Danemark, Heinrich C. Wenck en 1900. Le bâtiment de la gare est long et étroit : il borde d'un côté la grande rue de Arhus et de l'autre côté, il s'ouvre sur un jardin. Depuis la fermeture de la gare, le bâtiment a fait l'objet de multiples reconversions jusqu'à devenir le musée en 2004. Les façades et la toiture du bâtiment ont été restaurées. Depuis la rue, le musée apparaît comme une structure très fermée de briques. Au contraire, la façade ouverte sur le jardin est entièrement vitrée : un réseau de pare-soleil verticaux en bois vient se coller à elle comme une double peau. Le bâtiment s'organise sur deux niveaux : le rez-de-chaussée abritant des espaces très ouverts, seulement délimités par le mobilier de l'exposition et l'étage sans aucune séparation. .