Rumoh Aceh yang juga berfungsi sebagai museum didirikan pada masa pemerintahan Hindia Belanda, yang pemakaiannya diresmikan oleh Gubernur Sipil dan Militer Aceh Jenderal H.N.A Swart pada tanggal 31 Juli 1915. bangunan Rumoh Aceh berasal dari pavilium Aceh yang ditempatkan di arena Pameran Kolonial (de Koloniale Tentoonsteling) di Semarang pada tanggal 13 Agustus-15 November 1914. Dan kemudian di bawa kembali ke Aceh pada tanggal 31 Juli 1915 yang diletakkan di sebelah timur Blang Padang Banda Aceh. Museum Rumoh Aceh ini berada di bawah tanggungan sipil dan menjadi milik pemerintah Aceh. Pada tahun 1969 atas ide T.Hamzah Bendahara, museum Rumoh Aceh dipindahkan dari Blang Padang ke jalan Sultan Alaidin Mahmudsyah pada tanah seluas 10.800 m2.
