Музей открыт в 1986 году к 100-летию со дня рождения Габдуллы Тукая, великого татарского поэта, чьи произведения вошли в золотой фонд татарской поэзии и мировой культуры.
Музей находится в одном из красивейших зданий Старотатарской слободы Казани в двухэтажном особняке конца XIX века (проект арх. Г. Б. Руша и Ф. И. Амлонга) – так называемом «доме Шамиля», где в 1882–1906 гг. жил со своей семьей Мухаммадшафи Шамиль – средний сын имама Шамиля, руководителя народно-освободительного движения Дагестана.