Mardin merkezinde, 1895 yılından beri Süryani Katolik Patrikhanesi, askeri garnizon, polis karakolu, sağlık ocağı vb. amaçlarla kullanılan bina, 1995 yılında onarılarak müzeye çevrilmiştir.
Mardin’in güneyindeki ovaya hakim U planlı, üç katlı, geleneksel “Mardin Evi” şeklinde inşa edilen binanın giriş katındaki avluda; Asurlar’dan Bizans’a, Artuklular’dan Osmanlı Dönemi’ne kadar Mezopotamya uygarlıklarına ait taş ve seramik eserler açık alan teşhirinde sergilenmektedir. Üç katlı müze, renkli kalkerli taşlarla yöresel mimari özelliklerine uygun olarak tonozlu, kemerli ve sütunlu olarak inşa edilmiştir.
Müzede paleolitik MÖ 45 bin’den başlayarak yakın döneme kadar çok sayıda eserin ( Ilısu Barajı Projesi şantiye alanındaki kazılar (Bronz Çağ, Asur, Urartu, Helenistik, Roma, Bizans, Selçuklu, Artuklu, Ahameniş ve Osmananlı ile Boncuklu Tarla, Havuz Mevki, Ilısu Höyük, Kumru Tarlası, Zeviya Kavla, Tatika, Kilokki Rabiseki), Kerküşti kazısı (Halaf Dönemi), Nusaybin Girnavaz kazısı (Asur Dönemi), Dara kazısı (Roma Dönemi), Midyat Aktaş Mevki Nekropol kazısı (Bizans Dönemi), Nusaybin Mor Yakup Kilisesi kazısı (Roma-Artuklu Dönemi), Mardin Kale kazısına ait tabletler, silindir ve damga mühürler, kült kapları, figürinler, metalden bızlar, takılar, seramikler, altın, gümüş ve bakır sikkeler, gözyaşı şişeleri ve kandiller ile etnografya kısmındaysaghümüş kolyeler, küpe, bilezik, halhal, alınlık, saçlığın yanı sıra, eski giysiler, kılıçlar, kahve (mırra) takımları, hamam eşyaları, tespihler, ısınma araçları ve bakır eşyalar seramik, figürin vb.) sergilenmektedir.
Müzenin Arkeopark bölümünde neolitik dönem model evi ve eşyaları, el değirmenleri arkeolojik kazı alanları bulunmaktadır.
Sonradan oluşturulan kazı atölyesinde arkeolojik bir kazının bilimsel tüm süreçlerini öğrenerek arkeologlar eşliğinde bilimsel kazının nasıl yapıldığı anlatılmaktadır.
Ayrıca müzenin 1.katında; Roma mozaikleri, taş eserleri içine alan açık teşhir alanı, 3D sinema ve seminer salonu, eser depoları, kazılarda bulunan eserlerin sergilendiği Arkeolojik Kazılar Teşhir Salonu bulunmaktadır.
2. katında; 4 kapalı teşhir salonunda tarihi eserler İnanç (eski Mezopotamya mitolojisi ve ilk çağ dinleri, Paganizm, Hristiyanlık, İslamiyet inanç ve ölü gömme gelenekleri ile bereket ve büyü ritüelleri gibi temalar), Ticaret (Mezopotamya’da ticaretin süreci, ilk ödeme araçları, matematik ve yazının icadı, taşımacılık, dokumacılık, paranın serüveni ekonomi ve ticari hayat anlatılmaktadır. Ayrıca Kızıltepe Sürekli (Çıldız) Köyü’nde kurtarma kazısından Sürekli Definesi’nin bulunduğu bölümdür. Definede 9 – 14. yüzyıllar arası Abbasiler, İlhanlılar, Eyyubiler, Bizanslılar, Zengiler, Artuklular gibi birçok medeniyete ait altın ve gümüş eserler) ve Yaşam Salonları (Mezopotamya’da tarımın başlangıcı, çanak çömleğin ortaya çıkışı , gelişimi, yemek kültürü, geleneksel müzik ve müzik aletleri, Mardin’in Sesleri filmi tile Süslenme antik dönemden günümüze beğenilme, toplumsal statü ve korunma amacıyla ürettiği takı, kıyafet, dokuma örnekleri, sosyal yaşamda süslenme gelenekleri, kültürü anlatılmakta, sağlık, aydınlatma, Savunma savaş ve antik savunma araçları ve antik silahlar sergilenmektedir.
Müzenin Sahte Eserler Salonu’nda (kaçakçılık ve dolandırıcılıkta kullanılan sahte objeler sergilenmektedir. Bu salonla tarihi eser kaçakçılığına dikkat çekmektedir. )
Müze İdari Bina ; 19. yy. binanın güneyinde iki katlı L planlı, avlulu bir plana sahip, çeşitli bölümlerin (ihtisas kütüphanesi(8 bin kitap ve dijital yayın arşivi ile birlikte 20 bine yakın kaynak, Arkeoloji, Tarih, Sanat Tarihi, Mimarlık, Felsefe, Mitoloji ve diğer birçok konuda çalışma ), sanat galerisi (çok amaçlı salon , 150 kişilik konferans ve performans alanı, konferans salonu), arşiv, uzman odaları, geleneksel el sanatları atölyesi, fotoğrafhane, mescit ve müdüriyet birimleri) bulunduğu kısımdır.
Bu yapı, Kültür ve Turizm Bakanlığı ve Mardin Valiliği tarafından restore edilerek 2012 yılında hizmete açılıp asma köprüyle müzeye bağlanmıştır. Müze İdari binasında i bulunmaktadır
Müzesi’nde kent ve çevresinin tarihi, doğası ve etnografyasından örnekler görülebilir.