Yalova’nın 1900 yılında kaza(ilçe) olması nedeniyle, idari olarak oluşturulan yeni büroların da içinde bulunduğu bir kaymakamlık binasının yapımına ihtiyaç duyulmuştur. 1900 yılında ihtiyaç nedeniyle yapılması istenen Yalova Hükümet Konağı, 1908 yılında hizmete açılsa da tam anlamıyla 1913 yılında kullanılmaya başlanmıştır.
Hükümet Konağı’nın yapım işi Müteahhit Hacı Artin Kalfa tarafından gerçekleştirilmiştir. Eski Yalova İskelesi karşısında yapılan Yalova Hükümet Konağı’nda ilk yıllarda Yalova Belediyesi dahil çok sayıda resmi kuruma ait bürolar oluşturulmuş ve kamu hizmetleri burada yürütülmüştür.
Arşiv bilgilerine göre 1913 yılından sonra, yer yokluğu nedeniyle Yalova Hükümet Konağı’nı kullanan Belediye büroları tahliye edilmiştir. Hükümet Konağı, Yalova’nın işgali sırasında ise Yüzbaşı Dimitri tarafından karargah olarak kullanılmıştır. Yalova halkının belleklerinde çok önemli yere sahip olan ve zamanın en önemli yapılarından biri olan Yalova Hükümet Konağı 1968 yılında yıkılmıştır.
Kent Konseyi’nin koordinasyonunda Yalova Valiliği ve Yalova Belediyesinin katılımıyla 09 Ocak 2010 tarihinde ilk “İstişare Toplantısı” gerçekleştirilmiştir. İstişare Toplantısı’nda Kent Müzesi’nin oluşumuyla ilgili oluşumuyla ilgili görüş ve öneriler alınarak; yapılacak çalışmalara kamu, özel ve sivil toplum temsilcilerinin katılımı sağlanmıştır. Yalova Kent Müzesi olarak işlev kazandırmak amacıyla girişimlerde bulunularak; yapının Restitüsyon ve Rekonstrüksiyon Projeleri 20Nisan 2010 tarihinde, 1417 sayılı Kocaeli Kültür ve Tabiat Varlıklarını Koruma Bölge Kurulu kararı ile onaylanmıştır.
Yalova tarihinin ve kentsel hafızasının geleceğe taşınması amacıyla, Hükümet Konağı’nın Kent Müzesi olarak kullanımına ilişkin proje Yalova Valiliği ve Yalova Belediyesi’nin ortak kararıyla hazırlanmış ve Yalova Belediyesi’nin koordinasyonunda uygulamaya geçilmiştir. Yapılan tüm çalışmalar sonucunda Yalova Kent Müzesi 15 Mayıs 2013 tarihinde hizmete açılmıştır.