Atatürk, Yalova'ya geldiğinde, önceleri satın aldığı Baltacı Çiftliği'nde çadırda kalmış, bir süre sonra da Termal Oteli'nin karşısında bir köşk yapılmasını istemiştir. Yalova'ya 1936 yılındaki gelişinde Millet Çiftliği'ndeki köşkün pencerelerini zarar vereceği için yanındaki çınarın dalını kesileceğini öğrenir. Ağacın bir dalının bile kesilmesini istemeyen Atatürk köşkün ağaçtan uzaklaştırılmasını ister. Görev istanbul Belediyesi Fen işleri Yollar-Köprüler Şubesi'ne verilir. Sorumlu baş mühendis Ali Nuri ALNAR binanın temellerini açtırır. Temellerin altına zor ve çok yavaş ta olsa raylar döşenir. Bina rayların üzerinde doğuya doğru 4 m kaydırılır. 11 Ağustos 1936 günü yapılan bu işlemi yanında bulunan kız kardeşi Makbule Hanım, Afet Hanım, Yunus Nadi ABALIOĞLU, Muhafız K. ismail Hakkı TEKÇE, Yaver B.N.B. Nasuhi Bey ve diğer ilgililerle baştan sona izler. Atatürk 11 Haziran 1937de şahsına ait bütün taşınamaz mallar gibi bu Köşkü de Türk Milletine bağışlar. Diğer tüm köşkler gibi; Yürüyen Köşk'de halen müze olarak korunmaktadır.
Alt katta geniş bir salon, üst katta Atatürk'e ait yatak odası vardır. iki ay içinde bitirilen Köşk'e kaplıca yolu yapılmış ve yol her iki tarafa dikilen çınar ağaçlarıyla süslenmiştir.
