Das Haus an der heutigen Peterstraße wurde in der zweiten Hälfte des 15. Jahrhundert erbaut. Nur seine Fassade besteht aus Ziegelsteinen, die übrigen Wände sind Fachwerk. Es ist damit das älteste mit einem Steingiebel versehene Wohnhaus der Stadt. Seiner auffallenden Bauweise wegen wurde es „Das Steinerne Haus am Markt“ genannt.

Das aufgemauerte Kreuz auf dem sechsstufigen gotischen Treppengiebel erinnert daran, dass hier der Rektor des Hospitals zum Heiligen Geist wohnte. Der zugehörige, umfangreiche Gebäudekomplex einer 1390 begründeten Hospital-Stiftung, von dem nur noch dieses Haus und die rechts anschließende Heilig-Geist-Kapelle existieren, war jedoch mehr ein Hospiz als ein Hospital im heutigen Sinne: Hinter den beiden Gebäuden lagen Häuser, die keine ärztliche Versorgung boten, sondern ein Dach für Pilger und für Obdachlose, ältere und kranke Bürgerinnen und Bürger.

Der Name des alten Hospitals „Zum Heiligen Geist“ lebt im heutigen Krankenhaus der Stadt fort.

< 23 - Heilig-Geist-Kapelle    25 - Haus Schmitz >