Ende des 18. Jahrhunderts war das Haus unter dem Namen "Einkehrgasthof zum Goldenen Jägerhorn" stadtbekannt. Franz Grillparzer verkehrte hier regelmäßig. In den Jahren von 1913 bis 1919 war es beliebter Treffpunkt der Literaten Peter Altenberg, Franz Kafka und Max Brod.


Im Jahr 1927 wurde das Graben Hotel von der Familie Kremslehner erworben. Das Hotel liegt mit seinen 41 Zimmern direkt im Zentrum der Stadt am Beginn des ruhigen Antiquitätenviertels. Alle Zimmer haben durch die vorgegebene Architektur des Gebäudes einen individuellen Charakter und sind mit Jugendstil und Stilmöbeln ausgestattet. Es befinden sich weiters WC, Bad oder Dusche, Direktwahltelefon, Minibar, Kabel-TV, Radio, Safe und Fön, sowie mit Highspeed Internet via Modem-Anschluss in den Zimmern. Die öffentlichen Bereiche verfügen überdies über Wireless-Lan.