In der Denkmalpflege war das vornehmliche Streben Heinrich Ullmanns auf die unbedingte Erhaltung vorhandener Bausubstanz ausgerichtet. Seine Maxime war "Bewahren statt Tot-Restaurieren".

Dem Unterhalt der Dome in Speyer, Regensburg und Passau galt seine besondere Beachtung.

Seine Reisen als Dienstaufsicht der Landbauämter führten ihn kreuz und quer durch Bayern und die damals noch bayerische Pfalz. Oft skizzierte er dabei die markanten Objekte mit künstlerischer Sicherheit.

Schon früh erkannte Heinrich Ullmann die Einmaligkeit der mit der kargen Landschaft verschmolzenen Kalksteinbauten im Altmühltal. In seiner bedeutendsten Veröffentlichung "Das Kalkplattendach im Altmühlgebiete" hat er im Jahre 1919 diese Einmaligkeit dokumentiert. (Nachdruck erhältlich beim Jurahausverein)

In diesem Jahr erwarb er auch das von Jakob Engel und Gabriel de Gabrieli erbaute denkmalgeschützte Schlösschen in Inching bei Eichstätt.
Viele Sommer hat er bis zu seinem Tode 1953 in dieser direkt an der Altmühl gelegenen Idylle verbracht und in der von ihm geliebten Landschaft gemalt und fotografiert. Die Erhaltung der einmaligen Jurabauten war ihm ein Herzensanliegen. Seine Bauvorschrift, alle Neubauten im Landkreis Eichstätt mit den heimischen Jurakalkplatten zu belegen, galt bis in die 40er Jahre.

Eine Bilddokumentation aus den 20er Jahren ist das Buch:
Heinrich Ullmann "Im ALTMÜHL-TAL, historische Photographien und Zeichnungen", das im Verlag Erika Böhm erschienen ist.

Richtungsweisend in der Landschaftspflege auch sein Verdienst um die Verlängerung der bis heute freigehaltenen "Durchblicke" in München von Schloss Nymphenburg aus, so etwa bis zur Blutenburg und weit in die Landschaft hinein.