Im Architekturstudium in München - u.a. bei Prof. August Thiersch - war Malen und Zeichnen von der Romantik geprägt. Die Architektur verlangt sauberes, genaues und ästhetisch richtiges Konstruieren im Stil von Klassik, Romanik, Gotik, Renaissance, Barock. Wenn Heinrich Ullmann eigene Vorstellungen gestalten konnte, hat er sich dem Jugendstil verschreiben. Als treuer Beamter hat er aber auch mit den klassischen Baustilen gearbeitet und viele öffentliche repräsentative Gebäude entworfen und gebaut. Ein großartiges Beispiel ist das Justizgebäude in Landau, erbaut 1903. Hier sind schon erste Jugendstil - Einflüsse ablesbar.

Mit der Heil- und Pflegeanstalt Homburg/Saar schuf er eine revolutionäre große Jugendstil-Gesamtanlage in gestalteter Landschaft, heute Saarländisches Universitätskrankenhaus. Das Ensemble und ein Teil der Bauten steht heute unter Denkmalschutz.

Seine großzügige Villa in Homburg lässt er ebenfalls im Jugendstil errichten und im Inneren stilecht ausstatten.

Während der Amtszeit in Rosenheim entstand u.a. das königliche Bezirks- und Rentamt in Miesbach.

Für seinen "Alterssitz" in München-Obermenzing wählt Heinrich Ullmann in den Jahren 1937/38 dann die schlichte Form, die durch das Bauhaus beeinflusst ist.

Seine größte Bautätigkeit fällt demnach in die Pfälzer Zeit 1899-1914. Als Ministerialrat der obersten Baubehörde im Innenministerium war Heinrich Ullmann bis zur Pensionierung 1937 oberste Instanz für die Bauten des Kultusministeriums: Kirchen, Universitäten, Schul- und Theaterbauten, dazu auch für alle Fragen der Denkmalpflege, des Heimat- und Naturschutzes.

Bedeutende Bauten:

Als Bauamts-Assessor am Landbauamt Speyer vom 1. Juli 1899 bis 31. Juli 1904 / Bauten: Gymnasien in Zweibrücken und Speyer, Land- und Amtsgericht in Landau, Amtsgericht in Annweiler, Forsthäuser in Kandel, Bergzabern und bei Germersheim, dann bis 30. April 1910 in den Kreisdienst beurlaubt zum Bau der II. Pfälzischen Heil- und Pflegeanstalt in Homburg. Bauamtmann und Vorstand des Landbauamtes Speyer vom 1. Mai 1910 bis 31. Dezember 1913 /Bauten: Rentämter in Landau, Neustadt, Ludwigshafen und Speyer, eigene Villa in Homburg. Vorstand des Landbauamtes Rosenheim vom 1. Januar 1914 bis 31. August 1915 / Bauten: Bezirksamt und Rentamt in Miesbach. Alterssitz in München - Obermenzing gegenüber Schloss Blutenburg 1937/38.

Unter Denkmalschutz steht das "Ensemble Landeskrankenhaus Homburg", die 1904-09 von Heinrich Ullmann erbaute "II. Pfälzische Heil- und Pflegeanstalt":
Simultankirche (Gebäude 55), (Einzeldenkmal)
Festsaalgebäude (Gebäude 34), (Einzeldenkmal)
Leichenhalle (Gebäude 30), Friedhof mit Grabmalen, (Einzeldenkmal)
Direktorenvilla (Gebäude 17), (Einzeldenkmal)
Wohnhaus (Gebäude 12), (Ensemblebestandteil)
Verwaltungsgebäude (Gebäude 11), (Einzeldenkmal)
Doppelwohnhaus (Gebäude 2), (Ensemblebestandteil)