I 1889 slo H. seg ned i Haugesund som byens første høyskoleutdannete arkitekt. Han opprettet privatpraksis, og hans arkitektur kom i stor grad til å prege bybildet. H.s produksjon omfattet privatboliger, forretningsbygg og offentlige bygninger. I dag kan ca. 30 hus fra perioden 1889–1928 tilskrives ham, men sannsynligvis har han vært arkitekt for mange flere. Før århundreskiftet arbeidet H. innenfor en tyskpreget historisme, men de enkelte bygninger fikk ofte et personlig preg slik vi f.eks. ser det i den representative villaen Strandgt. 92 (1889). I Vår Frelsers kirke (1899–1901) er særlig interiøret bemerkelsesverdig. Elementer fra tavkirkearkitekturen er i taket smeltet sammen med østlig innflytelse og utformet i overensstemmelse med jugendstilens vilje til dekorasjon. Også Vordeneset kapell (1905) er sterkt inspirert av stavkirkearkitekturen. I perioden 1901–04 var H. arkitekt for rehabiliteringen av Utstein kloster. Under et opphold i Ålesund 1904–06 i forbindelse med byens gjenoppbygning etter brannen, gikk han over til en mer konsekvent jugendstilsarkitektur. Han tegnet 12 bygninger i Ålesund, bl.a. Kongens gt. 1 . H.s senere produksjon i Haugesund karakteriseres ved en særpreget bruk av jugendornamentikk på fasadene og en utstrakt bruk av hjørnetårn, f.eks. villaen Strandgt. 96 (1916). Mot 1920-årene kombinerte H. ofte en klassisistisk bygningskropp med jugendstilens ornamentikk. Svært mange av H.s bygninger er oppført i pusset mur og kvaderstein, og takene er nesten uten unntak tekket med skifer. H.s arkitektur kom til å få betydelig innflytelse for den mer anonyme, folkelige byggeskikk.