Etter endt embetseksamen i 1880 praktiserte H. som lege. Samtidig dyrket han sine kunstneriske interesser. Opprinnelig hadde han tenkt å bli maler, men valget falt til slutt på billedhuggerkunsten. H. fikk ingen formell utdannelse som billedhugger. Han begynte å modellere på egen hånd, og på en utstilling i Kristiania Kunstforening vakte han oppmerksomhet med relieffen Synderinden og Christus. I 1884 debuterte H. på Høstutstillingen med Friheden (gips). Hans naturalistiske kunstoppfatning uttrykkes best gjennom den humørfylte og friske Plystrende gategutt som ble vist på Høstutstillingen to år senere (ca. 1885, avstøpning i Nasjonalgalleriet, Oslo og Trøndelag Kunstgalleri). Denne har senere blitt kjent og populær under navnet "Dagbla'gutten", idet kopier har prydet tobakksbutikkene. Statens reisestipend gjorde det i 1889 mulig for H. å søke utdannelse som kunstner i Paris, Roma og København. Men han ble syk, måtte avbryte studiene og reise hjem.