H. mistet begge sine foreldre i ung alder og vokste opp hos kaptein Peter Berg. Etter sin far hadde han en liten formue og av rentene skulle han greie sin utdannelse. Allerede i guttedagene tegnet H. mye og var svært litterært interessert. Like før examen artium våren 1894 sluttet han skolen for å bli maler. Harriet Backer, som kjente H.s pleieforeldre, ble kontaktet. Hun skrev til sin elev Lars Jorde og spurte om han kunne ta med seg H. på sine sommerstudier. Resultatet ble at Jorde tok ham med til Gudbrandsdalen i juni 1894, og slik kom den unge H. til å være med på den berømte Vågå-sommeren. Sammen med Lars Jorde, Thv. Erichsen og Oluf Wold-Torne fikk H. losji hos dyrlege Bjørndahl på gården Svee. Som kjent var det mange malere i Vågå denne sommeren og alle lærte av hverandre. H. ble godt kjent med Kris Laache, Lalla Hvalstad, Alice Pihl, Johanna Bugge, Halfdan Egedius og Kristen Holbø. H.s arbeider fra oppholdet i Vågå var ifølge Jorde og Wold-Torne overraskende dyktig tegnet og malt og meget stemningsfulle. De så på H. som symbolist, etter deres mening god, og mente han var svært begavet. I denne tiden malte H. enkelt utførte landskaper, ofte med sterke lyriske trekk. Hans landskap var aldri solfylte, han foretrakk aften- og gråværsstemninger og fant inspirasjon til sine arbeider i mye av den skjønnlitteratur han leste. Han malte Skallet munk (privat eie), en hvitkledd munk på en slette i forgrunnen og sorte trekroner mot en knallgul aftenhimmel. Videre arbeidet han på et maleri der en 18-års jente står med hendene på brystet og skuer innover fjerne åser. H.s arbeider fra denne første sommeren som maler var tydelig inspirert av Jorde og Erichsens bilder. Et sterkt inntrykk på H. gjorde også de bilder han hadde sett på Statens Kunstutstilling våren 1894, deriblant Harald Sohlbergs Natteglød.
I løpet av sommeren besluttet H. å fortsette sine studier på Kristian Zahrtmanns malerskole i København etter anbefaling av Wold-Torne og E. Werenskiold. Han reiste fra Vågå tilbake til Kristiania i oktober, og i november drog han til København. H. fant en storartet lærer i Zahrtmann, og de ble fort personlige venner. H. var sammen med Otto Hennig og Th. Torp de eneste norske elever denne høsten. Om formiddagene arbeidet H. på sitt atelier, om ettermiddagene tegnet han akt på skolen. Zahrtmann hadde stor tro på H.s arbeid og var svært begeistret for den unge maler.
Hva H. malte i København er ikke kjent. Selv meddelte han i brev til sine venner at han sjelden var i stand til å male, og at han for det meste satt på Det kgl. Bibliotek eller drømte seg inn i det trylleland Poe og Baudelaire hadde brakt ham inn i. H. gikk hos Zahrtmann ut mars måned, men oppholdt seg i København til mai. Da drog han hjem til Norge hvor han hovedsakelig tilbrakte sommeren på Jæren. Her bodde han det meste av tiden i Boksedalen på Ogne. Han delte hus med Edvard Diriks og var ellers sammen med de mange norske, tyske og danske kunstnere som arbeidet der. Selv om dette var en særdeles regnfull sommer, appellerte Jærens eiendommelige skjønnhet og linjer sterkt til symbolisten H. I to måneder laget H. studier av havet foruten et selvportrett, og arbeidet med utkast til Fruen fra havet, en komposisjon han aldri fullførte. Derimot fikk han malt Veien (1895, privat eie), med en humpete vei som bukter seg innover i landskapet mot et lyst hus med mørke vinduer og mørke trær omkring. Bildet er bygd opp av store fargeflater, og de myke bølgende linjer gir assosiasjoner til den franskpåvirkede danske syntetisme som H. trolig ytterligere hadde lært å kjenne i København.
I løpet av sitt opphold på Jæren hadde H. kontakt med Frits Thaulow som sterkt anbefalte ham å reise til Frankrike. Fra Jæren drog H. til Kristiania, hvor han tilbrakte høsten. Han hadde leilighet og atelier, som han en tid delte med Munch, i Universitetsgt. 22. I mars 1896 reiste H. til Paris, hvor han en tid frekventerte Aman-Jeans atelier der Thaulow hadde skaffet ham plass. I Paris var han sammen med Lalla Hvalstad, Edvard Munch, Borghild Arnesen, Jens Thiis, Harald Sohlberg, Johanne Dybwad, Vilhelm Krag og Sigbjørn Obstfelder. Sammen med Munch fant han også trolig veien til William François Molard og hans familie i Rue Vercingétroix, et yndet møtested for franske og norske kunstnere. H. malte lite under dette første Paris-oppholdet, men han deltok flittig i kunstnermiljøet, der diskusjonene om syntetisme og symbolisme gikk høyt. H. skrev selv at han hadde de beste intensjoner om å male mennesket i naturen. Han ville blottstille, analysere, partere menneskesjelen, være psykolog. Han ble stadig mer opptatt av mystisisme, og han betegnet selv sin utvikling fra å ha villet være solnedgangen og de lengselsbleke småpikers maler, til nå å ville være nattens og de syndefulle kvinners maler.
Sist i juli 1896 reiste H. til Belgia hvor han oppholdt seg i Brugge i august. Her gjentraff han Munch som bodde i Knocke aan Zee. I slutten av august fikk H. besøk av Thiis, i september kom Hans Jæger, og H. flyttet sammen med ham til Lisseweghe. Her oppholdt H. seg med Jæger ut oktober. Han malte intet i denne perioden. Sammen med Jæger studerte han Kant, Hegel og Schopenhauer, nyere fransk litteratur om anarkisme og kunst og bøker av franske syntetister og symbolister. I tillegg til filosofi og fransk litteratur opptok Jægers Syk kjærlihet ham sterkt. H. hadde planer om å skrive om "Dagens kunstnere og morgendagens kunst i Frankrike". Sist i oktober forlot H. Jæger i Lisseweghe og drog atter til Paris. Her delte han en tid atelier med Munch i 32, Rue de la Santé. Han opplyste at han skulle begynne aktstudier hos Luc-Olivier Merson. H. hadde en hard tid i Paris denne høst. Han var i kronisk pengenød, måtte stampe sitt gullur og sine klær, han var rastløs og nervøs og fikk ikke malt. Et av de få lyspunkter for ham var utstillingen av Gauguins Tahiti-bilder hos Vollard. Han var statist i Lugné-Poës oppsetning av Peer Gynt, men deretter tvang pengemangel og rastløshet ham til å søke mot København hvor han ankom i november 1896. Her møtte han sine gamle venner Wold-Torne og Erichsen. I februar 1897 fant H. atter veien til Zahrtmanns malerskole. Under dette København-opphold vanket H. mye i kretsen rundt Holger Drachmann. Det fins få opplysninger om hva H. foretok seg i 1897. Sommeren ble trolig tilbrakt i Norge, og i september reiste han igjen til Paris og derfra videre til Barcelona sammen med den danske skuespillerinne Anna Larssen. Vinteren 1897-98 var han ofte syk.
Sommeren 1898 malte H. i Åsgårdstrand, hvor han også traff Munch. Han reiste også en tur til Telemark og besøkte sin syke venn Halfdan Egedius i Bø. Ifølge brevene fikk han malt en del denne sommer. Strandbredd med trær (privat eie) er trolig malt i Åsgårdstrand. Bildet viser en bølgende strandlinje med store trær i forgrunnen som gir assosiasjoner til Munchs Åsgårdstrand-bilder. Fra oppholdet i Telemark skriver seg trolig Løvskog med tjern (privat eie), et arbeid som på mange måter minner om Thv. Erichsens dystre 90-års malerier. Da Thv. Erichsen denne høsten reiste til Italia, var det meningen at H. og Egedius skulle komme etter, men det ble det intet av. Høsten 1898 levde H. i Kristiania et meget anstrengende liv, som gikk på helsen løs. I januar 1899 gjennomgikk han en operasjon. I februar skaffet noen venner, med Jens Thiis i spissen, en del penger, og for disse sendte de H. til Paris sammen med Severin Segelcke. H. forbrukte raskt de medbrakte penger og levde fattig og delvis syk hele mars. Han var mye sammen med Gunnar Heiberg og Oda Krohg, samt Sigbjørn Obstfelder, gjennom hvem H. også ble kjent med Stuart Merrill. I april fikk H. flere penger fra Norge og reiste på Krohgs anbefaling til Marlotte, ikke langt fra Grez. I Marlotte traff han igjen Stuart Merrill og Oscar Wilde. Det var mange skandinaviske kunstnere i Grez og gjennom Obstfelder traff han Frederick Delius. Cézanne bodde på samme hotell som H., og de ble snart fortrolige. De spiste sine måltider sammen, diskuterte kunst og malte sammen. For H., som fra før var meget begeistret for Cézannes arbeider, ble denne sommer en berikende og utviklende tid. Til forskjell fra tidligere perioder i sitt liv, klarte H. nå helt å samle seg om sitt maleri. Han fikk påskjønnelse av den aldrende mester og nød godt av hans råd. Natt i fransk landsby (1899, Nasjonalgalleriet, Oslo), malt i Montigny-Marlotte, med kirken som hever seg over hvite og røde hus ved en elv eller kanal hvor vannet risler over en demning, og Aftenstemning (RMS) tjener som representative eksempler på denne H.s siste kunstneriske oppblomstring. Begge disse arbeider er fine nattstemninger, enkle og sikkert oppfattet i sine mørke valører, og de gir nye løfter om H.s evner til helt å utløse sitt talent. H. ble boende i Marlotte høsten 1899 og utover i 1900. Han arbeidet mye, men levde elendig, var syk i mars og hadde ikke engang penger til farger. Han skrev til Munch og bad ham selge de møblene han fortsatt hadde i Universitetsgt., og Harry Fett hjalp ham med salg av bøker. Det er usikkert når H. forlot Marlotte, men høsten 1900 bodde han i Paris. Her traff han bl.a. Lars Jorde og andre gamle venner. Etter deres beskrivelser var han svært forkommen og hadde et sykt øye. Kitty Kielland hjalp ham med en anonym bestilling, og av sin gode venn Delius ble han invitert til Florida, men måtte avslå invitasjonen da han ikke hadde penger til billett. Julen 1900 tilbrakte han sammen med Søren Onsager.
H. var selv pinlig klar over sin situasjon, at han hadde fått utrettet lite, ødslet bort sine eksistensmidler og sin helbred. På nyåret 1901 fikk han på ny noen penger fra Norge, som muliggjorde en etterlengtet reise til Spania. Oppholdet i Velasquez og Goyas hjemland ble av kort varighet. H. døde i Madrid 2. februar 1901, 25 år gammel.
H. var et følsomt menneske med et kunstnersinn av usedvanlig kvalitet, men hans energi og arbeidskraft stod ikke i forhold til hans intensjoner. Han var i utpreget grad opptatt av tidens litterære, filosofiske og kunstneriske ideer. Hans rastløst omflakkende og i høy grad søkende tilværelse førte ham i kontakt med tidens intellektuelle avantgarde. Han var opptatt av for mange ting på en gang og klarte aldri, med unntak av de siste to år av sitt liv, helt å konsentrere seg om å male. Hans kjente produksjon er beskjeden, og hans form var fortsatt noe ubestemt og vag da han døde, men hans beste arbeider vitner om en egenartet og eiendommelig kunstner.
