To år gammel flyttet H. med sine foreldre fra morens hjembygd i Dalarne til Drammen, der hans far var blitt ansatt som byens første stadsingeniør. Faren hadde kunstnerisk talent og utgav i 1848 Historiske Sange, en samling dikt over kjente sagaskikkelser (nye opplag 1857 og 1896). Senere virket han også som arkitekt og skjønnskriftlærer i Drammen. Den skoleflinke sønnen (eldst av 12 barn) var tiltenkt en fremtid som ingeniør, men etter råd fra Morten Müller ble han høsten 1873 innskrevet ved Den kgl. Tegneskole, "Bestemt til Landskabsmaler". H.s begavelse var utpreget reseptiv, og hans forbløffende evne til presist å gjengi et motiv og raskt tilegne seg en uttrykksform ses i kopier og studier gjort allerede i 14-15 års alderen. Parti fra Sandvikselven (antagelig 1873) røper ved sin sikre komposisjon, rom- og formoppfatning, grundige naturstudier og god kjennskap til eldre malerkunst. Hos sin lærer på tegneskolen, Gude-eleven Peder C. Thurmann, møtte han således et kjent formspråk, og allerede året etter viste han seg som en habil düsseldorfer. Parti fra Bundefjorden (1874) og Fra Ullensvang i Hardanger (1874) har begge karakteristiske trekk fra den tyske skolen.
Sitt nødvendige utenlandsopphold fikk H. ved akademiet i München. Da han tidlig utmerket seg, slapp han å gjennomgå den ellers obligatoriske antikk-klassen, og kom rett inn i skolens naturklasse. Undervisningens sterke forankring i renessansens og barokkens kunst gav H. sjanse til å utvikle sitt talent for visuell registrering innenfor en solid formtradisjon. Den Holbein-inspirerte tegningen Mannlig studiehode (1875) ble da heller ingen tom pastisj, men et psykologisk overbevisende portrett. Slike resultater og tegnelæreren professor Löfftz' oppmuntring fikk H. til å velge figurmaleriet fremfor landskapsmaleriet. Lignende eksempler fra malerskolen er de to intense kameratportrettene av Christian Skredsvig (1876, Nasjonalgalleriet, Oslo) og Eilif Peterssen (1877, Nasjonalgalleriet), virtuost utført i henholdsvis renessanse- og barokkpåvirket stil. Det første stramt og kjølig, det andre diffust og glødende i fargen. Den botferdige Magdalena (1877, Rasmus Meyers Samlinger, Bergen) røper spanske 1600-talls forbilder, men har i tillegg en rekke trekk som kom til å bli karakteristiske for H.s produksjon. Her gjør han ofte bruk av kontraster som spenningsskapende element, pendler mellom realisme og idealisme, mellom det illusjonistiske og det dekorative, og viser forkjærlighet for en spesiell, rødhåret kvinnetype. Samme år skapte han sitt kanskje mest originale verk, det dramatiske og monumentale Adam og Eva utdrevne av Paradis (1877, Nasjonalgalleriet) der slike spenningsskapende elementer spiller sammen og forsterker effekten av den trossige Adams virkelighetsnære skikkelse. Det er et arbeid helt i Münchenskolens ånd, et moderne historiemaleri der fremstillingen skulle gripe tilskueren liksom et autentisk, historisk dokument. I Kristiania befestet bildet kunstnerens rykte som hensynsløs naturalist, men i dag ser vi Münchenpreget og merker 15- og 1600-tallsforbildene, og arbeidet står som et av skolens viktigste verk innen norsk kunst. De to ovennevnte maleriene er utført i en utpenslet teknikk og minner lite om hans lærer professor Lindenschmits manér der fargene ble satt rett inn i den obligatoriske mørke, våte bakgrunnen. Denne fremgangsmåten gjenspeiles i tre av H.s studier fra 1876: Kvinneportrett (Den gamle beriderske) (Nasjonalgalleriet), Gammel mann (En invalid) (Rasmus Meyers Samlinger) og Studiehode (Falstaff) (Bergen Billedgalleri). I opposisjon til Lindenschmits teknikk sluttet H. i 1877 på akademiet og skaffet seg sitt eget atelier, hvor han trolig har malt den mørke, nesten monokrome studien ved ildslys, Lesende pike (1878, Stavanger Faste Galleri), og det gyldenblonde, karakterfulle portrettet av kollegaen Andrea Gram (1878). Parallelt med Adam og Eva arbeidet H. på fremstillinger av Charon, der setter de døde over Styx, Nattverdens innstiftelse og Kain og Abel. Farens litterære virksomhet samt verkene til de to eldre Drammenskunstnerne Christopher Borch og Peter Nicolai Arbo må tidlig ha vakt H.s interesse for bibelens og mytologiens motivverden, men det var først etter suksessen med Adam og Eva på Verdensutstillingen i Paris 1878 at han bestemte å vie seg historiemaleriet. Høsten 1878 ble H. elev av figurmaleren Léon Bonnat i Paris, fikk seg eget atelier og tok selv elever. Bonnats forbilder var de spanske 1600-talls realister, først og fremst Jusepe de Ribera, og forskjellen fra München-skolens kunstsyn var således ikke stor. Bonnat la imidlertid vekt på helheten og det konstruktive i bildet fremfor detaljene og objektenes stofflighet. Portrettet av skuespillerinnen Laura Gundersen (1879, Nasjonalgalleriet) bærer fremdeles preg av München. Det er sett strengt en face og er malt i en litt tørr, gnidret realisme. Den intense nærstudien av Redaktør Bætzmann (ca. 1879, Nasjonalgalleriet) har kunstneren derimot gjort slående illusjonistisk ved å interessere seg for både overflate og volum. Et neste skritt mot en helhetlig oppfatning av formen representerer den friere malte Kvinneakt (ca. 1880, Nasjonalgalleriet) der anatomien har fått en ny, organisk fasthet. I tråd med undervisningen og ansporet av sin egen sterke interesse for teknikker, kopierte H. i Louvre 1878–79 malerier fra forskjellige epoker og skoler. Særlig kopien etter Riberas Kristi gravleggelse (1879, Nasjonalgalleriet) er gjort med innlevelse og forståelse. De ambisiøse planene om bl.a. å male en Charon-fremstilling med over 50 legemsstore figurer og en serie bilder fra den norrøne mytologi gikk det derimot dårligere med. Bortsett fra Cleopatras død (1881) syns ingen av disse arbeidene å ha kommet ut over skissestadiet. H. slapp imidlertid aldri forestillingen om at det var her hans egentlige begavelse lå. H. debuterte på Salon de Beaux-Arts, Paris i 1879 med Johan Svendsen (1879, Nasjonalgalleriet), et representasjonsportrett i Bonnats strenge stil. Året etter stilte han ut En nymfe som snakker med en stær, i følge H. så overdrevent realistisk at alt var tatt med. Våren 1881 stilte han ut to malerier med det populære motiv italienske blomsterpiker, som i likhet med det duse, sølvskimrende Italienerpike (1880, Nasjonalgalleriet), hører hjemme i en gammelmesterlig tradisjon. Rundt årsskiftet 1880–81 orienterte H. seg bort fra den akademiske form og mot den franske naturalismen, først i små upretensiøse studier som halvakten Champagnepiken (ca. 1880/81, Drammens Kunstforening Faste Galleri). Hun mangler helt den idealisering som publikum ventet å finne i kvinnefremstillinger. Modellens lute skikkelse er skildret i et blekt dagslys, med en sjelden inderlighet i oppfattelsen. Den store komposisjonen Det døende barn (1881, Musée Municipal, Riom) ble stilt ut i Christiania Kunstforening i desember 1881 og på Salonen i 1882. Fremstillingen bærer preg av tablå og personene av modellstudium, men ved sitt jevnt belyste interiør i kjølige farger og sitt aktuelle emne var det, som han selv sier, et moderne bilde. Da det også var basert på en barndomsopplevelse, fylte det naturalismens krav om ekthet. H. tok på nytt opp landskapsmaleriet, og selv om norske kritikere denne gang kalte ham impresjonist, var det friluftsmaleriet, slik det f.eks. ble dyrket av Jules Bastien-Lépage, som dannet forutsetningen. Mens naturen i På kirkegården (1881) tjener som scene for et anekdotisk poeng, blir den i Landskap fra Telemark (1881) hovedsakelig håndtert som et valørmessig og atmosfærisk problem. Et høydepunkt i realistisk detaljstudium kombinert med raffinert fargebruk når H. i Mannlig studiehode (1882), der han virkningsfullt setter det barkede fjeset med sure, vassblå øyne og rødt, tjafset hår og skjegg opp mot en blåsort bakgrunn. Mens kritikeren Jonas Rasch mente bildet viste en nesten sykelig lyst etter det heslige, appellerte en slik koloristisk realisme til de yngre malerne, først og fremst Edvard Munch. Med Det døende barn vant H. kunsttidsskriftet L'Arts Le Grand Prix de Florence: 5000 frcs. og to år gratis atelier i Firenze. Hit flyttet han høsten 1882, men hadde vansker med å finne fotfeste i byens litt ubestemmelige internasjonale miljø. H. lot seg i stedet inspirere av Firenzes enestående samlinger av eldre malerkunst, og hans kjente produksjon herfra mangler da også den modernitet som preget hans siste arbeider fra Paris. F.eks. har det inderlige Mor og barn (1883, Lillehammer Bys malerisamling) fått en gammelmesterlig karakter, genrebildet Italienergutt (ant. 1883) er blitt en delikat modellstudie, mens kollegaen Gustaf Cederströms hustru Amy Cederström (1883) er stramt avbildet med den skjære huden i utsøkt kontrast til det dype blå i hatt og drakt. En annen årsak til arbeidenes nye dybde i fargen var møtet med den sveitsiske symbolisten Arnold Böcklin, hvis fargemettede bilder H. allerede kjente fra München. H. gav seg på ny i kast med motiver fra den norrøne sagnverden, fascinert av den berømte malerens kunst, men også av hans personlighet og økonomiske suksess. Et fullbårent resultat av denne heftige forelskelsen var Hvilende nymfe med Pan som ble stilt ut på Salonen i 1883, et motiv H. gjentok i stor størrelse åtte år senere.
Tilbake i Norge høsten 1884 forandret H. igjen uttrykksform. I Den gamle mølle (1884, Nasjonalgalleriet) skildret han det regntunge Eiker-landskapet i en grålig, dempet koloritt og med en naturtroskap som minner om både Hans Gudes og Gerhard Munthes sobre landskapskunst. Etter en studiereise til München, muligens også Paris, våren 1885, ble sommeren innledet med det første av de årvisse Åsgårdstrand-opphold. I løpet av få måneder malte H. nå en serie bilder som ble begeistret mottatt av et samlet publikum. De viste ham som moden kunstner, med full kontroll over virkemidlene. Her kombinerte han den naturalistiske oppfatning med en dekorativ holdning uttrykt gjennom komposisjonen, de fyldige, velklingende fargene og den myke penselføringen. Gammel fisker ved sitt nett ligger nær opp til Krohgs motiver og Hjemad viser slektskap med Werenskiolds bondeskildringer, men sammen med En fiskergutt og En hvil har de en sødmefylt ro som er H.s egen. Den silhuettaktige behandlingen av forgrunnsfigurene i de to siste maleriene peker tilbake til italiensk ungrenessanse, mens En hvil også bringer tankene hen på Bastien-Lépage.
I november 1885 startet H., Krohg og Werenskiold en tegne- og malerskole i Kristiania. De var alle naturalister med noenlunde felles motivkrets og teknikk, men Krohgs sosiale og Werenskiolds nasjonale holdning var H.s kunst fremmed. H. interesserte seg først og fremst for motivets maleriske muligheter, og de enkelte sosialrealistiske tilløp i hans produksjon røper neppe noe radikalt engasjement. Neste års hovedverk, Badehuset i Åsgårdstrand (Badested) (1886, Bergen Billedgalleri) viser H.s franske orientering. Med elegant beherskelse av friluftsmaleriets lyse valørskala skildrer han her det mondene miljø. En lignende fargeholdning, men en hjemligere atmosfære finner vi i Fra Åsgårdstrand (1886, Nasjonalgalleriet), der en gammel sjøulk sitter ensom ved fjorden mens kveldssolen svinner. Den trauste scenen føyer seg inn i årets store norske produksjon av sommernattsbilder, men får samtidig klare symbolistiske overtoner når man kjenner bildets eldre titler Ved stranden og Aftenen og er oppmerksom på H.s interesse for Charon-motivet. Ved siden av undervisningen ved malerskolen ble nå portrettmaleriet vintrenes hovedbeskjeftigelse. Han malte bl.a. Ernst Sars (1886, Nasjonalgalleriet, gitt fra H. til Thorvald Lammers), som har fått et romantisk preg av hedensk vismann, mens Johan Sverdrup (ca. 1888) og Redaktør Thommessen (1888, Nasjonalgalleriet) kjennetegnes av den nøkterne naturalisme. Til tross for slike treffende karakteristikker var det i møte med barn at H. viste størst psykologisk forståelse. Blant de mest umiddelbare og sjarmerende barnebildene er de røft og fargerikt skildrede brødrene Ingar og Einar Skavlan (1888). En rekke av disse arbeidene befinner seg i grenselandet mellom portrett- og genremaleriet, ofte med en touch av symbolisme. De inntagende pikene i Søstrene (1887, Nasjonalgalleriet) representerer både seg selv og to karaktertyper. Den henholdsvis sky og utadvendte personlighet er fremhevet og kontrastert ved fargebruk og linjeføring: lyst blondt hår mot mørkt rødt, glatt fallende mot viltert bølgende. H. elsket slike assosiasjonsladde motsetninger, men utnyttet dem i første rekke dekorativt. Studiet av anatomien og karnasjonens virkning i solskinnet er hovedsaken i det fargesterke Badende gutter (1887, Drammens Faste Galleri). H. var en begeistret tilhenger av det friske og sunne badeliv, og den blyge nakenmodellen måtte finne seg i å posere med Michelangelos heroiske David som forbilde. Bademotivet gav H. anledning til å kombinere figur- og landskapsmaleri. Han hadde tatt det opp i Italia og skulle senere ofte benytte det, gjerne med unge kvinner i rollen som havnymfer. En ganske annen, erotisk vitalitet har den barokt frodige halvakten Svart-Anna (ca. 1887, Nasjonalgalleriet). Denne sensuelle scenen var neppe beregnet på offentligheten og kan oppfattes som H.s private kommentar til samtidens moraldebatt generelt og kollegaen Krohgs engasjement spesielt. Arbeiderens dødsleie (1888–89, Trøndelag Kunstgalleri) bygger på en tegning kalt Scène de la famille som H. lot reprodusere i Paris i 1881, og antagelig stilte ut på Salonen året etter under tittelen L`ouvrier malade. Den pietá-lignende komposisjonen har en konsentrasjon i uttrykket og en koloristisk fylde som er sjelden i kunstnerens større figurmalerier. At H. tok opp igjen dette eldre motivet og samtidig tilbød Nasjonalgalleriet en mindre versjon av Det døende barn (1889, Nasjonalgalleriet), kunne skyldes at han ønsket å markere seg som en av de norske pionerene innen genren, tilskyndet av oppmerksomheten omkring bl.a. Edvard Munchs bilder. Sammen med den store blekblå gouachen Jordbærpiken (1888, Lillehammer Bys malerisamling), det første i en lang rekke bær-, frukt- og blomsterbarn, og landskapet Ved brønnen (1889), som i sin solfylte og likefremme naturalisme har en parallell i Gerhard Munthes Bondehagen (1889), representerer Arbeiderens dødsleie en kulminasjon i H.s produksjon. Selvportrett (1890, Nasjonalgalleriet) viser en selvsikker og veletablert 33-åring. Fargene er rike, og bildet har ved en spisspenslet, fet teknikk fått et skimrende preg. Dette året slo H. seg for alvor på portrettfaget og valgte å kalle seg portrettmaler. H. kunne tilby sine kunder portretter etter siste franske fasong, enkle og verdige, med effektfull stoffbehandling. Maleren Hjalmar Johnssens datter (1890, Drammens Kunstforening Faste Galleri) har fått både drakt og personlighet tegnet med brede, feiende strøk, og portrettet av Første Hoffjegermester Treschow (1891) fikk Werenskiold til å holde H. for å være den virtuose motemaleren Carolus Durans overmann. Åsgårdstrands topografi ble et stadig viktigere motiv i hans sommerproduksjon. Et kunne være utsikten over bebyggelsen, Åsgårdstrand (1892), eller rekken av monumentale bjørker langs den skyggefulle spaserstien, Fra Åsgårdstrand (1894), der bildet lives opp av en flanerende gjest fra Badets Hotel. Her står det grønngule løvverk i varm kontrast til himmelen og den glitrende blå sjøen. H.s arbeider fra 1890-årene varierer sterkt i kvalitet. Dette skyldtes ikke bare masseproduksjon for et kjøpelystent publikum, men også tidens krav om en ny holdning i kunsten der linjens og flatens egen, dekorative kvalitet skulle fremheves. H. kunne med stor virkning innskrenke fargebruken til noen hovedklanger, dempe detaljer og forenkle komposisjonen, men gav han avkall på en naturalistisk tegning og modellering, ble resultatet lett slapt og ubehjelpelig.
I slutten av 1880-årene lot H. seg påvirke av Edvard Munchs motiver og senere åpenbart også av Munchs teknikk. Rundt midten av 1890-årene ser vi hvordan H. gir sine bilder det ettertraktede tørre, pastellaktige preget ved å la tynt påført maling virke sammen med strukturen i lerretet. I det stramt komponerte Mor og barn (antagelig 1896, Nasjonalgalleriet) bidrar denne teknikken til uttrykket av klassisk ro og harmoni. Pike med katt (antagelig 1895, Rasmus Meyers Samlinger) summerer opp H.s bestrebelser på en overbevisende måte. Bildet har stor dekorativ virkning, en fin personkarakteristikk, og inneholder litterære, symbolistiske elementer, uten at disse blir påtrengende betydningsladete. Her står den robuste piken som representant for en urnordisk idealtype, med den svarte katten som et temmet villdyr i armene. Lignende siktemål røper studien Den sorte og hvite rase (1896), der en blek, rødhåret kvinne og en mannlig neger er satt opp mot hverandre på grønn bunn. Det er følgelig ikke overraskende at H. på denne tiden uttrykte begeistring for kunstnerne George Frederick Watts, James Whistler, Edward Burne-Jones og Walter Crane. De sterke nasjonalromantiske drag i 1890-årene drev igjen H. til å oppsøke den norrøne mytologi. Med lån fra prerafaelittene og den håndfaste tyske symbolismen malte han sin ungdoms visjoner på kjempelerreter. Thor fisker Midgardsormen (1895) og det wagnerske Brynhilds Helfart (1897) manglet imidlertid den fantasikraft og strenge stilisering som gjorde mye av ti-årets sagn- og sagakunst interessant, og samtidens kritikk var sterkt negativ. Selv om mange av H.s sene portretter virker svært søtladne, kunne en fascinerende modell eller nære venner fremdeles inspirere ham til lødige arbeider. Slik er det med det romantiske portrettet av Kathinka Nyhus (ca. 1896, Rasmus Meyers Samlinger) der kvinnen er hyllet i et pastellmykt mørke, og det emaljeklare av Olga Westergaard (1898), friskt strøket opp i lyse toner.
Under Frankrike-oppholdet 1900-06/07 fikk maleriene en fastere struktur og en ny koloristisk helhet. Først og fremst var det byen H. skildret, Montmartres smug og steile gater, strøket omkring kunstnerkneipen Le Lapin Agile og partier rundt Moulin de la Galette og Sacre Coeur. Arkitekturens former og sølvtonen i gråværs- eller aftenlyset gav bildene en særegen dekorativ virkning. Den poetiske stemning i disse bildene understreket han ved genreaktige innslag, som f.eks. i En idyll (ca. 1904, Drammens Kunstforening Faste Galleri), der et par står tett omslynget i det skyggefulle gårdsrommet, Flukten til Egypt (ca. 1905, Drammens Kunstforening Faste Galleri) og Sacre Coeur (ca. 1905), der H. fremstiller seg og sin familie som Josef og Maria med barnet. Etter hjemkomsten ble Åsgårdstrand atter det maleriske holdepunkt, og den gråstemte Paris-koloritten vek for en rikere palett. H.s. rastløse trang til å eksperimentere fornektet seg ikke, og både koloristisk og teknisk er det et sprang mellom det lysende blå og oljeblanke St. Hans (1909, Drammens Kunstforening Faste Galleri) og det brungrønne og duse Kiøsterudtreet (ca. 1910). I de store, fredfylte landskapene H. malte i sine siste år står dette monumentale treet og Kiøsterudgården som det sentrale landemerket. H. ble betraktet som sin generasjons kanskje mest løfterike kunstner. Han fikk stipendier og vant medaljer, alt mens han var blottende ung. Fremtiden skulle imidlertid arte seg mer motsetningsfylt enn man den gang ante, og H. gav tidlig sitt beste. Nedgangen til tross sluttet han aldri å overraske, og så sent som 1912 kunne kritikken plassere ham i første rekke blant våre malere, frodig som aldri før.