J. var nr. 10 av 14 søsken og kom 1853 i lære i Odense hos snekkermester Barth, som eide en speil- og rammefabrikk. J. ble en dyktig ornamentskjærer og begynte på egen hånd å sysle med modellering - en byste av etatsråd Hofman Bang vakte oppmerksomhet. Etter at professor Herman Wilhelm Bissen hadde uttalt seg rosende om den, foretok Barth en innsamling blant formuende menn på Fyn for at J. skulle kunne utdanne seg til billedhugger ved kunstakademiet i København. Fra januar 1858 (ev. oktober 1859) deltok han i 1. frihåndsklasse der; allerede i 1860 ble han flyttet opp i øverste klasse, modellskolen. Samtidig arbeidet han i Bissens atelier, hvor han også fikk undervisning. Bissen kom til å øve en helt avgjørende innflytelse på J.s utvikling og gav den unge, usikre mann all støtte og oppmuntring.
J. vant 1862 kunstakademiets lille sølvmedalje for et relieff modellert etter Thorvaldsens gruppe Amor og Psyche, en oppgave som var typisk for det senklassisistiske miljø omkring Bissen. I 1863 debuterte J. på forårsutstilingen på Charl.borg med en portrettbyste og relieffet Tro, Haab og Kjærlighed; året etter utstilte han genreskulpturen Tiggerbørn. Oppmuntret av et mindre, norsk stipendium begynte han på statuen Den lenkede Andromeda faar Øje paa Uhyret, utstilt på Charlottenborgutstillingen, København våren 1865 og kjøpt av kong Carl 15. til Slottet i Christiania. Figuren i gips fikk plass i en nisje i trappehallen, men er nå magasinert. Statuen bygger på inntrykk fra gresk-romersk skulptur, særlig fra Venus-typen med drapert underkropp og fra Niobes døtre med patetiske skrekkstillinger. Mildere er statuen Den forladte Psyche (1868), som "ser længsels-fuldt efter det Himmelske", preget av sentimental senklassisisme. Det sentimentale spiller også en stor rolle i hans små skildringer fra virkeligheten, f.eks. En fattig Pige som selger Fisk ved Stranden.
Etter Bissens død 10. mars 1868 ble forholdene vanskelige for J. i København, fordi marmorhuggingen for hans gamle lærer falt bort. Statsstipendiet fra Norge skaffet ham imidlertid et 3/4 års opphold i Roma 1869-70 som fullbyrdet utdannelsen fra kunstakademiet i København og gav ham nye impulser fra antikkens skulptur. J. slo seg nå ned i Christiania, hvor han skal ha fullført en Amor i marmor til en dansk bestiller; en senere replikk ble gitt som bryllupsgave til kronprins-paret 1881 fra byer i Østfold. De første årene ble magre, men ved konkurransen 1874/75 om en bronsestatue av Christian 4. for Stortorvet i Christiania ble han trukket ut sammen med Brynjulf Bergslien for å konkurrere videre på grunnlag av ett av sine to utkast. Denne omkonkurranse vant J. i 1876, og den store statue var modellert ferdig ved utgangen av 1878.
J.s hovedverk Christian 4. utmerker seg ved sin sikre holdning og beherskede form, tydelig påvirket av H.W. Bissens kunst, særlig statuen av Tordenskiold utenfor Holmen kirke i København. Den klare helhetsvirkningen står i skarp kontrast til den løsere, mer maleriske form i Theobald Steins samtidige statue av Jens Juel i København. J.s første utkast var svakere, først i statuen selv fikk han et sikkert grep på oppgaven, bl.a. ved å overta grunnlegger-gesten fra Bergsliens første utkast og dettes forbilde, Bengt Erland Fogelbergs statue av Gustav Adolf i Göteborg.
Ettertiden har beklaget at ikke Bergsliens første utkast gikk av med seieren med sin energiske og pompøse karakter. J.s skulptur er i sammenligning blitt kalt tam og kjedelig, ikke "særlig morsom" (A. Nygård-Nilssen). Oppgaven gjaldt imidlertid ikke en morsom kongestatue, og monumentkomiteen fant Bergsliens figur for teatralsk. Den var også politisk kompromitterende for høyrekreftene i komité og kommunestyre. Venstrepressen hadde nemlig brennmerket monumentsaken som en hyllest til despoti og lydrikestatus; Christian 4. var blitt en brikke i 1870-årenes kamp mellom Høyre og Venstre. Bergsliens maktglade konge kunne derfor ikke aksepteres, mens J.s forsiktigere figur både tok brodden av angrepene og bedre svarte til Høyres egne idealer om en konstitusjonell monark.
Christian 4. vant alminnelig bifall ved avdukingen i 1880, og suksessen skaffet J. en rekke nye oppdrag. En stor bronsebyste av Johan Herman Wessel ble avduket på Wessels plass i Kristiania 1885. Den er mer monumental enn Middelthuns intime marmorbyste fra 1866, men viddet er ikke glemt, og ettertidens negative kritikk er neppe berettiget. Marmorstatuen Ruth (1884/85) ble gitt som det norske folks sølvbryllupsgave til Oscar 2. og Sophie. Den rolig skridende skikkelse i antikiserende draperier er helt gjennomsyret av en mild, harmonisk senklassisisme, kanskje det reneste uttrykk for billedhuggerens idealer fra ungdomsårene i København. Troskapen mot klassisismens læresetninger bestemte også hans reaksjon på bestillingen av et relieff til Det Kgl. Slott ca. 1878. Motivet var Oscar 2.s avduking av Carl Johans rytterstatue i 1875, men J. avslo oppdraget, fordi det moderne kostyme ble uskjønt i lavt relieff og en stor folkemengde i friluft krevde en malerisk behandling med stor romdybde. Det sanne relieff kunne bare ha få figurer, uten avskjæringer på sidene; alle måtte plasseres i forgrunnen og settes opp mot en fast bakgrunnsflate. Bestillingen gikk i stedet til Mathias Skeibrok. J. kunne likevel ikke forbli helt upåvirket av naturalismen. Innflytelsen viser seg først og fremst i detaljeringen på overflaten i hans mange portrettbyster, hvor den plastiske kjerne svekkes og virkningen blir død. Utviklingen ses i bystene på Vestre Aker kirkegård av Jørgen Moe, avduket 1887 og påbegynt av Middelthun, og av J.C. Heuch (1905). Friskere enn hans tidligere genreskulpturer er Bestefar kan (1893, Nasjonalgalleriet, Oslo) med barnet på fanget som rekker munnspillet til sjøulkens munn.
Etter Christian 4. fikk ikke J. utføre flere store portrettstatuer, enda han gjorde utkast både til Holberg i Bergen og Tordenskiold i Kristiania, den siste i utfallsstilling med kården i en relieffmessig komposisjon. Han var virksom inn i sin høye alder med milde fremstillinger av bibelske motiver som Kristus (utstilt 1914), Adam og Eva og Den botferdige Magdalena. Hans sene produksjon omfatter også genrefiguren Svalen er kommet. Da J. måtte fraflytte sitt atelier på Hammersborg på grunn av byggeplanene for Deichmanske bibliotek, kjøpte Kristiania kommune alle hans gipsmodeller for 10 000 kroner. De som overlevde transporten, befinner seg i Oslo Bymuseum.
