M.s far var en vel ansett stempelskjærer ved Den kgl. Mynt på Kongsberg, og M. fikk tidlig øvelse i gravering og tegning ved stempelverkstedet. Foreldrene døde tidlig, og M. kom i huset til sin fadder, myntmester Johan M. Kruse. Skolegangen ble mer enn mangelfull, og M. følte senere sin dårlige grunnutdannelse som en belastning. I 1836 drog M. til Christiania og ble samme år oppført som gullsmeddreng. I 1839 arvet han en større pengesum etter Kruses søster og om høsten skrev han seg inn på Den kgl. Tegneskole. Allerede våren 1840 reiste han til København og ble tatt opp på akademiet. Hans lærer H. W. Bissen var Thorvaldsen-elev og oppdrog sine elever til respekt for naturen, antikken og Thorvaldsen. M. mottok bestemmende inntrykk fra Bissens kunst. Særlig betydningsfull ble påvirkningen fra Bissens karakterfulle portrettbyster med trekk av tidlig realisme.
Ved akademiet i København hadde man fra slutten av 1700-tallet arbeidet med å finne et fyldestgjørende billeduttrykk for personer og hendelser i den nordiske mytologi, som en parallell til den klassiske mytologiens billedverden. M. kastet seg over studier av Nordens gudelære og historie og leste Oehlenschläger og Grundtvig, men man kjenner bare en blyantskisse av M. som antyder hans interesser for nordiske emner disse årene. Bortsett fra elevtegninger på akademiet laget han bare statuetten av Tordenskiold (1846) til kunstforeningen i Christiania og statuetten Amor med due (1847, Nasjonalgalleriet, Oslo), som minner om Bissens tidligere småfigurer. M. slet med forsøkene på å kombinere det konservative og akademisk pregede senklassisistiske formspråk med de nasjonalromantiske emner han ønsket å formidle. I tillegg kom dårlig helbred og vanskelig økonomi, og han stilte bare ut et eneste arbeid under studieårene i København. Han hadde knyttet en nær forbindelse med den svenske billedhuggeren Johan Peter Molin, og denne overtalte ham i 1851 til å reise med ham over Brussel og Paris til Roma. I 1850-årene var Thorvaldsens kunst toneangivende i nord-europeisk skulptur, og Roma ble i realiteten Europas billedhuggerskole. Selv om en forsiktig realisme begynte å gjøre seg gjeldende i Roma, var det bare som en bestanddel av en idealkunst preget av klassisismens regler og en idyllisk-romantisk tendens. M. hadde sett noe av samtidens franske skulptur i Paris. Samtidig ble han opptatt av italiensk renessanse og antikkens ånd og formspråk. M. var lett påvirkelig, og disse inntrykk fikk ham til å tvile på sine egne evner. Dette utviklet seg etter hvert til en overdreven selvkritikk. En rekke tegninger viser impulser fra både Thorvaldsen og nazarenerne, men også selvstendige studier, bl.a. flere raskt oppfattede italienske folkelivsscener.
Flere krefter ble satt i sving for å hjelpe M., og i 1852 fikk han den representative oppgave å utsmykke Universitetets festsal. Verken dette eller det senere oppdraget om utsmykking av gavlfeltet i Domus Media ble utført. M.s planer antydes bare i en liten stående Idun i brent leire for festsalen og noen mindre skisser til gavlfeltet. I 1859 utførte han sitt eneste større arbeid i Roma, dåpsengelen til Trefoldighetskirken (gips 1859, marmor 1865). Døpefonten røper impulser fra Thorvaldsens dåpsengler og er følsomt gjennomarbeidet, men har et litt alminnelig, jordnært preg. Tross manglende produksjon var det likevel i Roma-årene M. ble formet som kunstner.
Det ble innen portrettkunsten M. skulle gjøre sine beste arbeider. Etter hjemkomsten fra Italia i 1860 fikk M. bestilling på portrettbyster av Henrik Wergeland og Johan S. Welhaven til Studentersamfundet. Marmorbysten av Welhaven er et av de sentrale portretter i norsk skulptur. Hermeformen, den hvite marmoren og preget av klassisk likevekt og harmoni karakteriserer i seg selv dikterens idealer. M. har samtidig formidlet inntrykket av følsomhet og autoritet i modellens kompliserte personlighet. I 1867 laget han en mer intim byste av Welhaven, utført i terrakotta, med hodet lett lutende og trekkene preget av større uro og resignasjon. Den realistiske tendens er her tydeligere. Blant M.s senere byster kan nevnes portrettene av den unge maleren Johan Jørgen Broch (gips, 1869), komponisten og sangerhøvdingen J.S. Behrends (marmor, 1870, Den Norske Studentersangforening) og Eidsvollsmannen Jacob Aall (marmor, 1871, Nasjonalgalleriet). Disse arbeider viser M.s evne til individuell psykologisk tolkning.
Tiåret 1860–70 ble M.s gjennombruddsår. Han hadde dokumentert seg som vår ledende portrettkunstner og mottok en rekke bestillinger. Høsten 1869 ble Den kgl. Tegneskole omorganisert. M. ble ansatt som lærer i frihåndsklassen og bosatte seg i Christiania. Bortsett fra et par usedvanlig raskt modellerte kolossalbyster, bl.a. til Studentersamfundets sørgefest over A.M. Schweigaard, arbeidet M. meget sent. Særlig var hans arbeid med bysten av Halfdan Kjerulf (1871–74) preget av tekniske uhell og kunstnerisk tvil. Først i 1874 ble det tredje forsøket anvendt som forarbeid til et ferdig monument, støpt i bronse og reist på et høyt granittpostament som det første plastiske minnesmerket i Christiania. Arbeidet med bysten aksentuerte de realistiske trekk i M.s kunst. Bysten er konsollformet, avskåret i bue over brystet og iført tidens drakt. Komponistens forfinede og nervøse ansikt syns å lytte til indre toner. Statuen av A.M. Schweigaard i bronse foran Universitetet i Oslo betegnes som M.s hovedverk og ble den eneste større skulptur han maktet å fullføre. Han fikk oppdraget i 1870, men fullførte arbeidet først i 1883. De første leirskisser ble godkjent i 1874. Den første nakne leirmodellen ble ødelagt, og leiren i den neste frøs og falt sammen. Den tredje modellen ble ferdig i 1877, og M. arbeidet deretter med stadig nye draktmodelleringer. I 1883 kunne han endelig sende statuen til støping. Det store formatet passet egentlig dårlig for M.s lyriske temperament. Schweigaard-statuen har imidlertid en plastisk ro og et fint formet hode med en forsiktig realisme i den klassiske utførelsen som virker overbevisende. Fra 1875 og til sin død fullførte han for øvrig bare en Barde i terrakotta (ca. 1880), som tyder på at han ikke hadde glemt ønsket om en gang å skape en nordisk skulptur.
I M.s beste arbeider gir de grundige modellstudier en personlig karakter til det klassiske formspråk han hele tiden holdt fast ved. De tidlige interesser for nasjonalromantikken og de senere realistiske trekk påvirket aldri grunntrekkene i hans klassiske form. Han nød stor anseelse og var aktivt med i hovedstadens kunstliv, men han deltok aldri i konkurranser og etter 1866 stilte han heller ikke ut. Fra 1869 til -86 ledet han undervisningen i frihåndstegning og modellering ved Den kgl. Tegneskole, og blant hans mange elever var Wilhelm Peters, Axel Ender, Eilif Peterssen, Christian Skredsvig, Chr. Krohg, Erik Werenskiold, Theodor Kittelsen og Edvard Munch.