Allerede under sin oppvekst i Jølster, der R. gikk på skole, utviklet han seg på egen hånd til en habil tegner med særlig interesse for portretter. Disse har meget av den sirlige modellering som også kjennetegner hans senere portretter. Høsten 1867 drog han til Christiania og begynte på J. F. Eckersbergs malerskole. Her traff R. Chr. Skredsvig, Eilif Peterssen og Otto Sinding, som han holdt kontakten med resten av livet. Etter to år på kunstakademiet i København med Conradsen og Vermehren som lærere, reiste R. våren 1870 på en studiereise til Hallingdal, Numedal og Telemark. Tegningene fra denne reisen ble utstilt i Christiania Kunstforening i 1873, og gjorde med ett at han ble betraktet som en av landets mest lovende tegnere. Motivene var norske folketyper og bondestue-interiører med vekt på norsk tradisjon i romvirkning og ornamenter. På kunstakademiet i München fikk R. Otto Seitz og Wilhelm Lindenschmit som lærere. Skolens nitide detaljrealisme, strenge formdisiplin og krav til plastisk klarhet traff strenger i hans temperament, og han fant seg raskt til rette med skolens pastose farger og brede, glidende penselføring. I motsetning til de fleste andre norske i München gikk R. inn for hverdagsmotiver i en mørk, gammelmesterlig stil. De fleste av hans sentrale verker skriver seg fra denne tiden, f.eks. Hos skriveren (1876, Stavanger Kunstforenings Faste Galleri) og Kone med katt (1876, Bergen Billedgalleri). At R. ikke var noen holdningsløs kopist av genremaleriets gamle mestre, viser den furore Kone med katt vakte da han sendte det til Christiania Kunstforening for innkjøp. Den krasse realismen virket ubehagelig og bildet ble avvist. Det var den bredpenslede, flekkete gjengivelsen av lyset over konens ansikt man mislikte, og bildet fikk raskt økenavnet "Rustis spedalske kone". Episoden vakte stort oppstyr blant yngre kunstnere med Otto Sinding i spissen, og innledet 1880-årenes store oppgjør mellom Kunstforeningens styre og kunstnerne.
I München vanket R. i kretsen rundt generalinne Fredrikke Gram, der man også fant Harriet Backer, Kitty Kielland, Erik Werenskiold og Gerhard Munthe. I R.s portrett av Generalinne Fredrikke Gram (1877, Nasjonalgalleriet, Oslo) smelter váre karakteriserende observasjoner sammen i en enhetlig komposisjon. Bildet er et av de fineste norske portretter fra den tiden, og gjenspeiler dessuten R.s store beundring for Hans Holbein. Etter åtte år i München installerte R. seg i 1881 i Maulbronn- klosteret i Württemberg, der han ble boende i elleve år, visstnok pga. en ulykkelig kjærlighetshistorie. I denne perioden levde han isolert fra det norske kunstnermiljøet, gikk kledd som munk, men malte som før. Om hans produksjon fra denne tiden vet man lite. Mangelen på nye impulser førte til at han rendyrket sin tidligere stil samtidig som de få bildene som antagelig er fra denne tiden, viser en sterkere artikulert koloritt, f.eks. Studie fra Rothenburg (Bergen Billedgalleri). Ved siden av figurbilder og portretter kommer også kirkeinteriører inn i hans motivkrets i tiden på Maulbronn. Hans produksjon fra denne perioden er liten, noe som skyldtes hans stadig sterkere selvkritiske holdning til sine arbeider. Han skal således ha ødelagt flere bilder etter årelangt arbeid med dem. I 1886 besøkte maleren Frida Hoeck klosteret. Syv år senere giftet hun seg med R., og de bosatte seg hos hans foreldre i Leikanger. Etter to år flyttet de til Bergen, hvor empirehuset Urdi på Damsgård ble deres hjem. Her fulgte et mer utadvendt liv for R., som tok del i den estetiske debatt, og engasjerte seg sterkt i nasjonale problemer. Med malingen gikk det langsomt. Hans beskjedne produksjon fra denne perioden omfatter stort sett portretter, som Kunstnerens foreldre (Bergen Billedgalleri), Portrett av Stortingspresident W. F. K. Christie for Stortinget, to store helfigursbilder av Arne Garborg (hvorav ett i Bergen Billedgalleri), samt en rekke fine selvportretter. I en gruppe for seg står noen komposisjoner med mor og barn, med Ìngres-inspirerte kvinner i sollyst ideallandskap. Her kommer R.s higen etter det klassiske, idealiserte fram. Den synes å ha stått i en uløselig konflikt med hans realistiske idealer som maler og tegner og hans nasjonalromantiske holdninger, som bl.a. kom til uttrykk i hans arbeid med norsk kunsthåndverk. R. var i Bergen et aktivt medlem av Vestmannalaget og ivret for ren norsk tale og skrift. Selv talte han et fyndig landsmål. I denne forbindelse sendte han rundt århundreskiftet ut tegninger av norsk husbunad. Ved å gjøre kjent de norske bondemøbler ville han gjenopplive sansen for de nasjonale særdrag i farge og formfølelse. Her stod han helt på linje med Gerhard Munthes samtidige arbeid, som han sterkt støttet. Ellers er det gjennom tegningene vi får det beste inntrykk av R.s siste arbeidsår. Gjennom sin følsomme personkarakteristikk fremtrer han som en usedvanlig fin portrettegner av så vel folketyper som kjente personligheter. Han ble i sin samtid sidestilt med Erik Werenskiold som landets fremste tegner.