S. ønsket fra ungdommen av å bli kunstmaler. Etter å ha gått i lære som håndverksmaler begynte han på Tegneskolen, men ble frarådet av sin lærer å forsøke å bli kunstmaler. I stedet utdannet S. seg til dekorasjonsmaler. Etter endt utdanning drog han på svennevandring til Danmark og Tyskland. Etter et opphold som dekorasjonsmaler i Chicago kom han tilbake til Norge i 1894 for å studere videre ved Den kgl. Tegneskole med tanke på å bli kunstmaler, men påny ble han overtalt til å oppgi sitt ønske. Et håndverkerstipend satte ham i stand til å reise til Paris, der han i 1897 bodde sammen med billedhuggeren Carl Milles. På denne tid ble også S. venn av tolleren og maleren Henri Rousseau. S. bodde hos Rousseau i flere perioder under sine opphold i Paris og introduserte ham for sine norske kollegaer. I 1907 arrangerte S. en Rousseau-utstilling i Oslo Kunstforening.
Da S. debuterte på Høstutstillingen 1902 ble han straks lagt merke til som en særpreget maler. Hans tidlige bilder er preget av nyromantikkens fremheving av motivenes stemningsinnhold, som i bildene fra Hammersborg (1901, Bergen Billedgalleri og Lillehammer Bys malerisamling). S.' sosiale engasjement på denne tid kommer fram i Fabrikkarbeidersken (1902, privat eie), et av de få bybilder av S. der en figur er det dominerende motiv. Hovedverket blant de tidlige bybildene er Myrens mekaniske verksted (1906, Rasmus Meyers Samlinger, Bergen). Bildets mørke koloritt domineres av sotsvart, mønjerødt og irrgrønt, karakteristisk for S.' storbyskildringer fra årene 1900-1909. I 1906 oppholdt S. seg i Brugge og malte bl.a. Kanal i Brugge (1906, Nasjonalgalleriet, Oslo), Grønttorget i Brugge (Bergen Billedgalleri) og Grand Place i Brugge (1907, privat eie). I disse bildene har S. lagt fargen på i tykke lag, ofte i avgrensede felt, som gir overflaten et nærmest mosaikkaktig preg.
Under et opphold i Kristiania 1908 malte S. Innvielsen av Folkets Hus (Oslo Bymuseum) og påbegynte Fra Akerselven (1908-12, Drammens Kunstforening Faste Galleri). Årene 1908-13 oppholdt han seg hyppig i Italia. I byprospektene fra Roma og Napoli kommer det etter hvert inn en lysere koloritt og S. begynner å legge fargen på i tynne strøk hvor tegningen skinner igjennom. I Via Bocca di Leonore (1908, Rasmus Meyers Samlinger, Bergen) er motivet sett i fugleperspektiv, en synsvinkel S. ofte anvender for å fange inn det brokete liv som utfolder seg i storbyens gater. Fra oppholdet i Napoli 1909 stammer bl.a. St. Luca (Rasmus Meyers Samlinger, Bergen) og Virgiltempel i Napoli (Trøndelag Kunstgalleri). I 1912 bodd S. i London. Fabrikker ved Themsen (1912, Rasmus Meyers Samlinger, Bergen) gir med sin skildring av den hektiske aktivitet på havna, som er innhyllet i røyk og damp, en nærmest apokalyptisk visjon av storbyen. Bildet er også utført som radering (Nasjonalgalleriet). S. malte også portretter som ofte gir dyptloddende karakteristikker av modellen, som i Thora Holmström (1907, Nasjonalgalleriet) og Kristofer Janson (1909). S. malte sin fremtidige hustru Sigrid Undset 1911 (Rasmus Meyers Samlinger, Bergen, 1912, Den norske forfatterforening og 1917-18, Svarstad, A. C.s malerisamling). Fra 1913 bodde S. fast i Kristiania og fant sine motiver hovedsakelig i traktene omkring sine forskjellige tilholdssteder i byen. En rekke bilder med motiver fra Trefoldighetskirken er fra 1915, i 1916 malte han fra Foss bryggeri. S. bodde på Sinsen 1916-19 og malte flere utsiktsbilder over Oslo. 1919-26 bodde han i Brinkensgate på Kampen, og fra 1926 i Gabels gate med utsikt over Bygdøy og Oslofjorden. I 1926 malte S. på Hovedøya, bl.a. Klosterruinene på Hovedøya (1926, Nasjonalgalleriet). Blant S.' sene verker kan fremheves bildene fra Gassverket (1929 Oslo Lysverker, 1930 Nasjonalgalleriet, Oslo og 1936 Göteborg Konstmuseum). I 1938 og senere malte S. ofte i Tøyenhagen. I sine byprospekter hender det S. dikter til eller trekker fra og enkelte av hans bilder viser rene arkitektoniske fantasier, som Youngstorvet (1943). Dette viser kunstnerens visjon av hvordan han mente stedet burde ha vært.
Etter sin tilbakekomst til Norge 1913 utvidet S. sin motivkrets. Han oppholdt seg ofte på Ringsaker om somrene og malte landskaper derfra. Han tok også opp stillebenmaleriet. I 1920 besøkte S. de franske alper og i de følgende år malte han flere alpemotiver hvor de voldsomme fjellmassivene kontrasteres mot små fjellandsbyer. Året 1928 malte han stemningslandskaper fra traktene omkring Palermo. I 1930 besøkte han Nord-Norge. Kogen sett fra Skjervøy (1930-31, Nationalmuseum, Stockholm), bygger på inntrykk fra oppholdet. 1931 malte han i Setesdal. S. har også utført enkelte raderinger. Da han i 1919 stilte ut sin grafikk i Kunstnerforbundet, fikk han en kjølig mottagelse. Grafikken er ofte preget av at platene er overarbeidet. S. står som en isolert skikkelse i sin samtid. Han utstilte sammen med nyimpresjonistene Ludvig Karsten, Henrik Lund, Søren Onsager, Bernhard Folkestad og Theodor Laureng fra 1910, men skiller seg sterkt ut fra disse. I en artikkel i 1911 betegner Christian Krohg S. som "naturalismens nye herold. Men han har opdaget dens romantik, den som består i at drive prosaen såvidt, at den utløser poesi". S. tok avstand fra samtidens modernisme og forfektet sitt kunstsyn i en rekke artikler. I sin ungdom hadde han sympati med den sosialistiske bevegelse, men tok avstand fra Karl Marx. Under inntrykk av hendelsene under den 1. verdenskrig, endret S. holdning. Han tok avstand fra pasifisme og fra 1917 vendte han seg også mot bolsjevismen. S. ble opptatt av raseteorier og skrev flere artikler med antisemittisk innhold, holdninger som bidrog til å isolere ham. Da S. i 1925 ble innstilt av Bildende Kunstneres Styre som Christian Krohgs etterfølger som professor ved Kunstakademiet, reiste flere yngre kunstnere seg i protest. Da han ikke fikk professoratet dannet han sammen med Søren Onsager en egen kunstskole som de drev fram til 1929.
