K. arbeidet til å begynne med som tømrer og snekker. Våren 1898 ble han ansatt ved arkitekt Holger Sinding-Larsens kontor, hvor han arbeidet i ca. 3 år. Somrene 1901 - 03 utførte K. en rekke oppmålingsoppdrag for Fortidsminneforeningen, bl.a. i Lom kirke. I 1904 reiste han til København, og fra 1906 var han ansatt hos arkitekt Hack Kampmann og beskjeftiget med oppførelsen av Ny Carlsberg Glyptoteks bygning i København. Han var også medarbeider ved byggingen av Landsbanken samme sted. K. kom tilbake til Norge først i 1914. Etter å ha deltatt i nøytralitetsvakten ble han ansatt på byarkitektens kontor i Kristiania Her traff han arkitekt Bredo H. Berntsen som han gikk i kompaniskap med under navnet Bredo H. Berntsen & Johannes Kløften.
K.s første kjente arbeid er på Brekke gård i Heddal, hvor også eldre bygninger ble modernisert i samme frodige sveitserstil som den nye hovedbygningen. I de senere gårdene som Nesseter på Nesøya i Asker merkes Schirmers innflytelse fra ekskursjonene i Gudbrandsdalen. K. tegnet her et helt gårdsanlegg i eldre norsk barokk/rokokko-tømmerromantikk. Tømmeret ble hentet helt fra Gudbrandsdalen. K.s arbeider i Oslo havn sammen med B. Berntsen er funksjonalistiske i hovedtrekkene, men ekspedisjonsbygningen til Den norske Amerikalinje har i fasaden også nøkterne klassisistiske trekk. K. var også engasjert i restaureringsarbeider av kirkeinteriører.