Door twee tragische gebeurtenissen in 1896 brak voor Johannes Piekema een nieuwe periode aan. Binnen vijf maanden overleden zijn beide (toen nog toekomstige) schoonouders, die in een monumentaal pand aan de Emmastraat te Arnhem woonden. Nog datzelfde jaar trouwde Johannes met Johanna Spruijt, en verhuisde van Utrecht naar Arnhem. Het echtpaar betrok op 10 september het pand van Johanna’s ouders; hier begon Piekema zijn eerste praktijk. Twee kinderen – de beide dochters – werden hier geboren. Enkele jaren later, in 1902, verhuisde het gezin naar een grote villa aan het Velperplein, ter hoogte van het huidige Rembrandttheater. Hier zette hij zijn praktijk aan huis nog vele jaren voort.
Dat Johannes Piekema een sociaal bewogen mens was, blijkt uit het feit dat hij ervoor gezorgd heeft dat er in 1905 in Arnhem een oogkliniek werd opgericht. Het was nog op bescheiden schaal dat de toen negende kliniek voor oogheelkunde in Nederland van start ging in een particulier pand aan de Apeldoornseweg. Twee jaar later werd in Arnhem – geholpen door een gift van 10.000 gulden van een anonieme stadsgenoot – een voor die tijd zeer modern Ooglijdersgasthuis met een polikliniek voor on- en minvermogenden geopend in villa Beaulieu aan de Noordelijke Parallelweg. De officiële naam werd ‘Vereeniging Arnhemsche Inrichting voor Ooglijders’. De initiatiefnemer dokter Piekema werd voorzitter van het college van regenten en tevens geneesheer-directeur. Slechts 22 jaar heeft deze oogkliniek bestaan. Een voortdurend financieel tekort had uiteindelijk zijn weerslag op het onderhoud van het gebouw. Bovendien was er geen geld meer voor aanschaf van nieuwe instrumenten, zodat het gasthuis niet meer aan de eisen van de tijd voldeed. Het gevolg was sluiting in 1929.
Het moet een teleurstelling geweest zijn voor oogarts Piekema dat zijn geesteskind zijn deuren moest sluiten. Daarna hield hij nog tot 1933 praktijk aan huis op het Velperplein. In dat jaar verkocht hij de woning en begon een nieuwe oogkliniek in een gehuurd pand, opnieuw aan de Apeldoornseweg. Hier overleed in 1937 zijn echtgenote op 65-jarige leeftijd. Zij werd begraven in het familiegraf op Moscowa te Arnhem. In het pand aan de Apeldoornseweg bleef Piekema zijn beroep uitoefenen tot in de Tweede Wereldoorlog. Privé woonde hij toen aan de Vondellaan.
De oogarts Piekema heeft zich voortdurend op de hoogte gehouden van de nieuwste vindingen en therapieën op zijn vakgebied. Diverse vakanties benutte hij voor bezoeken aan klinieken in Duitsland, Oostenrijk en Frankrijk. Dit gaf hem nationale bekendheid onder zijn collega’s, die hem beschouwden als een der beste oogartsen van zijn tijd in Nederland. Opmerkelijk is dat hij na de verschijning van zijn proefschrift niet meer gepubliceerd heeft. Men zou kunnen concluderen dat hij een praktisch ingesteld man was die geen wetenschappelijke carrière nastreefde. Op 1 mei 1936 vierde hij zijn veertigjarig jubileum als arts in besloten kring.
Naast zijn veelomvattende werk als oogarts – hij voerde ook chirurgische ingrepen uit – was de liberaal Piekema als lid van de Vrijheidsbond lange tijd politiek en maatschappelijk betrokken in zijn woonplaats. In de tijd dat het merendeel van de Arnhemse raad nog uit liberalen bestond, werd Piekema in 1910 gekozen tot raadslid. Hij zou dat blijven tot begin augustus 1935. In deze kwart eeuw heeft hij eveneens zitting gehad – vaak als voorzitter – in tal van maatschappelijke en politieke commissies en comités. Ook in het verenigingsleven was hij bestuurlijk actief. Zijn passie voor muziek kwam hem goed te pas bij zijn bestuurslidmaatschap van de Arnhemsche Orkest Vereeniging (1905-1910) en het presidentschap van de Arnhemsche Kamermuziek-Vereeniging (1919-1940). Hij moet het vermogen hebben gehad zijn kostbare tijd efficiënt in te delen.
Een belangrijke stap was zijn toetreding tot de gezondheidscommissie voor de gemeente Arnhem in december 1903. Deze commissie was een van de adviserende organen van het gemeentebestuur bij zijn gezondheidsbeleid. Zij was samengesteld uit verschillende deskundigen, zoals artsen, juristen, apothekers, scheikundigen en andere specialisten. Piekema’s lidmaatschap van de gemeenteraad én van de gezondheidscommissie was in het belang van de volksgezondheid: in de loop der jaren leerde hij immers beide instanties van binnenuit goed kennen.
Niet onbelangrijk voor Arnhem en omliggende gemeenten was de periode dat Piekema voorzitter was van de Vereeniging voor Vreemdelingenverkeer (VVV). In april 1915 werd hij benoemd tot hoofd van het dagelijks bestuur. Onder zijn leiding maakte het lokale vreemdelingenverkeer een bloeiperiode door, zoals ook blijkt uit een reactie van leden van de Haagse VVV die in april 1926 een bezoek aan Arnhem brachten. Zij stelden vast dat de Arnhemse VVV een en al leven was en dat bij hen “den dood in den pot” heerste. De Arnhemse VVV werd zelfs “een bewijs van zeer gevorderd locaal patriottisme” genoemd. Naast de bevordering van het toerisme had de VVV Arnhem ook als doelstelling de vestiging van welgestelden te stimuleren. Door middel van nationale propaganda en later ook intensieve werving in Nederlandsch-Indië, maakte men reclame voor ‘Arnhem als plaats van vestiging’. In 1926 – het laatste jaar dat Piekema het voorzitterschap van de VVV bekleedde – maakte hij samen met de secretaris en bankier H. Lamsvelt een propagandareis van vier maanden door Nederlandsch-Indië. Van begin januari tot eind april werd onderweg in bioscopen en andere gelegenheden de film ‘Arnhem en Omstreken’ vertoond, die altijd voorafging door een inleiding van Piekema of van Lamsvelt. Arnhem werd daarbij gepromoot als “… een stukje Hollandsch natuurschoon, vol van wijdsche [sic] rust en heerlijkheid, waar de energie een verjongingskuur zou ondergaan.” In 1918 was deze film door de filmpionier Willy Mullens gemaakt in opdracht van de gemeente Arnhem en de plaatselijke VVV. Het is aannemelijk dat deze reis ook een verband had met het grootschalige evenement in de zomer van 1928: de ‘Indische Tentoonstelling Arnhem’ (ITA) in park Zypendaal.
Tot op hoge leeftijd bleef Piekema zijn medische beroep uitoefenen. In september 1944 werd hij echter, evenals alle Arnhemse ingezetenen, door de Duitse bezetter gedwongen zijn woonplaats ‘veiligheidshalve’ te verlaten. Hij vertrok naar Ugchelen, gemeente Apeldoorn, waar zijn oudste zoon huisarts was. Daar werd hij opgevangen in een geknakt gezin omdat zijn zoon, die in het verzet zat door de Duitsers was opgepakt. Na enige tijd verhuisde Johannes Piekema naar zijn oudste dochter aan de Ugchelsegrensweg. Uiteindelijk zou de oogarts in 1946 overlijden in een rusthuis te Apeldoorn.
Niet meer dan een familiebericht en een artikeltje van de redactie van de Arnhemsche Courant maakten Piekema’s overlijden bekend. Drie dagen na zijn overlijden werd hij bijgezet in het familiegraf op begraafplaats Moscowa. Dit graf, dat ten noordwesten van de Weg langs de Begraafplaatsen lag, werd in 1994 geruimd. Niets herinnert meer aan de markante persoon Johannes Piekema.