A Pécsi VSK-ba, a közelmúltban elhunyt, dr. Kiss Endre hívta, ahol egy eredményekben, sikerekben gazdag pályafutás vette kezdetét. 1978-ban a magyar nappali bajnokságon a juniorok között Kelemen János győzött. Az 1978-as évben az országos egyesületi pontversenyt a PVSK nyerte. 1980-ban Kelemen megnyerte a Gerecsén rendezett felnőtt hosszú távú egyéni bajnokságot, a nappali bajnokságon bronzérmes lett. Még ugyanebben az évben a váltóbajnokságot a Gyenis Zoltán, Tóth János, Pápai János, Kelemen János csapat nyerte. A lakiteleki országos csapatbajnokságot is megnyerték.

1981-ben a felnőtt csapatbajnokságon a Kelemen, Gyenis, Szabó, Széles összeállítású csapat nyert. Ezen kívül számos hosszú távú versenyt, és egyéni, valamint éjszakai bajnokságot is nyert, ide tartozik az 1985-ös egyéni bajnoki győzelem.

32 évesen fejezte be pályafutását, huszonöt országos bajnoki címet szerzett, váltóban, egyéniben, éjszakai rendezvényeken. Legemlékezetesebb versenye elmondása szerint, az 1985-ben az ausztráliai VB-én szerzett bronzérem. Példaképe a sportág kiemelkedő egyénisége, a közelmúltban elhunyt Monspart Sarolta volt.

Kelemen János pályafutása befejezése után az MKB pécsi kirendeltségének gazdasági igazgatója lett. 1990-től 1999-ig a PVSK tájékozódási futó szakosztályát vezette, tagja volt a sportág Baranya Megyei Szövetségének is. Egy időszakában a PVSK elnökségébe is beválasztották. Jelenleg visszavonultan él.

Kelemen János a PVSK Aranygyűrű kitüntetést 1994-ben kapta meg.