Kleijns uiterlijk valt slechts in termen van buitengewone zwaarlijvigheid te beschrijven. Een zwager schreef dat de “zware sluier van het vleesch den nobele geest, die daarin huisde, toch zichtbaar genoeg heeft laten doorschijnen, als de zon door een mistige wolk”. Een vriend typeerde Kleijn als “eeuwig donker, zuur en onvriendelijk”, een andere vriend benadrukte zijn “zorgeloze, ongemaakte en vrolijke verkeering” om even later toe te geven dat zij elkaar nauwelijks kenden. Jan Pieter Kleijn, Piet voor intimi, iedereen wist wel iets over hem.
Na twee jaar in Utrecht theologie te hebben gestudeerd zwaaide Kleijn in 1779 vanwege een borstkwaal om naar de rechten. In 1782 promoveerde hij op een proefschrift over de juridische aspecten van de echtscheiding (De divortio). Tijdens zijn Utrechtse studiejaren kwam hij in contact met leden van het letterkundig genootschap Dulces ante omnia Musae, waarbij hij zich al snel aansloot. De spil van dat genootschap was de Zeeuwse dichter Jacobus Bellamy, die onder de geuzennaam Zelandus politiek pittige gedichten publiceerde. In dat gezelschap discussieerde Kleijn met hem en diens ‘genialische’ vrienden, onder wie de predikant-schrijver Willem Anthony Ockerse en de controversiële vader en zoon Jan en Jacobus Hinlópen. Kleijn bracht in de discussies wat Ockerse niet vermocht: ars poetica, esthetica, kritiek op basis van literair-esthetische criteria, de moeilijkste en meest ondankbaarste van de literaire genres. Maar ook ander tijdverdrijf als de jacht en de muziek behoorde tot Kleijns favoriete bezigheden. De vriendschapsbanden waren zeer hecht in die jaren en de vrienden stimuleerden elkaar waar ze konden. Toen Kleijn in die hooggestemde tijd in een hopeloze liefde wegkwijnde troostte Bellamy hem: “Uw hart, zoo teêrgevoelig, zoo zagt, zoo edeldenkend, Was ’t eêlste zoet der liefd, Het hart van ’t schoonste meisje, Van ’t beste meisje waardig! En gij waart ongelukkig!... Maar neen! - gij waart gelukkig! Uw meisje was uw liefde, Uw teder hart niet waardig!” Maar Kleijn kon haar niet vergeten. Toen zij in oktober 1782, de maand waarin zijn moeder overleed, opnieuw naar zijn gunsten dong, kostte het Bellamy en zijn andere vrienden veel moeite Kleijn te overtuigen om niet op de avances in te gaan van de vrouw “wier geheele ziel genoegzaam zinnelijk was”.
Via Bellamy’s kring ontmoette Kleijn de te Vianen geboren Antoinette, de dichtende zuster van Willem Anthony Ockerse. Aanvankelijk zag Kleijn deze ‘coquette’ – zoals hij haar typeerde – niet zitten, maar ze trouwden op 11 juli 1784 en betrokken het landgoed dat Kleijn na het overlijden van zijn ouders had geërfd. Dat bestond uit ruim 80 hectaren grond in de heerlijkheid Hooge en Lage Zwaluwe en bijna tien hectaren in Zevenbergen, alsmede een herenhuis en een hofstede. Hinlópen schreef Bellamy een maand later dat Kleijn getrouwd was, “kwijnend als een stervend roosje”. Hinlópen zag het vriendenclubje uiteenvallen, zo kunnen we uit de laatste opmerking concluderen. Kleijn en zijn vrouw gaven zich over aan het landleven en de letteren en lieten Dulces voor wat het was, een gezelschap dat na het overlijden van Bellamy een minder prominente plaats in het Utrechtse literaire leven kreeg, maar hij verbrak de contacten zeker niet. Zo zou hij met Willem Anthony Ockerse enige dichtbundels uitgeven.
In 1782 debuteerde Kleijn met zijn Oden en Gedigten, in 1785 gevolgd door een tweede deeltje, waarin hij een geliefde bezong, Elize. Hij verzekerde zijn vrienden dat hij in Elize slechts een fictief schoonheidsideaal uitbeeldde, maar uit zijn werk blijkt dat hij die naam voor Antoinette reserveerde, zoals zij hem met de aan Klopstock ontleende koosnaam ‘Selmar’ in haar werk aanduidde. Het belangrijkste gedicht in zijn debuut, ‘De Christen bij het onweder’ maakte indruk op Hieronymus van Alphen, die inmiddels zelf een invloedrijk en gearriveerd dichter was geworden en kritiek leverde. Kleijn nam diens zure commentaar wel ter harte, maar was overtuigd van zijn eigen dichterlijk talent.
De onvrede die tijdens de Vierde Engelse Oorlog (1780-1784) het land overspoelde, liet ook de vrienden niet onberoerd. Omstreeks 1785-1786 bekeerden zij zich tot verschillende politieke richtingen. Zulke geestelijke processen zijn altijd moeilijk te reconstrueren, maar de uitkomst staat vast: waar Bellamy te kort leefde – hij overleed in 1784 – om zich tot patriot te ontpoppen, zoals Ockerse dat wel kon, bekende Kleijn zich al snel tot het stadhouderlijke kamp. Mogelijk dat zijn afkomst – zijn vader was immers rentmeester van de Oranjeheerlijkheid Hooge en Lage Zwaluwe – daaraan debet was. In literair opzicht waren het vruchtbare jaren, waarin zijn poëtisch werk een duidelijk politieker karakter kreeg. In 1785-1786 verschenen drie deeltjes Krijgsliederen, waarin ook werk van Antoinette Kleijn-Ockerse was opgenomen. De belligerente vlag dekt de lading: Kleijns bundel bevat kritiek op de patriottenbeweging, overigens zonder zijn patriotse vrienden persoonlijk aan te vallen. Omstreeks 1785 publiceerde hij Gezangen der vreugde. In 1788 verscheen het tweede deel van zijn Oden en gedigten, waarin opnieuw werk van zijn vrouw was opgenomen en muziek voor zang en klavier van de componist C.F. Ruppe. Antoinette schreef modieuze rijmloze verzen over gevoelige onderwerpen als melancholie en vaderlandsliefde. Kleijn vertaalde ook werk van Wieland, Gerstenberg en Jung-Stilling. De invloed van Engelse auteurs als Sterne blijkt uit verschillende passages in het werk, zoals ‘Voorjaarsvisite van mr. Fever’, waarmee een opkomende koorts wordt getypeerd, of een ‘Jorikse ziel’. Elders noemde Kleijn zich de ‘Stalknegt’ van Sterne, maar zijn vrienden vonden die zelfkwalificatie nogal pedant.
In 1785 werd zijn zoon Pieter Rudolph geboren. Hij bleek last van hardhorendheid te hebben, waardoor hij het accent op zijn ontwikkeling als tekenaar en schilder legde. Pieter ging in de leer bij de gebroeders Jacob en Abraham van Strij, die hem stimuleerden zijn talent verder in het buitenland te ontwikkelen. In de Nagelaten gedichten (1804) is een tweetal dankgedichten aan de Van Strij’s opgenomen. Kleijn zag in hen kunstenaars die zo levensecht tekenden en schilderden dat men bij wijze van spreken de neiging nauwelijks kon onderdrukken aan de voorstellingen op hun schilderijen deel te nemen. Als kwekeling van koning Lodewijk verbleef Pieter bijna vijf jaar in Frankrijk en Italië. Na terugkeer nam hij als luitenant deel aan de slag bij Quatre-Bras, raakte er gewond en overleed aan de gevolgen ervan op 15 februari 1816. Pieter was de oudste van zeven kinderen, onder wie ook Adelaïde Geertruid (overleden te Middelharnis), die in 1814 met Gedichten (Leiden) debuteerde. Kleijn was ontroostbaar na de dood van Pieter; hij was buitengewoon gesteld op zijn oudste kind.
Met zijn orangistische politieke voorkeur baande Kleijn zich vóór en nà 1787 een weg naar het openbaar bestuur. Hij werd in dit streven gestuit door de kwalijke reputatie van zijn vader, een berooide schoolmeesterszoon, die van zijn positie als rentmeester misbruik had gemaakt en zijn eigen voorspoed méér zocht dan die van de prins en de Zwaluwse gemeenschap. Een getuigenis uit 1783 van een Zwaluwse ingezetene sprak over de ‘grootste veragting’ wegens ‘grove en meenigvuldige schandaleuse divergen’ van de rentmeester, die in negen jaar tijds ruim 80.000 gulden had ‘overgegaart’ en aan zijn zoon had nagelaten, “die er thans den groten heer mee speelt”. Kleijns politieke stellingname was ingegeven door opportunisme en pragmatiek. Uiteindelijk wilde hij een soort functie, zoals ook zijn vader had. De vraag of dat in de Zwaluwe zou lukken kan op voorhand ontkennend worden beantwoord. Nadat zijn kandidatuur voor de Zwaluwse schepenbank tot twee keer toe terzijde was geschoven, werd Kleijn in 1786 eindelijk toegelaten. Maar hem werd meteen de voet dwars gezet. Zes jaar van wederzijdse provocaties volgden. Toen bij Kleijn een ruit werd ingegooid, sloeg hij terug door in de schepenbank een resolutie te steunen waarin op basis van een vermoedelijk in scène gezette aanranding verdubbeling van de nachtwacht werd bepleit. De Zwaluwse ingezetenen kregen de rekening voor deze uitbreiding gepresenteerd. Kleijn ontving anonieme dreigbrieven met passages als: “laat gaan di stille wagte/ wij burgers zulle u wijnig agte”.
Vanaf 1790 zocht Kleijn ander werk, want hij ondervond als schepen te veel tegenwerking. Vergeefs vroeg hij Van Alphens voorspraak om een post bij de Nassause Domeinen. Zijn positie in de Zwaluwe verslechterde, toen burgers zich in hun democratische sentimenten gesterkt voelden door de Franse militaire opmars. Kleijn verzocht om zijn ontslag. Hij kon zijn “onrustige medeburgeren, bij wien het zaad van losbandige vrijheid en onondergeschiktheid dagelijks veld wint” niet meer dienen. Toen de Fransen in februari 1793 de Zwaluwse heerlijkheid bezetten bood Kleijn hen zijn diensten aan. Maar toen de Franse opmars een maand later werd gestuit nam Kleijn de wijk, bewerend dat hij uit dwang had meegedaan. Hij verliet zijn ‘gevaarlijke post’ en landgoed en vestigde zich met zijn gezin in april 1793 te Wageningen waar familie woonde. Kleijn, een van de eerste slachtoffers van de Franse bezetting, werd in feite weggejaagd uit zijn geliefde geboortestreek, een lot dat talloze politieke geestverwanten twee jaar later – met de Franse bezetting van de Republiek – ook zou overkomen. Zijn huis werd geplunderd en in de as gelegd, andere eigendommen werden beschadigd of vernietigd.
In Wageningen trad Kleijn al snel (september 1794) toe tot de municipaliteit. Hij werd in 1795 namens deze stad afgevaardigd naar de Staten-Generaal. Tegelijkertijd kreeg hij een benoeming als lid van het Provinciaal Comité van Policie, Financie en Algemeen Welzijn in Gelderland, een functie vergelijkbaar met die van een Zwaluwse rentmeester. Plagerig schreef hij dan ook in april 1795 zijn voormalige Zwaluwse medeschepenen: “Lieve vrienden! Den post, dien gij bij u, en ik hier thands bekleede, is op dit oogenblik gewichtiger dan ooit. Buigt nimmer voor lage overheersching! Waakt tegen de verdoemelijke aristocratie!”. De brief is een juweeltje van gecombineerde ironie, satire en leedvermaak.
Een jaar later, in 1796, was Kleijn raadsheer bij het Provinciaal Gerechtshof te Arnhem, een betrekking die hij tot zijn dood zou uitoefenen. Hij vestigde zich bij die benoeming met zijn gezin te Arnhem. Hij boezemde in die functie vertrouwen in, wat hem “als Crimineel Regter, Examinator en Rapporteur, dikwerf uitnemend te stade” kwam, aldus zijn zwager en bekende auteur Willem Anthonie Ockerse: “Meer dan eenmaal heeft hij eenen verharden misdadiger, wiens verschroeid geweten en verstaald voorhoofd langen tijd al de aanvallen van een ontzaggelijk, regterlijk onderzoek onverschrokken hadden verduurd, door zijne minzame en menschkundige manier van vragen en behandeling, eenslags de tranen des herlevenden zedelijken gevoels uit de oogen doen springen, en vertrouwelijk belijdenis van al zijne euveldaden doen afleggen.” Midden februari 1805 kreeg Kleijn de ‘zinkingkoorts’. Hij overleed te Arnhem op 21 februari en werd vijf dagen later begraven. Hij werd slechts 45 jaar. Zijn weduwe gaf in 1809 zijn Nagelaten gedichten uit.