Jože Rajk je končal Akademijo za glasbo v Ljubljani in pridobil naziv profesor glasbe. Že med študijem je poučeval violino, klavir in nauk o glasbi v glasbeni šoli, kasneje si je izkušnje pridobival na osnovnih in srednji šoli. Vodil je otroške in mladinske pevske zbore ter uglasbil nekaj otroških pesmi in dramskih otroških iger. Pretežni del svojega strokovnega dela je posvetil poučevanju nauka o glasbi ter vodenju orkestrov (godalni in simfonični) na glasbenih šolah.
Od leta 2007 do 2022 je bil ravnatelj v Glasbeni šoli Kočevje, od leta 2022 pa je zaposlen na Ministrstvu za vzgojo in izobraževanje kot svetovalec za glasbeno šolstvo.
Violino je igral v komorni zasedbi Krpan v Cerknici, v Godalnem triu Glasbene šole Ribnica ter v Godalnem kvartetu učiteljev GŠ Kočevje.
Pevske zbore, v različnih sestavih, vodi od leta 1991. Sodeloval je z MoPZ v Postojni, MoPZ Snežnik, z oktetom Slavček iz Loške doline ter MePZ Bloke. Leta 1992 je ustanovil Komorni zbor Rakek, ki se je kasneje preimenoval v Komorni zbor Fran Gerbič. S slednjim je prejel priznanja na regijskem in mednarodnih tekmovanjih.
Aprila 2013 VII. Mednarodnega tekmovanja Slovakia cantat, kjer je zbor prejel srebrno priznanje v kategoriji mešanih zborov ter zlato priznanje v kategoriji sakralna glasba.
Novembra 2013 Regijskega tekmovanja odraslih pevskih zasedb v Ljubljani, kjer je zbor prejel zlato priznanje in posebno priznanje za obetavno zasedbo.
Novembra 2014 28. Mednarodnega tekmovanja Praga cantat, kjer je zbor prejel srebrno priznanje v kategoriji mešanih pevskih zborov, zlato priznanje in 1. mesto v kategoriji sakralna glasba, zborovodja Jože Rajk pa je prejel še posebno priznanje za izjemno dirigiranje.
Komorni zbor Fran Gerbič se je leta 2017 in 2019 udeležil mednarodnih tekmovanj v Benetkah (Venezia in Musica) in v Perugii. Obakrat je prejel v kategorijah sakralna glasba zlato priznanje, v Benetkah pa še posebno priznanje za izvedbo skladbe slovenskega skladatelja A. Makorja: O lux beata.
V času študija se je izobraževal pri dveh priznanih slovenskih zborovskih dirigentih, Tomažu Faganelu in Mirku Cudermanu. Kasneje se je izpopolnjeval na dveh Evropskih akademijah za mlade zborovske dirigente pri prof. Volkerju Hempflingu v Nemčiji in pri prof. Laszlu Heltayu na Madžarskem ter na seminarju pri prof. Ericu Ericsonu v Avstriji.
Z zbori je izdal kaseto in pet zgoščenk.
Občina Bloke mu je leta 2007 podelila Priznanje občine Bloke, občina Cerknica pa leta 2017 Priznanje 12. junij, najvišje občinsko priznanje.
