Profesionalno se počinje baviti glazbom sa 15 godina u Washingtonu, SAD. Nakon toga svira sa prepoznatljivim imenima američke blues i jazz scene. Neki od njih su: Eddie Daniels, James Moody, Ernie Krivda, Greg Bandy, Randy Jonston, Wycliff Gordan, Ralph Bowen, and Sean Jones, Mark Rapp i drugi. Joe je takoder nastupao sa David "Fathead" Newmanom i blues legendom Koko Taylor i Lucky Petersonom. Nakon 1999. godine, Joe predvodi bendove koji nastupaju u Bijeloj Kući, te klubovima Blues Alley, The Knitting Factory, i The House of Blues. Od 2002. do 2004. godine Joe živi u New Yorku, gdje osniva Joe Kap Organ Trio (Joe Kap Organ Trio "Street Noise", Severn Records, 2004.) i nastupa u mnogim poznatim mjestima te održava dugotrajnu suradnju s trubačem Markom Rappom. Također nastupa sa imenima poput Liberty Ellman, Avi Rothbard, Abraham Burton i Wess Andreson, Mark Ferber, Kyle Struve i Kim Thompson. 2006. godine seli se u Hrvatsku gdje nastupa s poznatim hrvatskim glazbenicima: Tamara Obrovac (Transhistria Electric - "Neću više jazz kantat", Aquarius Records, 2009.); Josipa Lisac (gost izvođač "Živim po svome", Croatia Records, 2009.); Lekap Quartet ("Love me or Leave me", Dancing Bear, 2010. "Kvarnerska rapsodija", Menart, 2014.); Lela Kaplowitz & Friends ("Little Boy with a big heart – music of Boško Petrović", Menart, 2012.); Lela & Joe Kaplowitz ("With every breath", Aquarius Records, 2013.); Davor Križić Experiment (Aquarius Records, 2014.). 2011. postaje članom kvinteta klasične glazbe Simply Brass sa kojima svira tubu, te sa istima ima čast nastupiti na Juilliardu u New Yorku početkom listopada 2012. te 2013. na Univerzitetu u Quebecu, Kanada. 2013. i 2015. godine dobitnik je Nagrade Status - jazz glazba, kategorija br. 4. klavir i kategorija br. 8 ostala glazbala, instrument tuba. Od 2014. godine redovni je član Jazz orkestra Hrvatske radio-televizije za kojeg piše mnogobrojne aranžmane I skladbe. Nastupa s mnogim glazbenicima po regiji I aktivni je studijski glazbenik. Svira klavir, tubu i električne orgulje.