Karel Růžička vystudoval hru na klavír a na bicí nástroje na pražské konzervatoři. Po vojně působil čtyři sezony v orchestru Divadla Semafor pod vedením Ferdinanda Havlíka, později byl sólistou Jazzového orchestru Československého rozhlasu a v sedmdesátých letech hrál v souborech Jazz Celula Laca Decziho a SHQ Karla Velebného.
Vedle svých stálých angažmá hostoval na nahrávkách i koncertech s Jiřím Stivínem, Rudolfem Roklem či Orchestrem Gustava Broma.
Jako autor je Růžička podepsaný například pod skladbami Medové koláčky, Riff, Jízda starým veteránem nebo Celebration Blues. Vedle vlastní tvorby byl také pedagogem, vyučoval na Konzervatoři Jaroslava Ježka a na Akademii múzických umění v Praze.
V hudbě pokračuje i jeho syn. Karel Růžička mladší se rovněž věnuje jazzu a působí ve Spojených státech.
