Cem Karaca İstanbul'da dünyaya geldi. Annesi (Toto Karaca) ve babası tiyatrocu olan Karaca sanatçı bir ailenin çocuğu olmanın avantajını çok iyi değerlendirerek sanatla iç içe büyüdü. Cem Karaca müzik hayatının ilk bölümünde Anadolu'nun müziğinden bihaber bir şekilde, ilk grupları olan Jaguarlar ve Dinamitlerle Rock'n'Roll tarzı çalışmalar yapıyordu. O dönemdeki en büyük destekçişi İlhami Gencer'di. Cem Karaca'nın askerliği sırasında hayatı bir anlamda değişir. İlk evliliğinden kısa bir süre sonra askere giden Karaca, bir yandan eşinin hasretini çekerken diğer yandan da Anadolu'nun ilkokul kitaplarında anlatıldığı gibi olmadığını farkeder. Asker arkadaşının çaldığı bağlama ise onu bambaşka diyarlara taşır. Cem Karaca bir zamanlar ilkel ve sıkıcı bulduğu müziğin kendi duygularını anlattıığını keşfeder. 1967 yılında askerlik dönüşü Apaşlar grubuna katılan Karaca, bu grupla Hürriyet'in düzenlediği Altın Mikrofon yarışmasında Emrah isimli parçalayla ikinci oldular ve yarışmanın getirdiği şevkle batı müziği ile doğu müziğini sentezleme çabasına girerek bu yönde şarkılar üretmeye çalıştılar. Bu grupla Resimdeki Gözyaşları isimli parçayla büyük başarı elde Karaca, Apaşlar'la Almanya'ya giderek, burada Ferdy Klein orkestrasını'da yanına alarak parçalar kaydettiler. Cem Karaca'nın Apaşlar'la olan beraberliği 1969'un sonlarına kadar sürdü. Grupta gitarist Mehmet Soyarslan ve Cem Karaca arasındaki anlaşmazlıklar had safhaya çıkınca Cem Karaca gruptan ayrıldı. Cem Karaca Apaşlar grubunun basçısı Seyhan Karabay ile birlikte Kardaşlar grubunu kurdu. Bu sıralarda Cem Karaca Almanya'ya giderek Ferdy Klein Orkestrasıyla 4 tane 45lik doldurdu. Amacı yeni grubuna ekipman alabilmek ve maddi sıkıntı yaşamadan çalışmalar yapmaktı. Nitekim ilk 45'likleri Dadaloğlu ile büyük bir başarı elde ettiler. Fakat 1972 yılında Cem Karaca ve Seyhan Karabay arasındaki tartışmalar Cem Karaca ile Kardaşlar'ın yolunu ayırmasına sebep oldu. Bu sırada eşi benzeri dünyada bile bulunmayacak bir değiş-tokuş meydana gelir. Cem Karaca, Kardaşlar grubundan ayrılıp Anadolu Pop'un güçlü sesi Moğollar'la birleşirken Kardaşlar'da Moğollar'la anlaşmış Ersen Dinleten'i gruplarına dahil ettiler. Bu grupla 3 45 lik çıkaran Karaca Moğollar'ın dağılmasıyla kariyerinin en önemli dönemini yaşayacağı Dervişan grubunu kurdu. Dervişan politik-rock yapmanın yanısıra progressive rock müziğinin Uğur Dikmen ve Oğuz Durukan sayesinde Türkiye ile tanışmasında önemli rol oynadı. Cem Karaca aynı zamanda tam anlamıyla ilk stüdyo albümünü bu grupla çıkardı: Yoksulluk Kader Olamaz. Dervişan'ın dağılmasından sonra Edirdahan isimli grubu kuran Karaca Safinaz adında yine iyi bir albüm yapmış olmasına rağmen eski başarısını elde edemedi. Bu albümden sonra Almanya'ya giden Cem Karaca bu ülkede 1987 yılına kadar sürgün hayatı yaşamak zorunda kaldı. Bu dönemdeki çalışmalarında sık sık gurbet acısı gibi temaları işleyen Karaca bu süre içersindeki en iyi albümünü almanca olarak çıkardı: Die Kanaken. Yabancı düşmanlığı, Gurbetçilerin yaşamı gibi konuları işleyen Cem Karaca bu albümde ki bazı parçaların türkçesini ilerki albümlerinde kaydetti. Die Kanaken albümünün arka kapağında kendisiyle ilgili şunlar yazılıydı: 'Cem Karaca ülkesi olan Türkiye'de bir rock yıldızı. Ülkesinde 50'ye yakın 45'lik ve LP yayınlayan Karaca'nın parçalarının çoğu sosyal içerikli sözlere sahip. 1981 yılının ocak ayında Federal Almanya'da bulunduğu sırada son albümü yüzünden ülkesinde aranmaya başladı. Bunun üzerine Karaca, ülkesine geri dönmedi. Mallarına el konan şarkıcı 200 yıl hapis cezasına çarptırıldı ve 1983 yılındada darbeci generaller onu türk vatandaşlığından attılar. Almanya'da daha çok Nazım Hikmet'in şiirlerini seslendirmesiyle tanınan Karaca ilk olarak 1983 yılının başlarında almanca sözlerle ve doğu batı sentezinden oluşan bir müzikle seyirci önüne çıktı. Amacı Türkiye'de olan biteni anlatmak değil, burada olup bitenleri anlatmak ve Alman-Türk ilişkilerini düzeltmeye çalışmak. Şarkıları yabancı düşmanlığı ve ırkçılıkdan bahsediyor.'
Cem Karaca, 1961'de Hamlet'te oynarayak tiyatroya ilk adımını attı. 1964'te Münir Özkul'un oynadığı General Çöpçatan oyunu ilk büyük tiyatro çalışması oldu. 1965'te askerliği sırasında askeriyede Cahit Atay'ın Pusuda ve Aziz Nesin'in Toroslar Canavarı oyununu yönetti ve oynadı. Aynı dönem İstanbul Tiyatrosu'nda sergilenen "Anahtarı Bendedir" adlı oyunu Türkçeye çevirdi ve oynadı.
Uzun bir süre tiyatroya ara veren ve Püsküllü Moruk oyununun müziklerini yapmak dışında tiyatroyla ilgilenmeyen Karaca, 1987'de Almanya'da çıkardığı Die Kanaken albümündeki şarkıların işlendiği Ab in den Orient-Express oyununun Kuzey Ren Westfalya Eyalet Tiyatrosu'nda oynanan "Die Kanaken" adlı versiyonunda annesi Toto Karaca ile beraber oynadı. Yine Almanya döneminde Münih Halk Tiyatrosu'nda Nazım Hikmet'in Şeyh Bedrettin Destanı oyununu yönetti.
Cem Karaca, 1970'de ilk ve tek başrol filmi olan Kralların Öfkesi'nde oynadı. Yücel Uçanoğlu'nun yazıp yönettiği yerli western tarzı bu filmde Murat Soydan ile başrolü oynayan Cem Karaca, Camgöz adlı bir kovboyu canlandırdı. Ancak bu film çok başarılı olmadı. Uzun süre beyaz perdeden uzak duran Karaca, 1999'da Kahpe Bizans da Karaca Abdal adlı bir ozan rolünde rol aldı ve filmin müziklerinden bazılarını seslendirdi.
Cem Karaca, 1990'da Bir Milyara Bir Çocuk adlı Müjdat Gezen dizisinde rol aldı. Bunun dışında 2001'de Yeni Hayat adlı dizide onur konuğu olarak yer aldı. Aynı sene Avcı adlı dizide Dem Baba rolünü oynadı.