1953'te Şanlıurfa'nın Halfeti ilçesinde dünyaya geldi. 3 yaşındayken ailesiyle Adana'ya göç etti. Zor koşullarda büyüyen Gürses, terzi çıraklığı ve ayakkabıcılık gibi birçok işte çalıştı. İlkokuldan mezun olduktan sonra eğitimine devam edemedi. Adana'daki bir çay bahçesinde yapılan yarışmayı kazanarak dikkat çekti. Sonra Çukurova radyosunda çalışmaya başladı. Bu sıralarda adını Müslüm Gürses olarak değiştirdi. Adana'da 4 tane 45'lik çıkardı ve 60'lı yılların sonunda İstanbul'a geldi.
İstanbul'da çıkardığı plaklar çok satıldı ve Gürses tüm Türkiye tarafından tanınmasına ön ayak oldu. Ayrıca çıkardığı albümlerle aynı isimleri taşıyan birçok filmde rol aldı.
2000'li yıllarla birlikte müzik tarzını değiştirmeye başlayan Gürses, toplumun daha farklı kesimlerine de hitap etmeye başladı ve sevildi. Aralarında Teoman, Sezen Aksu ve Nilüfer'in de bulunduğu, pek çok değişik müzik türünü temsil eden sanatçılarla düetler yaptı.
2012 Kasım'da geçirdiği by-pass ameliyatının ardından bir türlü iyileşemeyen Gürses, yoğun bakımdan çıkamadı. Sağlık durumu düzelmeyen ünlü şarkıcı, 3 Mart 2013'te hayatını kaybetti. Sanatçı, Zincirlikuyu Mezarlığı'na defnedildi. Müslüm Gürses, kendisinden 21 yaş büyük ses sanatçısı Muhterem Nur ile 1986'da evlendi ve ölümüne kadar onunla evli kaldı.
2018 yılında Müslüm Gürses'in hayatını anlatan biyografi filmi "Müslüm" gösterime girdi. Müslüm Gürses'i Timuçin Esen canlandırdı.