Cable, Ohio'nun Cadiz şehrinde dünyaya geldi. Babası William Henry "Will" Gable (1870–1948) petrol kuyularında sondaj yapıyordu, annes, Adeline ev hanımıydı. Annesini henüz 10 aylıkken kaybedince üvey annesi Jennie Dunlap tarafından büyütüldü. Çocukluk yıllarında tiyatroya ilgi duymaya başladı. 17 yaşında üvey annesi de ölünce, babasıyla birlikte Oklahoma'nın Tulsa şehrine taşındı. Burada babasıyla birlikte petrol kuyularında çalışırken bir yandan da tiyatro kumpanyalarında çalışmalarına devam etti. Portland'da yaşadığı sırada oyuncu koçu Josephine Dillon ile tanışmasıyla birlikte kariyerinin şekli değişti. Yeteneklerini daha iyi kullanmaya başlayan Gable, aynı zamanda ilk eşi olan Dillon'un yardımlarıyla Hollywood'a adımını attı.
1920'lerde çeşitli sessiz filmlerde yer alsa da asıl çıkışını 1930'lardan itibaren yaptı. 1930'da oynadığı The Last Mile adlı tiyatro oyununun ardından MGM'le sözleşme imzaladı. 1931'de ilk sesli filmi The Painted Desert oldu. Hold Your Man (1933), Mutiny on the Bounty (1935) gibi yapımların arkasından 1939'de Rüzgar Gibi Geçti filmindeki Rhett Butler rolüyle unutulmayacak performanslardan birine imza attı. 1942'de Amerikan Ordusu'na katılarak 2. Dünya Savaşı'nda Hava Kuvvetleri'nde savaş pilotu olarak görev yaptı. Savaşın ardından popülerliği biraz azalsa da önemli sinema filmlerinde oynamaya devam etti. 1953'te Grace Kelly ile birlikte Mogambo, Band of Angels (1957), Teacher's Pet (1958), It Started in Naples (1960) gibi yapımlarla Hollywood'un gözde oyuncuları arasında yer almaya devam etti. Tamamladığı son filmi, 1961'de gösterime giren ve aynı zamanda Marilyn Monroe'nun da son filmi olan Uygunsuzlar (The Misfits) oldu.
6 Kasım 1960'ta kalp krizi geçiren Gable, 10 gün sonra Hollywood Presbyterian Tıp Merkezi'nde hayatını kaybetti. Forest Lawn Memorial Park'a gömüldü.
Gable, ömrü boyunca tam 5 kez evlendi. İlk evliliğini 1924'te Josephine Dillon ile gerçekleştirdi, bu evlilik 1930'da boşanmayla sona erdi. 1931'de Maria Langham ile evlendi. Langham ile evliyken aktris Loretta Young ile yaşadığı ilişkiden Judy Lewis adında bir kızı dünyaya gelmiştir. Ancak bu durum, ancak Loretta Young'ın 2000'deki vefatından sonra çıkan biyografisinde doğrulanmıştır. 1939'da Langham'dan ayrılıp dönemin ünlü oyuncularından Carole Lombard ile evlendi. ancak Lombard, 1942'de geçirdiği uçak kazası sonucu 33 yaşında hayatını kaybetti. 1949-1952 arasında Sylvia Ashley ile 4. evliliğini yapan Gable, 1955'ten ölümüne dek Kay Williams ile evli kalmış, oğlu John Clark Gable, vefatından 4 ay sonra dünyaya gelmiştir.