1938'de Yonkers, New York'ta doğdu. Barbara Voight (1910–1995) ve Slovak kökenli Elmer Voight (1909–1973) çiftinin 2. çocuğuydu. Barry Voight (d. 1937) ve Wesley Voight (Chip Taylor, 1940) adlarında 2 erkek kardeşi vardı. Archbishop Stepinac Lisesi'nde okuduğu yıllarda oyunculukla tanıştı. Daha sonra The Catholic University of America'nın sanat bölümünden 1960'ta mezun oldu. New York'a taşınan ve dizilerde oynamaya başlayan Voight, 1969 yapımı Midnight Cowboy filmiyle büyük şöhret kazandı. Başrolü Dustin Hoffman ile paylaştığı filmdeki performansıyla En İyi Erkek Oyuncu dalında Oscar adayı olurken En İyi Çıkış yapan oyuncu dallarında BAFTA ve Altın Küre'nin sahibi oldu. Bu filmin ardından daha üst düzey filmlerde yer almaya başladı. 1978'de oynadığı Coming Home filmindeki Vietnam gazisi Luke Martin rolüyle En İyi Erkek Oyuncu dalında Oscar ve Altın Küre ödülünü kazandı. 1979 yapımı The Champ'te ise oğluyla yaşayan boksör Billy Flynn rolüyle izleyicilerle buluştu. Bu filmde başrolü Faye Dunaway ile paylaşmıştı.
1980'lerde sayı olarak daha az filmde oynasa da Runaway Train ile bir Altın Küre daha kazanmayı başardı. 1995'te Heat, 1996'da Görevimiz Tehlike, 1998'de Devlet Düşmanı gibi filmlerle kariyerini sürdürdü. 2001'de Ali, Lara Croft: Tomb Raider, Zırtapoz ve Pearl Harbor gibi filmlerde yer aldı. 2013'te başlayan Ray Donovan dizisinde Ray'in babası Mickey rolüyle beğeni kazandı.
İlk evliliğini Lauri Peters ile 1962-1967 arasında gerçekleşti. İkinci evliliğini ise Marcheline Bertrand ile 1971'de yaptı, 1980'de ayrıldılar. Bu evlilikten 1973'te doğan oğlu James Haven aktör ve yapımcı, 1975'te doğan Angelina Jolie ise Oscar ödüllü bir aktris ve yönetmen olmuştur.