1935'te oyuncu bir çiftin, Lena Hutter ve Oskar Ballhaus'un oğlu olarak Berlin'de doğan Michael Ballhaus, Avrupa sinemasında Rainer Werner Fassbinder filmlerindeki çalışmalarıyla isim yaptı. 1980'li yıllarda Fassbinder'in ölümünün ardından Almanya'yla birlikte Amerika Birleşik Devletleri'nde de önemli yönetmenlerle çalışmaya başladı. 1985'te Martin Scorsese'nin After Hours filminde başlayan ortaklığı, 1990'da Sıkı Dostlar (Goodfellas) filmiyle devam etti. Bu arada Broadcast News (1987) ve The Fabulous Baker Boys (1989) filmleriyle 2 kez En İyi Görüntü Yönetimi dalında Oscar adayı oldu.
1990'larda da çok beğenilen filmlerde büyük yönetmenlerin kamerayı emanet ettiği isim oldu. 1992'de Dracula (F.F. Coppola), 1993'te The Age of Innocence (Scorsese), 1996'da Sleepers (Barry Levinson), 1997'de Air Force One (Wolfgang Petersen), 1999'da Wild Wild West (Barry Sonnenfeld), 2002'de Gangs of New York (Scorsese) ve 2006'da The Departed (Scorsese) gibi filmlerde görüntü yönetmeniydi.
11 Nisan 2017'de Berlin'de vefat etti. 1958'den 2006'daki ölümüne dek Helga Maria Betten Ballhaus ile evli kalan usta isim, 2011'de Amerikalı yönetmen Sherry Hormann ile evlenmişti. 1965 doğumlu oğlu Florian Ballhaus da Hollywood'da aranan bir görüntü yönetmeni olmuştur.