Több mint 50 éves pályafutása alatt, amely során három Oscar-díjjal tüntették ki, a zeneszerző olyan nagy művészekkel dolgozott, mint Ray Charles, Orson Welles, Jean Cocteau, Frank Sinatra, Charles Trenet és Édith Piaf.
Legrand énekesek zongorakísérőjeként és dalok feldolgozójaként kezdte a pályafutását, majd az új hullám megjelenésekor az 1960-as években filmzenéket kezdett komponálni. Elsősorban Agnes Vardával, Jean-Luc Godard-ral és Jacques Demyvel dolgozott együtt.
A francia musical alapjainak számító Cherbourgi esernyők és A rochefort-i hölgyek mellett Legrand szerezte a Szamárbőr című film zeneszerzője is. Ez utóbbi film színpadi változatának betétdalait is ő komponálta.
Michel Legrand háromszor nyerte el az amerikai filmakadémia díját: 1969-ben A Thomas Crown-ügy Les moulins de mon coeur (Szívem malmai) című betétdalt díjazták Oscarral, majd A kamaszkorom legszebb nyarával 1972-ben és a Yentl című filmmel 1984-ben nyerte el a legjobb filmzenéért járó Oscart.
