Można go zobaczyć w głośnych kiedyś, dziś archiwalnych (dostępnych w internecie) filmach: „French cancan” Jean Renoira (1954) i „Wielkie manewry” (1955) René Clair’a, w obu przypadkach w epizodzie młodego oficerka (urodził się 27 grudnia 1925 roku Paryżu).

W tych małych rólkach młodego, rosłego, „pięknego”, uwodzicielskiego mężczyzny można odczytać wczesną zapowiedź aktorskiego emploi przyszłego, wielkiego Michela Piccoli. Jednak uroda Piccoliego nie była tak spektakularna jak n.p. Alaina Delon, by z samego punktu wyjścia wprowadzić go szybko na falę sławy. Pierwsze jego zawodowe dziesięciolecie tworzyły więc epizody, nie zawsze odnotowywane w czołówkach, choć akurat w 1956 roku zauważył go Luis Bunuel i powierzył mu niewielką, acz ważną rolę w „Śmierci w ogrodzie”.
Na szerokie wody kariery wyniosła go jego pierwsza główna rola, zagrana w „Pogardzie” Jean Luc Godarda (1963), według głośnej powieści Alberta Moravii, gdzie w roli Paula Javal stworzył duet z Brigitte Bardot. Ta rola, w której akurat nie zagrał „triumfującego uwodziciela”, uwierzytelniła jego aktorski talent i magnetyzm ekranowy. Potwierdza to uznanie, jakim obdarzył go Luis Bunuel, który powierzył mu role w „Dzienniku panny służącej” (1964), „Piękności dnia” (1967), „Mlecznej drodze” (1969), „Dyskretnym uroku burżuazji” (1973) i „Widmie wolności” (1974). Bardzo owocny był dla Piccoli’ego rok 1967. Nie tylko dlatego, że zagrał wtedy role w głośnych i kasowych filmach „Panienki z Rochefort” Jacques Demy i „Beniamin, czyli pamiętnik cnotliwego młodzieńca” Michela Deville, ale także dlatego, że zaczął się jego najlepszy okres w karierze: „Topaz” Alfreda Hitchcocka (1969), „Okruchy życia” Claude Sautet (1969), „Dekada strachu” Claude Chabrol (1971), „Max i ferajna” Claude Sautet (1971), „Porwanie” Yves Boiset (1972), „Wielkie żarcie” Marco Ferreri (1973), „Vincent, François, Paul i inni” Claude Sautet (1974), „Ostatnia kobieta” Marco Ferreri (1976), „Noc w Varennes” Ettore Scola (1982), czy „Nieznajoma z Sans Souci” Jacques Rouffio (1982). W ciągu całej swojej, trwającej równo 70 lat kariery (1944-2014) zagrał ponad sto ról.
Jego szczupła sylwetka, z charakterystyczną łysiną w wianku kręconych, z czasem szpakowatych włosów, wytworny, spokojny sposób bycia eleganckiego, czasem nieco cynicznego intelektualisty, a także uwodzicielski erotyzm – podkreślane oszczędnością używanych środków aktorskich sprawiły, że powierzano mu role zamożnych francuskich mieszczan, arystokratów, duchownych, wysokich urzędników, oficerów policji, a seksualne, czasem wyuzdane, choć sugerowane w sposób dyskretny, podteksty granych przez niego postaci, czyniły go jako aktora francuskiego kina, postać ucieleśniającą, przez kilka dziesięcioleci, styl bycia, cechy psychiczne i mentalne, a także gusty estetyczne i aspiracje zamożnych francuskich sfer wyższych lub klasy średniej.
W 1980 roku Piccoli wyróżniony został na festiwalu w Cannes nagrodą dla najlepszego aktora za rolę w filmie „Skok w pustkę” reż. Marco Bellocchio, a w 1982 „Srebrnym Niedźwiedziem” na festiwalu w Berlinie za rolę w „Dziwnej sprawie” w reż. Pierre Granier-Deferre. W 1999 był członkiem jury na festiwalu w Cannes. Stawał też za kamerą jako reżyser. W 2011 zagrał główną rolę papieża w reż. Nanniego Moretti, za którą otrzymał nagrodę „David di Donatello” dla najlepszego aktora.
Michel Piccoli był człowiekiem lewicy, zdecydowanym przeciwnikiem Frontu Narodowego. W 2002 roku poparł w kampanii prezydenckiej socjalistę Lionela Jospin. Zmarł 12 maja 2020 w Saint-Philbert-sur-Risle.