Michels je u bolnici u Aalstu trebao obaviti operaciju srca.
Rođen je 9. veljače 1928. u Amsterdamu, blizu Olimpijskog stadiona, pod imenom Marinus Hendrikus Jacobus Michels. Te godine Amsterdam je bio domaćin Olimpijskih igara. Igračku karijeru počeo je 1946. kao 18-godišnjak u Ajaxu. U svojoj prvoj utakmici zabio je pet pogodaka za pobjedu protiv ADO Den Haaga 8:3. Na poziciji centarfora za Ajax je u 40-tima i 50-tima odigrao 269 utakmica, postigavši 121 pogodak. Za reprezentaciju Nizozemske ubilježio je pet nastupa.
Prije negoli je postao nogometni trener bio je nastavnik tjelesnog odgoja. Trenersko mjesto Ajaxa preuzeo je 1965., a 1971. klub iz Amsterdama je pod njegovim vodstvom osvojio svoj prvi naslov europskih prvaka. U finalu su na Wembleyu pobijedili grčki Panathinaikos. Nakon toga preuzeo je Barcelonu, s kojom je 1974. bio prvak Španjolske. S njim je u katalonski klub otišao i Johann Cruyff, središnja figura Ajaxa i nizozemske reprezentacije. Od 1978. do 1980. bio je trener Los Angeles Aztecsa, a zatim je preuzeo njemački Koeln, kojeg je vodio četiri godine. Posljednji klub kojem je bio trener je Bayer iz Leverkusena, u kojem je bio do 1989.
Najveći pečat kao trener ostavio je vodeći nizozemsku reprezentaciju. "Totalni nogomet" kojeg su igrali "narančasti" njegova je ideja. U osnovi ona se je svodila na to da je svaki nogometaš reprezentacije mogao igrati na bilo kojem mjestu u momčadi. To je urodilo dotad neviđenom dominacijom u igri. Nizozemci su igrali uvjerljivo najbolji i najljepši nogomet toga doba i samo ih je nedostatak sreće spriječio da ne postanu svjetski prvaci 1974. U finalu su poraženi od Nijemaca 1:2. Kao izbornik Nizozemske zadovoljštinu je doživio 1988., osvojivši naslov prvaka Europe. U finalu je Nizozemska, na Olimpijskom stadionu u Muenchenu, gdje je 1974. poražena od Njemačke, pobijedila SSSR 2:0. Kičmu nizozemske reprezentacije koja je došla do europskog trona činio je trojac Ruud Gullit, Marco van Basten i Frank Rijkaard.
Godine 1999. Fifa ga je proglasila trenerom stoljeća. Bila je to točka na "i" velike trenerske karijere čovjeka koji cijeli svoj život posvetio nogometu. Bio je poznat kao čovjek koji malo priča, a tijekom života pratio ga je nadimak "General".