Loew je s Klinsmannom radio od kolovoza 2004. Tijekom trenerske karijere vodio je, među ostalim, Stuttgart, Fenerbahče i bečku Austriju. Kod svojih kolega poznat je kao odličan analitičar.
Vijest o odlasku izbornika Juergena Klinsmanna (41) iznenadila je sve u Njemačkoj. Klinsmann je imao podršku cjelokupne javnosti. Opće je mišljenje da je Klinsmann uspio preporoditi reprezentaciju, koja je pod njegovim vodstvom igrala atraktivan napadački nogomet, te je osvojila treće mjesto na SP-u.
"Klinsmann me je jučer popodne izvijestio da neće produžiti ugovor. Jako mi je žao zbog ove odluke, no moramo je prihvatiti. Klinsmann je pokazao da može micati planine i tko god ga naslijedi morat će nastaviti putem koji je Klinsmann zacrtao", izjavio je danas predsjednik Njemačkog nogometnog saveza Gerhard Mayer-Vorfelder.
Klinsmann je reprezentaciju preuzeo u srpnju 2004., nakon debakla na EP u Portugalu. Sve do početka SP u Njemačkoj bio je stalno kritiziran zbog svojih trenerskih metoda. Također, zamjeralo mu se što s obitelji živi u Kaliforniji.
No, kad se je na SP vidjelo da njemačka reprezentacija djeluje moćno, te da igra atraktivan napadački nogomet, umjesto kritika na Klinsmannov račun počele su stizati pohvale sa svih strana, od navijača do trenera.
"Bila je ovo teška odluka i ovom prilikom želim svima zahvaliti za ove dvije prelijepe i uzbudljive godine koje sam proveo na kormilu reprezentacije. Želim se vratiti svojoj obitelji i životu bez stresa. Mislim da sam zaslužio godišnji odmor od barem šest mjeseci", izjavio je Klinsmann na današnjoj konferenciji za novinare u Frankfurtu.