Klein nije bio bolestan i njegova je smrt u Njemačkoj bila iznenadna, javila je austrijska novinska agencija APA.
Rođen 5. siječnja 1930. u židovskoj obitelji u južnom austrijskom gradu Grazu, Klein je s obitelji pobjegao iz zemlje nedugo prije početka Drugog svjetskog rata.
On je planirao proslaviti svoj 77. rođendan idućeg mjeseca koncertom u Innsbrucku.
Poznati trubač također je svirao klarinet, gitaru i harmoniku i započeo je svoju karijeru kada je bum džeza tek počinjao u Beču 50-ih godina prošlog stoljeća.
Svirao je s Lionelom Hamptonom i drugim velikanima džeza.