Ruff je vodio Sabrese od sezone 1997/98., ali nakon osvojenih samo 13 bodova u prvih 17 utakmica ove sezone što je najslabiji učinak u Istočnoj konferenciji NHL-a vodstvo kluba odlučilo mu se zahvaliti na suradnji.
Tijekom svog boravka na klupi Sabresa Ruff je ostvario 571 pobjedu uz 432 poraza, 84 poraza u produžetku, te 78 neodlučenih rezultata. Najveći uspjeh ostvario je 1999. kada je momčad pod njegovim vodstvom stigla do finala doigravanja, dok je 2006. godinwe proglašen najboljim trenerom u NHL-u.