Margarjan (55) postao je armenski premijer u svibnju 2000. godine, u vrijeme velikih napetosti u zemlji koje su uslijedile nakon napada pobunjenika na parlament u listopadu 1999. godine u kojem je ubijeno osam političara, uključujući i tadašnjeg premijera Vazgana Sarkisijana. Magarjana je na dužnost premijera imenovao predsjednik države Robert Kočarjan.
Margajan je političko djelovanje počeo u SSSR-u 70-ih godina. Zbog zalaganja za armensku neovisnost dvije je godine proveo u zatvoru.