Arafat je rođen 24. kolovoza 1929. u Kairu kao Mohamed Abdel-Raouf Arafat al Qudwa al-Hussein, sin arapskog trgovca. Majka mu umire kada su mu četiri godine, a on odlazi živjeti ujaku u Jeruzalem, grad kojim su vladali Britanci pod mandatom Lige naroda (preteča UN-a), gdje se upoznaje sa sukobom Židova i Arapa.
Dok je pohađao građevinski fakultet u Kairu, gdje je stekao diplomu inženjera, Arafat je izučavao povijest Židova i čitao radove cionista, poput Theodora Herzla. No, 1946. postaje palestinski nacionalist i u Egiptu nabavlja oružje koje se krijumčari u Palestinu "za arapsku stvar".
U studenom 1947., UN glasuje o okončanju britanskog mandata nad Palestinom do 15. svibnja 1948. i njezinoj podjeli na židovsku i arapsku državu s Jeruzalemom kao zajedničkim gradom. S namjerom da spriječe stvaranje bilo kakvog židovskog entiteta u regiji arapske su zemlje odbacile plan, a vojske Libanona, Sirije, Jordana, Egipta i Iraka napale su novu državu, obznanivši namjeru da je žele uništiti.
Kada je izbio prvi arapsko-izraelski rat 1948., Arafat je prešao u Palestinu kako bi se borio protiv Izraelaca. Izraelci su dobili rat, a Arapi su pretrpjeli teško poniženje jer je 750.000 Palestinaca ostalo bez vlastite države. Tijekom 50-ih godina 20. stoljeća Arafat je regrutiran u egipatsku vojsku i 1956. se borio u sueskoj kampanji.
Nakon što je napustio vojsku, Arafat je radio kao inženjer u Kuvajtu, gdje osniva pokret Al Fatah, tajnu terorističku organizaciju čiji je cilj bilo vraćenje Palestine palestinskim Arapima. Ta i druge skupine postaju oružano krilo Palestinske oslobodilačke organizacije (PLO), krovne palestinske udruge oformljene 1964. Arafat se potpuno posvetio vođenju Al Fataha, koji 1965. počinje s gerilskim i terorističkim napadima na Izrael.
U "Šestodnevnom ratu" 1967. godine, Izrael je ponovo izašao kao pobjednik zauzevši Golansku visoravan od Sirije, Zapadnu obalu od Jordana te pojas Gaze i glavninu Sinajskog poluotoka od Egipta. Nezadovoljni zbog nedjelotvorne pomoći arapskih zemalja, godine 1968. Palestinci biraju Arafata za predsjednika PLO-a.
Arafat i Al Fatah prebacuju se u Jordan, a pod Arafatovim vodstvom PLO i njegove brojne frakcije izvode niz terorističkih napada, uključujući otmice i Europi i na Bliskom istoku. Arafat nikada nije osobno preuzeo odgovornost za te napade, no nije ih ni osudio.
Terorističke aktivnosti PLO-a stvaraju teškoće jordanskom kralju Huseinu koji u rujnu 1971. naređuje napad jordanske vojske na palestinske izbjeligičke logore i protjerivanja PLO-a iz Jordana, nakon čega PLO uspostavlja baze u Libanonu i nastavlja s napadima na Izrael. 1972. godine dolazi do jednog od najozloglašenijih napada za koji je sumnjičen Arafat - otmice i ubojstva 11 izraelskih sportaša na Olimpijadi u Muenchenu, koje je izvela skupina nazvana "Crni rujan".
Dvije godine nakon tog napada, Arafatu je omogućeno da se obrati Općoj skupštini UN-a a PLO-u da dobije status promatrača. Palestinska taktika kasnije se okreće gerilskim napadima s juga Libanona na Izrael i stjecanju šire međunarodne podrške.
U lipnju 1982., uzvraćajući na sustavne napade na naselja uz granicu s Libanonom, izraelska vojska, predvođena ministrom obrane a današnjim premijerom Arielom Sharonom prodire do Bejruta i tamošnjeg sjedišta PLO-a, okupirajući dugotrajno jug Libanona.
Kao odgovor, Arafat uspostavlja svoje sjedište u Tunisu iz kojeg PLO podupire Palestince da pokrenu ustanak poznat kao prva Intifada.
Godine 1988. Arafat proglašava nezavisnu palestinsku državu na Zapadnoj obali i u pojasu Gaze, te obznanjuje pred UN-om da se PLO odriče terorizma i priznaje Izraelu pravo na postojanje. Do kraja te godine 70 zemalja priznalo je PLO, no stečeni kredibilitet izgubljen je 1990. Arafatovom podrškom iračkom predsjedniku Sadamu Huseinu za okupaciju Kuvajta.
U vrijeme kada je ostao bez podrške niza arapskih zemalja, uključujući Saudijsku Arabiju, Arafatu izraelski premijer Yitzhak Rabin nudi razmjenu "teritorija za mir", na tajnim pregovorima koji se odvijaju uz posredovanje Norveške.
Nakon što je 1993. PLO službeno priznao Izrael, Arafat i Rabin su potpisali mirovne sporazume iz Osla, koji su nudili okvir za uspostavu mira u regiji. Sporazumi su pozivali na okončanje nasilja, postupno povlačenje izraelskih snaga iz Gaze i Zapadne obale te stvaranje palestinskih vlasti na tom području.
Rabin, Arafat i šef izraelske diplomacije Shimon Peres 1994. su podijelili Nobelovu nagradu za mir, uz brojna osporavanja. Arafat je siječnju 1996. izabran za predsjednika palestinskih vlasti.
Atentatom desničarskog ekstremista na Rabina 1995. i povratkom na vlast desničarskog Likuda koji opstruira sporazum iz Osla, mirovni proces dobija udarac od kojeg se neće oporaviti i 2000. godine Palestinci i Izraelci obnavljaju spiralu nasilja, koje eskalira 2001. i 2002.
Arafat i Sharon, suparnici iz Libanona 1982. ponovo su ušli u bitku. Sharon, koji je postao izraelski premijer, optužuje Arafata da upravlja obnovom terorističkih napada na Izrael a on odgovara da ne može nadzirati nasumične nasilne akte militantnih skupina kao što su Hamas i Islamski džihad.
Obnovljeno nasilje uključuje napade su gradske autobuse, disko klubove, restorane, rafalnu pucnjavu na ulici i masakre u obiteljskim kućama.
U ožujku 2002. Izrael pokreće operaciju Obrambeni štit, čiji su objavljeni ciljevi uklanjanje terorističke infrastrukture na Zapadnoj obali. U sklopu operacije izraelska vojska počinje opsadu Arafatovog sjedišta u Ramallahu, koja traje i danas.
Godine 2003., pod američkim pritiskom da prepusti dio svojih ovlasti, Arafat pristaje na imenovanje umjernog Mahmuda Abasa za palestinskog premijera. No zbog Arafatovog zadržavanja kontrole nad palestinskim snagama sigurnosti, Abas podnosi ostavku. Novim premijerom imenovan je Ahmed Korei.
Operacije protiv terorističke infrastrukture Izraelci 2004. provode i u pojasu Gaze, nakon kojih 25. listopada parlament prihvaća Sharonov plan povlačenje iz Gaze, za koji Palestinci ocjenjuju da će uništiti mirovni sporazum iz Osla jer im se uz Gazu nude ostaci ostataka obećanih teritorija na Zapadnoj obali.
Navečer 27. listopada stižu izviješća o Arafatovoj zdravstvenoj krizi, koja je započela 20. listopada. Dva dana kasnije Arafat je jordanskim helikopterima prebačen u Aman, a zatim je francuskim predsjedničkim zrakoplovom prebačen u vojnu bolnicu u blizini Pariza.
Musliman Arafat se 1991. prvi puta oženio tada 29-godišnjom kršćankom Suhom, koja je četiri godine kasnije rodila kćer Zahwu. Suha i Zahwa već duže vrijeme žive u Parizu.