Za Sjedinjene Države 39-godišnji Jordanac bio je najtraženiji čovjek u plejadi raznorodnih pobunjeničkih skupina, najodgovorniji za krvave napade na koalicijske vojnike i strance te je Washington za njegovu glavu bio svojedobno raspisao nagradu od 10 milijuna dolara.
Kako je vrijeme odmicalo američko-britanska invazija na Irak, izvedena radi svrgavanja diktatorskog režima Sadama Huseina, degenerirala je strmoglavo u kaos i sukobe iračkih frakcija i rat gušenja iračke pobune.
Smatra se da je takav slijed događaja velikim dijelom al-Zarqawijeva zasluga. Washington je reagirao podizanjem nagrade za odavanje informacije koja bi vodila njegovu uhićenju na 25 milijuna dolara čime ga je, po novčanoj težini, izjednačio s prvim čovjekom al-Qaide Osamom bin Laden.
Rođen 1966., pravim imenom Fadel Nazzal al-Khalayleh, iz plemena Bani Hassan, jednog od najbrojnijih u hašemitskom kraljevstvu, al-Zarqawi je zarana napustio svoj dom u Zarqi, siromašnom mjestu nedaleko od prijestolnice Amana i zaputio se u Afganistan. Ondje je prošao prvu obuku u logoru al-Qaide te iskusio prvu borbu, tada protiv sovjetskih snaga.
Redovito je posjećivao Jordan a 90-ih su njegovi boravci bivali sve dulji sve do bijega 1999., netom prije nego li je u Amanu otkrivena ćelija povezana s bin Ladenom.
Po povratku u Afganistan uspeo se na hijerarhijskoj ljestvici al-Qaide i ratovao protiv Amerikanaca tijekom njihove intervencije potkraj 2001. Tada je bio i ranjen i navodno mu je amputirana noga.
U veljači 2003., mjesec dana uoči invazije na Irak, tadašnji američki državni tajnik Colin Powell pred Vijećem sigurnosti UN-a iznosio je argumente protiv režima u Bagdadu i tada imenovao al-Zarqawija kao osobu koja povezuje bin Ladenovu mrežu sa Sadamovim režimom. Sadam pruža utočište Jordancu, tvrdio je tada Powell.
U Jordanu je još 1994. bio osuđen na 15 godina zatvora za pripadnost ilegalnoj skupini i posjedovanje oružja, no 1999. bio je oslobođen općom amnestijom kralja Abdulaha. Međutim, tri godine poslije u odsutnosti je osuđen na smrt za ubojstvo američkog diplomata Laurencea Foleya, voditelja Međunarodne agencije za razvoj (USAID). Bila mu je to prva smrtna kazna u Jordanu a s vremenom ih je prikupio četiri. Zadnja mu je izrečena u veljači 2006.
Zarqawija, koji je preuzeo i odgovornost za samoubilačke bombaške napade na tri luksuzna hotela u Amanu u kojima je poginulo 60 ljudi, obavještajne američke službe držale su jednim od najboljih stručnjaka za kemijsko i biološko oružje u mreži al-Qaide.
Smatra se da je osobno odsjekao glavu Kenu Bigleyu, britanskome taocu u rujnu 2004., te da je ubio i dvojicu američkih talaca, Nicholasa Berga i Eugena Armstronga, također 2004.
Za razliku od Osame bin Laden al-Zarqawi nije nikad snimio video poruku. Više je volio raditi u sjeni i zato su dostupne samo njegove blijede fotografije iz službenih dokumenata.