ابومصعب الزرقاوی از يک محله فقيرنشين در شهر زرقاء اردن، تبديل به يک خلافکار جزئی شد. او سپس در زندان به بنيادگرايی روی آورد و برای جنگ با شوروی در افغانستان، عازم اين کشور شد

رسوايی ابومصعب، پس از بازگشت از افغانستان شروع شد. او يک دوره ديگر به زندان افتاد و سپس به طراحی حمله به مناطق توريستی در اردن متهم شد

گفته می شود که زرقاوی بار ديگر به افغانستان رفت، اما اين بار برای جنگيدن در کنار طالبان. گزارش شده است که او در اثر حمله نيروهای آمريکايی در افغانستان زخمی شد و سپس، به عراق رفت و رهبر گروه توحيد و جهاد شد

گروه توحيد و جهاد زرقاوی، با بمبگذاريها و انجام حملات عليه شيعيان در عراق به شهرت رسيد. اين گروه همچنين نوارهای متعدد ويدئويی منتشر کرد که در آن، ابومصعب الزرقاوی، ظاهراً به دست خود گروگانهای خارجی را گردن می زد

نيروهای آمريکايی، ابومصعب الزرقاوی را بزرگترين دشمن خود در عراق خواندند و برای سر وی، جايزه هنگفتی تعيين کردند. تصاوير منتسب به زرقاوی، او را با ظواهر مختلف نشان می دهد

در سال 2004 ميلادی، زرقاوی گروه توحيد و جهاد خود را، هم تراز با شبکه القاعده به رهبری اسامه بن لادن خواند. در اين سال، عکسهای بيشتری از زرقاوی منتشر شد تا به دستگيری او کمک کند

نيروهای آمريکايی، جستجوی وسيعی را برای يافتن ردی از شبکه تحت فرمان زرقاوی، در شرق عراق براه انداختند. گزارش شد که زرقاوی چند بار در شهرهای فلوجه، رمادی و تل عفر ديده شده است

در اوايل سال 2006 ميلادی، ويدويی از چهره بدون نقاب ابومصعب الزقاوی منشر شد که ظاهرا او را در حال طراحی حملات نشان می داد

ابومصعب (در اين ويدئو) همچنين در حال تيراندازی با مسلسل در يک دشت نمايش داده شد تا نشان دهد که او هنوز رهبری شورشها را در عراق به عهده دارد

و سرانجام اين عکس، شايد آخرين عکس ابومصعب الزرقاوی، پيش از کشته شدن باشد. روز پنجشنبه 8 ژوئن نوری المالکی نخست وزير عراق گفت که زرقاوی در يک حمله هوايی کشته شده است