وشغل الفقيد، منصب وزير للداخلية من سنة 1999 إلى 2010، ونائب الوزير الأول، كما تقلد الفقيد عدة مناصب عسكرية ودبلوماسية.
ولد زرهوني في 1937 في تونس وأصله من مدينة ندرومة في تلمسان. ضمه مؤسس المخابرات الجزائرية، عبد الحفيظ بوصوف، إلي جهاز المخابرات مبكرا أثناء الثورة. وبعد الاستقلال عمل في قسم العمليات في الجهاز.
كما شغل موقعا في قسم التحاليل والتوثيق في الجهاز نفسه في السبعينات. وفي عام 1979 تولى زرهوني إدارة كافة أجهزة المخابرات لمدة ثلاث سنوات.
التحق زرهوني بالعمل الدبلوماسي، حيث عين سفيرا للجزائر في واشنطن، ثم في مكسيكو، ثم في طوكيو.
كما ساند الرئيس السابق عبد العزيز بوتفليقة في حملته الانتخابية، فعينه وزيرا للداخلية في أول حكومة يشكلها. كما كلفه بتنظيم قمة رؤساء مؤتمر الوحدة الأفريقية بالجزائر.