وقتل صالح في منزله بالعاصمة اليمنية صنعاء، وفق روايات مؤيديه، بعد اقتحامه من قبل مسلحي جماعة "أنصار الله" واغتيال جميع من كانوا إلى جانبه وعلى رأسهم الأمين العام لحزب المؤتمر عارف الزوكا، بينما تقول الجماعة إنه قتل أثناء هروبه من منزله باتجاه مسقط رأسه في مديرية سنحان.
وقالت القيادية المقربة من الرئيس الراحل إن "صالح قاتل حتى استشهد في منزله وقبل استشهاده وأثناء حصار الميليشيات على المنزل تواصل به زعيم الحوثيين عبد الملك بدر الدين الحوثي وعرض عليه أن يسلم نفسه وهو في وجهه إلا أنه قال وبصريح العبارة أعوذ بالله أن أستسلم إما النصر أو الشهادة" بحسب صحيفة "عدن" الغد.
وزعمت الجروي أن "صالح تلقى عرضا يوم حصار منزله من الروس والأمريكان بإرسال طائرة خاصة لنقله إلى الخارج إلا أنه قال لن أخرج ولن أغادر فإما النصر أو الشهادة".