يُعدّ رئيس هيئة الأركان العامة للقوات المسلحة اليمنية من أرفع المناصب العسكرية في الجمهورية اليمنية، إذ يتبوأ موقعًا محوريًا ضمن التسلسل القيادي للقوات المسلحة. ويُنظر إليه بوصفه المسؤول العسكري الأعلى عن إدارة شؤون الجيش وقيادة عملياته، كما يشغل المرتبة الثالثة في هرم القيادة العسكرية بعد رئيس الجمهورية القائد الأعلى للقوات المسلحة ووزير الدفاع، ويضطلع بدور القائد التنفيذي للقوات المسلحة وفق الهيكل التنظيمي للجيش اليمني.
عقب إعلان إعادة تحقيق الوحدة اليمنية في 22 مايو/أيار 1990، جرى توحيد المؤسستين العسكريتين في شطري البلاد السابقين ضمن إطار القوات المسلحة اليمنية الموحدة. ومنذ ذلك التاريخ، تعاقب على منصب رئيس هيئة الأركان العامة عشرة ضباط. وبصورة أوسع، شهد منصب رئاسة هيئة الأركان تداول ثلاثين ضابطًا منذ تأسيس الجيش في صنعاء عام 1962، وفي عدن عام 1967، ما يعكس مكانة المنصب وأهميته في تاريخ المؤسسة العسكرية اليمنية وتطورها.