1925年孙中山应冯玉祥之请，北上商讨国事，不料肝癌复发病逝于北京。为了统一全国，中国国民党政治委员会决议筹组国民政府，于1925年7月1日在广州正式成立，采取委员制，以汪精卫为主席；在同时，国民政府辖下并设置以武力统一中国为主要任务之军事委员会。该委员会原有国民党辖下军委会为主，以蒋介石、汪精卫、谭延闿为常务委员，汪精卫为兼任军委会主席。在此委员会的通令下，国民党取消辖下各地方部队名称，统一称作国民革命军，计划北伐。此时，在国民政府指导与监督下，军事委员会统率国民政府所辖境内海、陆军、航空队及一切关于军事各机关，并拥有军事动员、国防政策、军制改革、军官任免、移防、预算、决算等有关事项。另外，该委员会辖下还设有政治部、参谋、军需、兵工、等旁支单位等。除此，该委员会其编制与领导方式则沿用党军委会之习惯，所有决议，须经出席委员三分之二通过方为有效，并规定，如多数委员不在军委会所在地时，主席与委员一人有决定处置之权。