1925年伏龙芝去世后,伏罗希洛夫被任命为陆海军人民委员会兼苏联革命军事委员会主席(苏联革命军事委员会行使人民委员部的职权)。 苏联人民委员会下设以莫洛托夫为首的常设国防委员会。有关苏联武装力量建设和加强的重要原则问题,都由该委员会研究并制定方案,最后按法定程序提交劳动委员会审定批准。 由于国防委员会和苏联革命军事委员会在职责上互相重叠,因此1934年取消了革命军事委员会,而陆海军人民委员部改名为国防人民委员部。在人民委员部下面设立了军事委员会作为咨询机构,军事委员会的决议需经人民委员批准,并以人民委员的命令颁布生效。 1937年苏联人民委员会取消了劳动国防委员会,把苏联人民委员会下辖的常设国防委员会改组为苏联国防委员会,委员会主席依然是莫洛托夫,委员是斯大林、伏罗希洛夫等人。同时还组成了苏联海军人民委员部,人民委员是斯米尔诺夫。 1938年在国防人民委员部下面组成了工农红军总军事委员会,该会中包括:伏罗希洛夫(主席)、布柳赫尔、布琼尼、库利克、梅赫利斯、斯大林、费季科、沙波什尼科夫、夏坚科。同时还组成了海军总军事委员会,其成员包括:斯米尔诺夫(主席)、加列尔、日丹诺夫、伊萨科夫、库兹涅佐夫、列夫琴科和其他人。这两个人民委员会的总军事委员会负责审查有关增强国防力量和陆海军建设的重大问题。 各军区、舰队和集团军也建立了军事委员会,这些委员会直接归苏联人民国防委员会领导。