隋朝之时，军队不同的时候有不同的状态。
如和平之时，是府兵制，其中又分内府，外府。内府负责京城及宫城禁卫，皇帝安全。而外府则是平时为农，每年抽出一定的时间进行训练，然后就是各府的轮流上番。就是轮流抽调到京城当班宿卫，一般也就是两三个月的时间。
除此外，还有些常备的兵，如镇、戍，这些都是边境上的常备兵。
府兵制平时为农，战时聚集，自备装备，朝中临时任命军将，战事一结，兵归为农，将还于朝。十分好的防止了大将拥兵自重的可能。
而除了这些以外，在发生战争的时候，隋军还将进行行军制度。
行军制度的兵员有四种来源，一即是抽调府兵。
二兵募，不是临时召募的募兵制，而是一种义务者的兵制，不定时，不定人数，朝中根据需要，下派到各地方政府征召士兵的一种制度，他们同样也得自备装备。
三就是番兵，番兵就是少数民族的武装，一般就是臣属于大隋的民族部落，在隋军战时派兵出战。如隋军曾经攻打契丹的时候，就征召了一部份突厥士兵。
第四，就是骁果、健儿，这些是自愿兵，朝廷打仗，征召自愿军参战，而且得是身体强健、勇敢的壮汉。
而行军，则有一套完全不同于以往的制度，例如平时的军队基本上都是以鹰扬府分散在全国各地。
而行军则是将四个来源的兵集中在一起，根据战争的需要征召士兵数量，调派大军。
按战争的规模，出动士兵人数，及将领数量级别。
如果是大战，则会派行军元帅或者行军大总管，下面辖总管若干，然后就是校尉再接着是队正，而不再有府兵编制中的旅帅一级，也不再有府一级。军队也不再是以鹰扬府为单位，而是以军为单位。
每军两万人，其中分战兵及辎重兵，战兵一万四千人，辅兵六千人。
战兵又分为战队、驻队。战队战斗时负责战斗冲锋，而驻队是押阵，只有在胜利时才会上去。