日军的基本单位是师团，它有多种编制。在抗战爆发时，日军有十七个常设师团是日军的常备军，番号依次为近卫、一至二十（内欠十三、十五、十七、十八师团）。编制为四单位制，即师团下辖二个旅团，旅团下辖二个步兵联队，步兵联队辖有三个步兵大队，大队下辖四个步兵中队、一个机枪中队（八挺重机枪）、一个大队炮小队（二门70mm步兵炮），步兵中队辖三个步兵小队，小队辖一个机枪组（二挺轻机枪）、一个掷弹筒组（二个掷弹筒）和二个步枪组。师团还辖有一个炮兵联队、一个辎重联队、一个工兵联队、一个骑兵联队（四个骑兵中队与一个机枪中队）以及其他部队。
此时的师团分为两种，一是驮马制，炮兵联队辖有四个大队（三十六门75mm山炮与十二门75mm野炮），步兵联队辖有一个联队炮中队（四门山炮）、一个步兵炮中队（四门步兵炮），总编制为28500人。一是挽马制，炮兵联队有三十六门野炮与十二门120mm榴弹炮，步兵联队辖有一个联队炮中队与一个速射炮中队（37mm速射炮四门），总编制为25000人。此外还有以下一些独立的特种兵部队：骑兵旅团（辖二个骑兵联队与一个骑炮兵联队、一个装甲车队）、坦克联队、独立工兵联队、独立野炮联队（三十六门120mm榴弹炮与十二门75mm野炮）、独立野战重炮兵联队（二十四门150mm重榴弹炮）、野战重炮兵联队（十六门100mm加农炮）、独立重炮兵大队（八门150mm加农炮）、迫击炮大队（中型迫击炮三十六门）、独立山炮兵联队、电讯联队、铁道联队等等。
抗战爆发后，日军又重新组建了十三、十八两个新编常设师团，又组建了一批特设师团。所谓的特设师团是指由常设师团的预备役人员所组成的部队，其番号为常设师团、联队的番号前加一百。其编制大体与常设师团相同，只是骑兵联队变为骑兵大队（二个骑兵中队与一个机枪小队），挽马制师团的炮兵联队为三十六门野炮与十二门山炮。特设的驮马制师团人数为28200人、挽马制为24400人。同时在做战时日军给各师团配属特种兵及补充人员等，可使一个师团指挥的人马达四万人以上
到了武汉战役结束之后、由于战场的扩大与战争消耗，日军越来越多将三单位制师团与独立混成旅团投入了第一线。因此、日军进行了编制上的调整，将三单位制师团的后勤部队予以补充，使总人数达到了1.5－1.7万人。独立混成旅团的步兵大队改为辖四个步兵中队与一个机枪中队，总人数达6000－7000人。该编制仅限于一线部队，守备部队仍为原编制。另外又开始将四单位制师团改为三单位制。
太平洋战争爆发之后、日军又编组了两旅团制师团。师团下辖两个步兵旅团，旅团辖四个步兵大队、步兵大队辖四个步兵中队与一个机枪中队（八挺重机枪）。师团无炮兵、仅直辖工兵队、辎重队与通讯队，总人数为11980人。
一九四五年、日军对兵力编制做了最后一次调整、大致有以下几点、1、给丙种师团的步兵大队增编一个步兵炮中队。2、将独立混成旅团的步兵大队改为辖有四个步兵中队、一个机枪中队与一个步兵炮中队，人数达1500人的大编制。旅团炮兵则辖有六门野炮与十二门山炮，同时其工兵、辎重部队也予以扩编，使其总人数达8000人以上。3、编组了丁种师团，其编制大体与丙种师团同，但无特种兵。其步兵大队的机枪中队只有四挺重机枪，步兵小队仅有一挺轻机枪与一个掷弹筒。
以上就是抗战时期日军编制的全部情况了。
师团平时编制：
指挥官为：中将11340人
辖：
步兵2个旅团、炮兵1个联队、骑兵1个联队、辎重1个大队、弹药纵列1个大队、军乐队；战时：增加大小桥梁纵列各1个大队、野战卫生部
2、旅团编制