第三支部队：上海特别陆战队
和上两支部队不同，在上海的第三支日军不是陆军，而是属于海军的陆战队。日本海军在创建之初，并没有海军陆战队的编制。日本1886年颁布的《海军陆战队概则》中，更是明确规定日本海军不设立海军陆战队，仅在必要时，舰队指挥官可将舰员临时组织起来，发给武器参与陆上作战。
从1894年甲午战争开始，日本就开始派军舰常驻上海。1897年，上海小车工人示威，日军从“大岛”号军舰上抽调20名水兵登陆，守备日本驻上海总领事馆，这是日军在上海派驻地面部队的开始。
1900年，义和团运动兴起，日军见局势危急，下令驻扎在天津的日本海军“爱宕”号炮舰派出数十名水兵，携带步枪火炮进入北京东交民巷，参与使馆区的防御。这支被称为“海兵队”的临时编组的海军陆战部队在此后的作战中几乎被全歼，但对阻止义和团攻入使馆区，保障使馆区的安全发挥了很大作用。此后，从军舰上抽调水兵参与陆上作战就开始成为日本海军一种常态化的作战样式，在1904年到1905年的日俄战争，以及1914年日军进攻青岛德军的作战中，日本海军抽调水兵组成的陆战部队表现都相当抢眼。
随着国际局势的变化与日本在中国的侵略行动日益频繁和深入，日本海军终于意识到需要建立一支具有较强陆上作战能力的正规陆战队。
1924年，日军在东江湾路和四川北路交汇处的四川北路2121号（原东江湾路1号）建造了坚固的陆战队司令部大楼。这幢外形酷似军舰的大楼在两次淞沪事变中都是中国军队最重要的攻击目标。
