挑起“九一八事变”的就是日军的关东军，关东军的名字就是因“关东州”而来。早在1898年，沙俄政府就强迫清政府把旅顺和大连湾“租借”给俄国，并把这块租借地命名为“关东州”。
在1904年的日俄战争中，日本打败了俄国，双方签署《朴次茅斯条约》，俄国在中国东北地区的一切特权都落到了日本手里。俄国的关东州也就成了日本的关东州。日本为了维护其在东北的殖民利益，派出2个师团约4万人的部队进驻关东州及南满铁路沿线，并设立关东总督府作为指挥机关。1905年，日本为巩固在关东州的殖民统治，在辽阳成立了关东都督府，在都督府内设立陆军部负责指挥在关东州的驻军。同时还和清朝签订了《清日东三省事宜正约》，从而在名义上取得了在东北驻军的合法性。对于这样完全漠视主权的不平等协议，软弱的清政府根本无力拒绝。
1919年4月，日本将关东都督府改为关东厅，以都督府陆军部为基础，组建了关东军司令部，实行军政分治：关东厅作为司法、行政的最高机关；关东军司令部则是最高军事机关。此时关东军下辖1个师团和6个铁道守备大队、1个炮兵大队、1个宪兵队，总兵力约3万人。司令为陆军中将，关东军虽然只是方面军级别，但和其他方面军不同，直接隶属于天皇，这也彰显了关东军在日军中的特殊地位。
关东军司令部最早在沈阳，后来迁往旅顺，然后又迁回沈阳，1932年伪满洲国成立后，再迁到长春。而且关东军司令兼任日本驻伪满大使和关东厅长官，掌握伪满军政大权，是伪满洲国真正的太上皇。到1945年8月苏联红军出兵东北，关东军司令部才一路向通化、临江撤退。
