年7月，沙皇俄国借口保护侨民，出动十几万大军，兵分七路侵入东北，占领了许多城市。俄军所到之处，烧杀淫掠，无恶不做。俄军的野蛮暴行，激怒了王林，他与好友孔宪荣秘密协商和串联，组织起一支以修筑铁路工人为骨干的武装队伍，共有百余人，经常出没在铁路沿线的深山密林之中，不时袭击那些侵略者。王林开始了武装抗俄的生涯后，结识了许多绿林豪杰，其中有著名的神枪手唐殿荣等人。
年春，王林领导的抗俄武装秘密驻地被俄军包围，所有驻营的28位队员全部被害，王林因外出才得以幸免。旧恨未报又添新仇，王林决心重振旗鼓与俄军决一死战。
年以后，孙中山先生在日本建立了革命同盟会，一些仁人志士来东北从事革命活动。王林在他们的鼓动下很快组织起新的队伍。
年初，他第二次越境到双城子召集绿林好友和部分工人，研究成立抗俄、抗清武装，为死难的工友报仇。王林的鼓动宣传点燃了朋友们的复仇烈焰，大家表示誓死相随，共举义旗，成立了“抗俄救国军”，公推王林为首领，发布檄文，制定纪律，约法三章。王林的活动很快引起中俄两国官府的注意，互相照会，通缉捕捉。
年8月，王林领少数人到伯力参加刘弹子（三岔口人）主持召开的反俄、反清的军事会议，途中被俄军逮捕，被引渡中国长春后取保释放。王林出狱后，很快又来到中东铁路的穆棱站，召集旧部组织队伍，攻打了中东路东线的诸多车站。到年10月革命为止，在10年内，王林的队伍对俄军袭击共达余次。
年，吉林督军孟恩远派副官到宁安的东京城，将王林请到省城。孟督军劝导王林将他的部队改编成正规军队，共图国事，王林爽快地答应了。同年11月，王林的部队被收编为东北陆军第一旅第一团第三营，王林为营长，跟随他多年南征北战的兄弟孔宪荣、吴义成当上了连长。当营长后，孟督军为王林改名叫“德林”——得山林者得天下，王林欣然接受，当年王德林42岁。
王德林当了14年的营长，到“九一八”事变后也没有升迁。张作霖称霸东北后，王德林部被编为东北陆军第二十七旅六七七团三营。几次改编，王德林部沿用的三营没有变，老百姓习惯地称王德林部为“老三营”。
年12月中旬的一天，新任旅长王澍棠把电话打到王德林的指挥部,准备提升他当团长，并命令王德林部立即开往吉林换防。部队行至敦化野炊时，才弄清楚部队要开往黑龙江去打刚刚兴起的抗日义勇军，王德林顿时怒火中烧，全营官兵拒绝上火车，齐声高呼：“中国人不打中国人!”年，王德林受命率队驻防瓮声砬子，此防地正是日方屡次要求修建吉会铁路的必经之地。日方多次要求到这里进行测量均被王德林拒绝。“九一八”事变后，由于东北军奉蒋介石不抵抗的命令，日军很快占领了沈阳、长春等重要城市。驻守在南满铁路沿线的日军铁道守备队也闻风而动，一些县城很快落入敌人的手中。消息传来，老三营的官兵个个磨拳擦掌，纷纷请缨，要求抗击日寇，保家卫国。
老三营官兵怒不从命，脱离敌伪军的这一举动，引起了中共延和中心县委的