张作霖坐稳了大当家的位置之后，他对于自己的生活以及自己未来的日子其实还是充满了期许的，而且他明白，当土匪是当不了一辈子的，因为无论怎么讲，土匪毕竟还是匪，早晚必然会被官府剿灭的，所以如果想要长久下去的话，那么就必须要由匪成官，这样一来，最直接的方式就是招安了，那么如何才能被招安那？这个张作霖还没有想到。
因为其实说起来，想要被招安的话，那么最好的办法就是壮大自己的势力，到最后让官府不得不正视忌惮自己，这样一来就达到了招安的条件，可是张作霖知道，短期之内自己是绝对达不到那样的效果的，因为如果很轻松就能够做到的话，那么金寿山恐怕早就成了官军，哪还会有他的位置那？
对此张作霖不觉的感到头痛，可是他却没有就此放弃，可是这件事一直也没有提到日程上来，就这样，张作霖当着大当家的，过着绺子头的日子，虽然不怎么回家，但是他还是常常派人去给自己的妻子送一些日常用品还有钱财，而且他没有告诉妻子自己做了土匪，只是叫人说自己在外做生意以此作为借口。
张作霖就这样一直到了一九零零年，因为义和团运动的关系，致使沙俄大举侵入东北地区，张作霖看准了这个时机，他知道自己的机会来了，因为沙俄人入侵的关系，烧杀抢掠无恶不作，而且清廷的盛京将军在这个时候竟然还抛弃了这些子民独自逃走，使得东北地区陷入了一片混乱之中，其实这样的情况说起来是很多人回避都来不及的，可是张作霖却要偏偏在这个时候迎头冲上去！
张作霖先是集合了整个绺子的土匪，然后向大家说明自己的意思，同时表示如果愿意随着他一同返回赵家庙的日后他张作霖自然不会亏待，而且现在就能给每人三个大洋的安家费，至于那些不愿意跟他去的，则愿意回家的可以拿路费，不愿意回家依旧愿意当绺子的，那么他可以引荐他们到杜立三亦或者是冯德麟的绺子中。
安顿好一切之后，张作霖带着愿意跟随他一同回赵家庙的十几个人，一同回到了那里，他路上将自己的老婆也带上了，一起去到了赵占元家，在于自己的岳父说明自己的想法之后，没想到，原本已经做好被骂准备的张作霖竟然以外的得到了岳父赵占元的支持。
赵占元其实这样做也是有私心的，因为他的财产不少，现在这样的混乱，其实最容易遭受损失的就是他了，要是自己的女婿能够组织起一支武装力量的话，那么无外乎得益最多的还是自己，所以在赵占元的支持下，张作霖带着原本从绺子上带来的十几个人，再加上一些被他招收来的赵家庙的一些乡勇之辈，在当地成立了保险大队，也就是老百姓口中的“大团”。当然了，说起来，这个所谓的保险大队啊，倒不是张作霖的专利，他也绝不是第一人，在他之前就已经在各地出现了许许多多大大小小形形*的保险大队了，这些武装力量虽然号称是保险大队，包围乡民的人身财产安全，可是实际上他们与土匪或者说是俄国人相比，基本没什么不同，而且其中甚者更是有过之而无不及的。
但是虽然其他的保险大队是这样的情况，可是张作霖这一支队伍却并非如此，张作霖明白，既然自己想要在未来的时候能够被政、府招安，那么就要做出一些真东西来，而且早在当绺子的时候他就懂得民心的重要性，此时的他又怎么会反其道而行之那？
因为张作霖的保险大队在赵家庙的保险区内遵纪守法，不横行街里，而且还能够真正的做到保护乡民的安全，所以没过多长时间他张作霖以及他手下保险大队的名号就传了出去，而且周遭的结构村子竟然也都主动地向他缴纳规费，成为了他保险区内的一员，因为加入的村子越来越多，所以张作霖的保险区也就变得越来越大了，说起来，虽然张作霖是绺子出身，也算是一个彻头彻尾的胡子。
但是他对于自己保险区内的胡匪却是毫不留情的，见到一个就要消灭一个，即便是不能消灭，他也要将他们彻底的驱逐出去，这样一来的话，张作霖的名声竟然变得越来越好，而且他的名气也越来越大了，很多胡匪听闻了他张作霖的名字之后，竟然都选择避开他的保险区，所以张作霖的保险区内的胡匪算是真正的得到了遏制。
这就像滚雪球一样，张作霖的名气越来越大，那些胡匪就越不愿意在太岁头上动土，由此就又有更多的地区的人愿意在张作霖的保护下生活了，所以这一段时间内张作霖的名声不但响彻了这一片地区，而且他的势力也得到了扩充，是这样的，张作霖的名号越响亮，他的管辖的地区越来越大，肯定周遭的一些其他的保险大队就会不满，可是想要与他争斗吧，又因为张作霖的队伍势力大，所以很多人就选择了主动的加入到他的队伍中，成为他队伍中的一员，所以这一段时间内，张作霖可谓是名利双收啊。
不过张作霖的名利双收却也不是一点危险也没有的，这其中对他最为不满的就是他的一位老朋友，大土匪头子金寿山了，因为张作霖的保险大队的关系，金寿山手下的几个兄弟下山砸窑的时候，到了他的管辖区，本以为他们大当家的与这位保险大队的队长有交情，就算是不能够哪一些好处，能不至于被杀，可是万没想到，张作霖得知之后姜然没有顾忌自己与金寿山的交情，直接将那几个土匪给毙了。
金寿山如何不怒？不过那个时候因为杜立三的关系，金寿山不好对张作霖动手，所以他派人给张作霖传话，希望以后如果再出现这种事，不要他权当不知，就是当报了号之后能够抬抬手，可是张作霖那，却没有答应，反而还叫那传话的人回去告诉金寿山，在他张作霖的管辖地之内，如果再有金寿山的绺子，那他张作霖肯定是见一个杀一个，绝不留情！
张作霖这么做其实也是无可奈何之举，但是金寿山却彻底被触怒了，到了一九零一年春节前夕，还是因为一些小事，张作霖与金寿山之间再一次出现了摩擦，而且这一次，让张作霖没想到的是，金寿山竟然真的对他动手了，其实最开始的时候张作霖就知道自己与金寿山之间迟早都会有一个了断，但是因为杜立三的关系，所以金寿山才没有动自己，可是张作霖这其间可是实打实好几次都想和金寿山一决高下，只不过还是因为他手下人的手头不够硬，再加上他也不是一个混人，所以才没有那样做。
而且说起来，这期间，杜立三也曾派人来与张作霖谈过，杜立三是张作霖的结拜大哥，所以对于张作霖这个兄弟，富有江湖义气的杜立三自然是不能够不闻不问的，更何况，现在张作霖是同金寿山那个家伙有了摩擦，杜立三很清楚金寿山的为人，所以这个时候他这个做大哥的自然不能不管。
但是也还是因为张作霖现在这个保险大队长的身份，实在是让杜立三不知道应该如何和他交流，所以才会选择派人来传话，而不是亲自前往了，杜立三派人告诉张作霖，希望能够清楚一些，虽然现在张作霖是保险大队的队长，可是还希望他能够念及江湖情意，再者说，虽然张作霖与金寿山不是什么结拜的关系，可是当年金寿山也给过他不少的帮助，所以希望张作霖能够抬抬手，不要再加深矛盾了。
当然了，杜立三做大哥自然不会只说张作霖的不是，所以来人还说，现在金寿山那边有杜立三周旋，当然了，这也只不过是暂时的，因为都知道金寿山的脾气秉性，所以对于与他这样的人来说，他与张作霖之间的恩怨肯定会有一个了解的，所以杜立三没有明言，但是其意思已经很明确了，那就是假如张作霖日后真的与金寿山之间发生冲突的话，那么杜立三绝不会坐视不管！
张作霖得到了杜立三这样的意思之后，他不由得感觉到了一阵轻松，所以也就放松了警惕，不然的话，他也绝不会在这样敏感的时刻还会大半夜的醉着酒孤身一人回家了！也正是这一天，张作霖遭到了自己有生以来第一次最大的危急！
就在他的家门口，他竟然遭到了金寿山匪部的偷袭，而且说起阿里，这一次金寿山可是准备充足啊，因为金寿山知道张作霖和杜立三之间的关系，面对这个辽西巨匪，他也不敢小觑，所以这一次金寿山做出了一件令人不齿的事情，当然了，这事情肯定不是对张作霖的偷袭，而是他勾结俄国人，希望能够借用俄国人的力量来制衡杜立三！
张作霖这一次可谓是惨败啊，不过好在他这个人命大，亦或者是说天不绝他，他不但逃开了偷袭他的人，而且还将自己怀孕的老婆也给救了出来，张作霖带着他的老婆，一辆马车以及三五个听到枪声来救援他的弟兄，还有几匹马就这么向着八角台而去。
就会天不绝他，张作霖这一次不但成功的逃到了八角台，甩开了金寿山的偷袭，而且他的老婆还在马车上给他剩下了一个男孩，正是张学良。八角台原本就有一伙土匪势力，带头的人叫张景惠，此人早就有心思投奔张作霖了，这一次张作霖虽然是逃命到了他这里，可是谁能想到，他竟然就这么将自己的绺子交给了张作霖，当然了，这个张景惠，就是现在张作霖的左膀右臂之一，也是他的结拜兄弟之一，只不过这都是后话了。
张作霖虽然一开始推辞，不过后来还是接受了张景惠的队伍，而且就在他刚刚接手了张景惠的队伍后不久，另外以后队伍竟然也赶到了八角台来投奔他了，这一次的来人，不是别人，正是张作相！不过要说明的是，别看张作霖、张作相只有一字之差，可是二人却没有任何血缘关系。
次年，张作霖这一支队伍，终于被朝廷招抚，在新民，张作霖被任命为马队帮带相当于副营长，而后升任为管带，既营长，一九零四年，日俄战争爆发，张作霖看准了这又是一个机会，他开始带着自己的“官军”开始参与到其中，当然了，这在当时的朝廷是决不允许的，可是没有办法，东北这片地方多年无人务管理，所以混、乱一些也是可以理解的。
说到这不得不说，日俄战争虽然是日本和沙俄之间的战争，可是谁能想到，张作霖这么一个小小的管带竟然能够在这其中捞到不少好处，而且他还借此结识了许许多多的日本军人，甚至是一些军官。说起来，张作霖此人真是心眼多，在日俄战争之初，他帮助实力强大俄国方面，由此他从俄国人那拿到了不少好处，而后，到了日俄战争中期，俄国开始处于下风之时，张作霖果断的倒戈日本方面，凭借着自己之前对于俄**人的了解，又给日本人提供了不少的方便，使得他又从日本人那里得到了不少的好处！
而且虽然他参加了日俄战争，可是非但没有损害到他的队伍实力，反而借着这个机会他又在一次扩充了自己的实力，虽然张作霖那个时候还是一个小小的管带，可是他手下的人吗，却是一般人所不能比拟的，而且凭借着他的交际的本事，又从日本人那弄来许许多多他们缴获的枪支，张作霖的队伍装备上这样的俄国造、日本造，其战斗力自然也是大大的提升了一番。
到了一九零七年，东三省改建省制，徐世昌首任总督，张作霖又计擒杜立三有功升为奉天巡访营前路统领。
一九零八年年，张作霖奉徐世昌令命驻防郑家屯、洮南，追缴陶克陶胡叛匪。一九零九年，奉锡良总督之命追缴蒙匪牙什、白音大赉等。一九一一年，武昌起义，张作霖带兵入奉天省城镇压革、命党人。次年，因镇压革、命党人被封为关外练兵大臣，袁世凯任临时大总统后任其第二十七师中将师长。
一九一五年，被袁世凯召入京，表示支持“速正大位”。虽然不知道张作霖到底是不是真心支持袁世凯的，可是至少表面上他对袁世凯是支持的，所以这一次东北的变化，不得不让唐继尧提高警觉啊，而且唐继尧相信，不单单是自己，就是蔡锷，要是知道了这样的消息的话，那么他肯定也会对于千里之外所发生的事情，提起兴趣的！