清光绪五年，张勋离开家乡江西省奉新县，只身一人投亲来到湖南长沙谋生，在苦苦挣扎中，等待出人头地的时机。四年以后，清庭与法国战争爆发，时年二十六岁的张勋即刻在湖南长沙报名从军后，随清军进入广西参加清庭与法国战争。

光绪十一年，在清庭与法国镇南关大战中，张勋表现出色，屡立战功，在清军中得到了越级提拔。由于张勋在担任清军下级军官时，为人忠诚慷慨，坦率直白，作战勇猛，得到了上级赏识，很快官升至参将、管带等职，统领广武右军各营，驻扎广西边防一带。

光绪二十年，甲午战争爆发时，张勋已经成为在清军颇有一定声望的得力干将，因而深得清军各方要人的器重和赏识。此时的张勋已经随四川提督宋庆调驻东北奉天。几年后，又随袁世凯进驻山东境内镇压义和团运动，不久他官升至总兵。

光绪二十七年年初，战功显著的张勋被大清朝廷调进北京，负责领兵日夜守卫紫禁城端门，成了名副其实的大清朝廷皇家卫兵统领之一。他先后多次担任慈禧太后、光绪等人出巡的扈从。直至宣统三年被朝廷擢升为江南提督。

武昌起义后，张勋奉朝廷令镇守南京。不久，江浙联军重兵围攻南京，张勋兵败退到徐州，但仍被清政府任命为江苏巡抚兼署两江总督、南洋大臣。

袁世凯担任民国大总统后，张勋所部被改称为武卫前军，驻在山东兖州一带。然而，张勋却依然表示要继续效忠大清皇室，于是他不顾民国政府所公布的新政，下令禁止他下属的所有官兵剪去发辫，并公开声称对剪去发辫者格杀勿论。张勋曾在公众场合公开说：“我将完发见先人，如果谁敢毁我头发，我与他一道去死。”所以，张勋被人戏称为“辫帅”。

民国二年九月一日，在袁世凯的强力悬赏下，张勋起用了在光复之役中与联军作战比较有经验的徐宝山部为敢死队，不等友军动作，就率先打响了攻城之战。张勋如法炮制了当年曾国藩攻破太平天国天京城的战法，在城下挖了地道，又塞满了炸药。只听“轰轰”几声巨响，城墙炸塌了一大段。张勋一声狂呼，辫军蜂涌入城，直向都督府杀去，南京城即被张勋所率袁军攻占。

张勋攻破南京城后，接着就当仁不让地做起了江苏都督，继而打出了“两江总督”和“江淮宣抚使”的旗号，就连印信关防均盖以“两江总督”字样，他甚至还弃用“民国”年号，恢复用上了“宣统”的年号。

在南京都督府内，张勋下令，一切均照清朝旧制恢复原样。张勋派人找回了当年的吹鼓手、礼乐手，并待若上宾。每天按照清朝旧制，奏乐三次，鸣炮三次。在都督府的大堂中，有几十根高大粗壮的圆柱。张勋下令全部漆成朱红色。一时间，都督府和南京城又笼罩着清朝旧制的气氛，俨然一副清朝两江总督署的气派。

坐镇南京的张勋还特别下令，官场一律禁止使用“前清”二字，违者一律处罚。张勋认为现在就是清朝，更谈何“前清”。清朝的官制也一一恢复。于是，民国时期的机构也迅速换成了清朝的名称，如厘捐总办、粮台总办、督销总办、道台、知府、知县等等。清朝衙门里的捕快、差快、老夫子也都被请了回来。据记载，县太爷审案时，又把孙中山废除了的各种刑具摆了出来。南京的百姓见又变了天，个个噤若寒蝉，敢怒而不敢言。

在南京，地方官和都督府的各级长官，都乘起了八抬大轿。地方官到都督府时，先要下轿跪拜行礼，然后递上手本，必须口称“张大帅”，然后再跪拜。张勋不说话则不准起身。遵照张勋的命令，南京的官兵一律换下了士兵服装，换上了清朝的兵丁的衣服。向各军下达命令的方式，也改用了清朝的龙头令箭。军中一律禁挂五色旗和十八星旗。张勋特为派人制作了一面红底白边、中有一蜈蚣图案的旗子，悬挂在都督府大门前的旗杆上。

张勋在南京都督府的所作所为，自然也传到了袁世凯的耳中。起初，袁世凯还可以装聋作哑，但是后来，“民国为何不挂五色旗”的呼声越来越强烈。江苏地方名流纷纷致电袁世凯，要求罢免张勋。张謇在电报中说：“张勋不独祸我江苏，必致祸我民国。非乘此时去之，后必追悔莫及。”外国使领人员也纷纷要求约见袁世凯，对张勋在南京的举动表示不胜惊讶，纷纷要求撤换张勋。

在诸方的一致呼声下，袁世凯本人不得不发了电报给张勋，询问为何不挂五色旗之事。这才使得张勋下令将五色旗挂在了都督府门前。除此之外，一切均没作任何变动。

后来，在诸多外国使领的干预和压力下，袁世凯才不得不罢免了张勋江苏都督一职，改任长江巡阅使。至此，南京城里的复辟闹剧才告终结。

黎元洪此次倚重张勋，只是想借他的势力压制段祺瑞但是手下人告诉他，张勋的确不是省油的灯，搞不好，会把命搭进去。