公元17年的中原大地，动荡不安，天灾频仍，人祸丛生，致使黎民百姓流离失所，生活陷入困顿，朝廷官员束手无策，无力扭转乾坤。在荆州一带，也就是今天的河南南部、湖北中部以及湖南西部，由于严重的粮食歉收，民众被迫在沼泽与池塘周边挖掘野菜充饥。有限的食物资源引来大量饥民争夺，场面混乱，亟需有人挺身而出，维持秩序。新市（今湖北京山东北）的两位乡勇王匡和王凤自愿承担起了协调分配的工作，凭借公正无私赢得了广大饥民的信任，很快成为当地人心中的领导者。
面对日益增多的难民，王匡和王凤决定集结这些人，发起一场起义，希望能改变悲惨现状。失去对朝廷信任的百姓们对起义并无异议，反而寄希望于起义可能带来的新生。消息传出后，更多的人从远方赶来加入他们。王匡和王凤将绿林山（今湖北大洪山）设为起义军的大本营，这支队伍因此被称为绿林军。他们攻占附近的乡村，接纳越来越多逃难而来的农民，短短几个月内，绿林军扩充至八千余人，势力范围不断扩大。
当朝廷得知绿林军起义的消息后，王莽立即派遣两万官兵前往镇压，不料遭到绿林军的迎头痛击，官兵败退。王莽勃然大怒，绿林军则抓住胜机，进一步攻占了多个城镇，并释放了监狱中的囚犯，还将部分粮仓中的粮食分给平民百姓。王匡和王凤的仁义之举赢得了民众的广泛拥戴，绿林军的规模急剧膨胀，人数达到五万余众。
然而，正当绿林军初具规模之际，一场突如其来的瘟疫肆虐，导致一半以上的起义军士兵病逝。为了保存实力，剩余的起义军不得不兵分三路，分别撤离绿林山，分别占据新市、平林（今湖北随州东北）以及下江（大致位于湖北西部长江下游区域）等地。
与此同时，在泰山，有一位名叫樊崇的人也拉起了一支起义队伍，他率数百人占据了泰山作为基地，并向外招募兵马。一支小型起义军加入了樊崇的阵营，不到一年时间，他麾下的兵力已壮大到一万多人，成功占领了泰山郡（今山东泰安）。樊崇率领起义军在青州（今山东中部）、徐州（今江苏北部）一带与官府军队展开抗争，时常劫掠富户豪绅的粮食，分给贫苦百姓。
樊崇制定了严格的军纪，严禁起义军欺凌贫困百姓，如有残害或伤害百姓者，一律处以极刑或严惩。如同绿林军一样，樊崇的军队也深受百姓爱戴。
全国范围内的起义运动风起云涌，令王莽焦头烂额。他调动大批兵力意图镇压各地起义军，但官军却被起义军逐一击败，甚至连领军将领也遭杀害。随后，王莽任命太师王匡（不同于绿林军领袖王匡）率军先行征讨樊崇的部队，后再对绿林军进行打击。
公元22年，太师王匡亲率大军进抵泰山郡，试图围剿樊崇的起义部队。面对危局，樊崇首先激励部众拼死抵抗，并下令全体将士将自己的眉毛染红，以此标记区分敌我，防止误伤，自此，樊崇的起义军因其独特的标识被世人称作“赤眉军”。在激烈的战斗中，赤眉军力挫太师王匡的官军，王匡狼狈溃逃，腿部还被樊崇的长矛刺中，留下血洞，其部属伤亡过半，纷纷逃回长安。赤眉军经此一役，声势更加浩大，不仅疆域扩展，兵力也迅速增至十数万人。
绿林军与赤眉军击败王莽军队的消息如野火般迅速蔓延全国，极大地激发了各地人民的斗志。黄河沿岸诸多地方相继爆发起义，其中不乏因王莽新政受损的地主阶层及没落贵族，他们纷纷揭竿而起，共同寻求推翻王莽统治的新契机。
在南阳郡舂陵（今湖南宁远北）乡，刘演与刘秀两兄弟亦无法忍受王莽剥夺刘氏宗族特权的做法。在全国反莽浪潮高涨之时，刘氏兄弟召集数千乡民及族人，在舂陵乡发起了反抗起义。他们主动联络绿林军首领，双方联手共同对抗王莽军队，并在战斗中斩杀了多名朝廷将军。
随着绿林军力量的持续增强，内部意识到没有统一领导难以持久，因此提出推选一位总首领，以便军队管理和战略规划。鉴于当时社会观念较为传统，许多人认为首领应当出自刘氏皇族，以赢得更高的权威和广泛的民心支持。众多刘姓子孙中，刘演以其领导能力深得部分士兵拥戴，欲推举他为起义军首领。然而，出于对刘演日后可能威胁自身地位的担忧，其他起义军分支坚决反对。在此情况下，他们选择了出身没落世家的刘玄，计划拥立他为皇帝。尽管刘演提出应在彻底推翻王莽、团结赤眉军后再考虑立君之事，但多数起义军并未采纳他的意见。刘演迫于形势，不得不接受多数人的意愿，赞同立刘玄为帝。
公元23年，刘玄正式登上绿林军领袖宝座，宣布恢复汉朝国号，启用年号“更始”，从而被称为更始帝。王匡、王凤被封为上公，刘演被封为大司徒，刘秀则被授予太常偏将军的职位，此外，其他有功将领也均获得相应的官职封赏。从此，民间普遍将绿林军视为汉室正统，称之为汉军。