公元184年3月（甲子年），张角相约信众以“苍天已死，黄天当立，岁在甲子，天下大吉”为口号兴兵反汉；根据五德始终说的推测，汉为火德，火生土，而土为黄色，所以众信徒都头绑黄巾为记号，象征要取代腐败的东汉。张角一面派人在府衙门上写上“甲子”二字为记认，另一方面派马元义到荆州、扬州召集数万人到邺准备，又数次到洛阳勾结宦官封胥、徐奉，想要里应外合。
可是在起义前一个月，张角一名叫做唐周的门徒告密，供出京师的内应马元义，马元义被车裂，官兵大力逮杀信奉太平道信徒，株连千余人，并且下令冀州追捕张角。由于事出突然，张角被迫提前一个月在二月发难，史称黄巾起义，因为起义者头绑黄巾，所以被称为“黄巾”或“蛾贼”，张角自称“天公将军”，张宝、张梁分别为“地公将军”、“人公将军”在北方冀州一带起事。他们烧毁官府、杀害吏士、四处劫掠，一个月内，全国七州二十八郡都发生战事，黄巾军势如破竹，州郡失守、吏士逃亡，震动京都。
汉灵帝见太平道如此厉害，慌忙于3月戊申日以何进为大将军，率左右羽林五营士屯于都亭，整点武器，镇守京师；又自函谷关、大谷、广城、伊阙、轘辕、旋门、孟津、小平津等各京都关口，设置都尉驻防；下诏各地严防，命各州郡准备作战、训练士兵、整点武器、召集义军。
皇甫嵩上谏要求解除党禁，拿出皇宫钱财及西园良马赠给军士，提升士气，而吕彊又对灵帝上言：“党锢久积，若与黄巾合谋，悔之无救。”汉灵帝接纳提案，在壬子日大赦党人，发还各徙徒，要求各公卿捐出马、弩，推举众将领的子孙及民间有深明战略的人到公车署接受考验。
而另一方面又发精兵镇压各地乱事：卢植领副将宗员率北军五校士负责北方战线，与张角主力周旋；皇甫嵩及朱儁各领一军，控制五校、三河骑士及刚募来的精兵勇士共四万多人，讨伐颍川一带的黄巾军，朱儁又上表招募下邳的孙坚为佐军司马，带同乡里少年及募得各商旅和淮水、泗水精兵，共千多人出发与朱儁军连军。庚子日，张曼成攻杀南阳郡守褚贡，响应张角。
汉军在首战并未得利，于4月，朱儁军就被黄巾波才所败而撤退，皇甫嵩唯有与他一起进驻长社防守，被波才率大军围城，汉军人少，士气低落。又汝南黄巾军在邵陵打败太守赵谦，广阳黄巾军杀死幽州刺史郭勋及太守刘卫，黄巾军并未因汉室的动作而有败退的迹象。
