那时的太尉、大将军等人都向他抛出橄榄枝，想把他收入麾下，可是，年幼的他不愿屈居人下，都拒绝了。
公元184年，张角发动起义，引起了下的响应。
朝廷里一片骚动，立即采取了镇压措施。
为了保证洛阳的安全，皇帝在洛阳外围的八个关卡都设了都尉。
这时，皇甫嵩升为左中郎将，与朱俊一同率领四万精兵共同镇压颍川。
朱俊与黄巾军相持，大破之。王甫退守长社，黄巾军穷追不舍，率兵围攻，高下立见。
军中不乏惶恐之声，皇甫嵩沉着沉着，提出了建议：“贼人邻草建营，易因风起火。
若夜里趁黑放火，他们定然慌忙散乱，此时若是出兵突围，必能大胜。”
那晚上，果然刮起了大风，皇甫嵩乘机命令士兵点燃火炬，站在城墙上，又派精锐潜伏到黄巾军的队伍里，高呼“失火”，与之呼应，风吹火星，果然军营里发生了大火。
作为临时起义军的黄巾军，没有丰富的作战经验，很快就被大火吓得手足无措。
这时，皇甫嵩和朱俊突围而出，与奉命赶来的骑都尉曹操一同夜袭，黄巾军负隅顽抗，最后，皇甫嵩等人杀掉了数万人。
第一次战役胜利后，皇甫嵩升一等，携数万精兵，乘胜追击，在陈国等地，黄巾军大多被杀，余人奔逃流亡。
从此，皇甫嵩威名远扬，连连得胜，平定三郡。
同一年8月，黄巾军又一大支部队被皇甫嵩打败，首领卜已被俘，剩下七千多人被杀。
此时此刻，张角的黄巾军击败了董卓，占领了河北等地。
汉灵帝不得不派皇甫嵩前去镇压，在此关键时刻，张角病逝，由他的弟弟张梁代替弟弟率领黄巾军。
王甫嵩第一次迎战张梁，以失败告终，于是休整部队，以静制动。
当张梁果然被迷惑了，放松了警觉的时候，皇甫嵩乘其不备，鸡鸣时分便率军进攻黄巾。
后金大败广宗，张梁战死沙场，黄巾军战死三万余人，俘虏六万余人。
然后，皇甫嵩将张角尸首剖开棺材，戮尸泄愤。这次起义中，黄巾军被镇压了，皇甫嵩下令将这次屠杀中多达十万具尸体堆成山，并用泥土加固，以此来炫耀他的军事功绩。
与此同时，他也因此而闻名下，不仅如此，由于他在镇压起义中的辛勤劳动，皇帝还封他为车骑将军，赏赐无数。
建造京观的行为虽然非常的残暴血腥，但是历史上还是存在很久，这是一种胜利者对失败者的一种羞辱方式。但是也有很多不喜欢建造京观，觉得毕竟有损仁德。
全琮却是摆手道：“他们都是英雄，既然人都死了就不必再如此了，还是将他们都好好安葬吧。”
