云光二十八年(526年)正月,原怀朔镇士兵、五原郡降户鲜于修礼等人率领北镇流民在定州的左人城(今河北唐县)起义,葛亦参与此次起义。同年八月二十七日,起义军首领元洪业斩杀鲜于修礼,请求投降东秦。葛荣杀死元洪业而自任首领,继续领导起义部众。
云光二十八年(526年)九月,葛荣合并另一位义军首领杜洛周的部众之后,北去瀛州(今河北河间市),东秦广阳忠武王元深从交津领兵追踪葛荣而进。九月十五日,葛荣到达白牛逻(今河北蠡县),率领轻骑突袭章武庄武王元融,将他杀死。于是,葛荣自称天子,定国号为齐,建年号为广安。
不久,广阳王元深领兵返回,前往定州。定州刺史杨津怀疑元深有异,于是派遣毛谥讨伐元深。元深跑走,毛谥带人追逐元深。元深同身边人抄小道逃到博陵地界,遇上葛荣的流动骑兵,便将他们抓获送到葛荣那里。义军们见到元深,喜欢他的人还不少,葛荣刚自立为王,对此很反感,担心手下的人拥奉元深为主,便杀死元深。
云光二十九年(527年)正月初七日,葛荣攻陷殷州(今河北隆尧县),擒获并杀死殷州刺史崔楷,进而围攻冀州(今属河北)。三月,葛荣围攻信都很久,东秦朝廷任命金紫光禄大夫源子雍(邕)为北讨大都督来援救信都。
十一月,葛荣围攻信都,从春天到冬天始终不撤军,冀州刺史元孚激励将士,昼夜拒守。十一月己丑日,由于秦军粮储已尽,而且外无救援,于是葛荣攻陷信都,抓住元孚,把城中居民全部赶出去,冻死者占十之六七。当时元孚的哥哥元祐担任防城都督,为葛荣抓获。葛荣把将士们全部召集起来,议定元孚兄弟二人的生死去留。元孚兄弟各自引咎,争着去死,都督潘绍等几百人都叩头请求愿意去死以便救活元孚。葛荣说:“这些人都是东秦的忠臣义士啊。”于是将元孚兄弟和被押的五百人全都赦免。
东秦朝廷任命源子邕为冀州刺史,让他与北道大都督裴衍率兵讨伐葛荣。十二月二十日,他们到达阳平(今山东莘县)东北的漳水曲,葛荣率领十万部众进攻他们,击杀源子雍和裴衍等人。相州的官民闻知冀州已经失陷,源子雍等人战败,人人自危,无计自保。相州刺史李神镇定自若,神色不改,他抚慰劝勉将士,因而人人致力,葛荣尽力攻打,但是最终不能攻克。
云光三十年(528年)二月,葛荣率军攻杀杜洛周,并收编他的部众。三月二十六日,葛荣攻陷东秦的沧州,抓获沧州(治今河北盐山县)刺史薛庆之,沧州百姓被杀的占十之八九。六月,葛荣起义军缺乏粮食,派遣仆射任褒率兵向南侵犯,到达沁水县。东秦朝廷任命元天穆为大都督东北道诸军事,率领宗正珍孙等将领讨伐葛荣。葛荣得知军前来讨伐,于是率军退守相州城北。
八月,葛荣率军包围邺城(今河北临漳县),军队号称有百万,散游之兵已过汲郡(今河南卫辉市),所到之处大肆残杀掠夺。东秦柱国大将军尔朱荣上表请求率军讨伐葛荣。九月,尔朱荣率领七千(一说7万)精锐骑兵,以侯景为前锋,从近路加倍行军,向东出滏口(今河北磁县西北)攻打义军。葛荣恃众轻敌,兵力分散,被尔朱荣出奇兵击败。葛荣被俘杀,起义失败。当时葛荣起义为时已久,一直横行于黄河以北,尔朱荣的兵马很少,与义军相差悬珠,人们议论纷纷,认为尔朱荣断无获胜的道理。葛荣听说后,喜形于色,命令他的部队说:“尔朱荣很好对付,诸位每人都准备一根长绳,到时候只管捆绑敌人就是。”于是葛荣从邺城往北,排成数十里的长阵,队伍如张开的簸箕一样向前推进。尔朱荣将队伍伏在山谷之中,作为奇兵。分派督少将以上的军官每三人为一处,每处有数百名骑兵,命令各处故意扬起尘土,擂起战鼓,大声喊叫,使义军摸不清有多少人马。尔朱荣考虑到人马近战时,用刀不如用棒,便命令士兵们每人带一根短棒,放在马肚的一侧,到交战时担心下马斩首会影响骑兵追逐,便不允许斩首计功,只令用棒子打而已。各路战士冲杀之处,号令严明,将士们同仇敌忾,个个奋勇争先。尔朱荣亲自冲锋陷阵,从义军背后杀出,里应外合,内外夹击,大败义军,在阵前抓住葛荣,其余的部众全部投降。尔朱荣派人用囚车将葛荣送到洛阳处死,这样冀、定、沧、瀛、殷五州就全部平定。