张清收留了他，并向其讨要大将徐晃，杨奉不敢不从。徐晃亦闻张清之名久矣，欣然答应。张清令徐晃建立铁甲军，为自己护卫，代替典韦的职责。

董卓死后，牛辅是最有希望能够稳定局面的人。他也是董卓的女婿，当时率兵驻扎在陕西，没有受到董卓被杀的影响。可惜牛辅这个人非常迷信，没什么大志向，居然卷了细软金银准备逃跑。

李儒劝说他道：“将军如果弃军单行，则一个小小的亭长就能抓住你。不如率军攻打长安，为董卓报仇。事情如果成功了，则奉国家以正天下；如果不成功，再走也不迟。”。

牛辅在军中散播谣言：“吕布将欲洗荡此方之人矣！”众军士皆惊惶。乃复扬言道：“徒死无益，能从我反乎？”众军士皆愿从。于是率领十万飞熊军，日夜兼程，攻向长安。仅仅十天，长安城被攻破，吕布、李肃逃走投奔袁绍去了。

牛辅自任征西将军、池阳侯，领司隶校尉、假节。马腾、韩遂闻讯来攻，被牛辅杀败。

张清听说董卓被杀，立刻命令征集兵马，并不要驻扎各地的将领回援，命高顺和荀彧镇守洛阳，自己带了典韦、徐晃、廖化、周仓四将和戏志才、郭嘉二谋士出发去弘农。

与皇甫嵩、卢植、朱儁三将会合后，起兵五万，杀奔长安而来。一路连克潼关、临晋、郑县，逼近渭南。

牛辅闻讯大惊，又欲逃走。李儒劝道：“将军拥兵十万，与其不战而走，何妨拼死一搏？事成，则进军洛阳，成就不世伟业，事败，再逃未迟。”

牛辅于是下定决心，尽率大军出城，来到渭南下寨。连续三天派大将挑战，张清分别派出徐晃、廖化、周仓出战，尽皆败北。牛辅心中大定，对李儒说道：“传闻张清用兵如神，看来不过如此。只是另一个吕布而已。待明日，看我击破张清军。”

李儒忧心仲仲道：“张清威名在外，实有大才。当初在洛阳城外，西凉军被他一人杀散大半。今日示弱，必有诡计，将军小心为妙。”

牛辅呵呵笑道：“当初我岳父粗心大意，竟让民一队，间隔兵一队。兵民混杂，焉能作战？张清不过捡了个便宜而已。现在战场上硬碰硬，他就现出原形来了。”