至中平六年（189年）三月，张纯被手下王政杀死，首级被送到刘虞处。汉灵帝刘宏派使者升刘虞为太尉，封容丘侯。
刘虞先是推让，并举荐卫尉赵谟、益州牧刘焉、豫州牧黄琬、南阳太守羊续担任此职，但刘宏最终还是拜刘虞为太尉。当时官拜三公的人，都要往西园缴纳巨额礼钱，刘宏因刘虞一贯有清廉的名声，加上平定张纯叛乱有功，便特意免去刘虞的礼钱。
幽州本为穷州，需要青、冀两州补贴官务开支，但当时因战乱交通断绝，无法调度金钱。刘虞在幽州追求宽政，劝导百姓种田，从开放上谷的市场与外族交易及开采渔阳的盐铁矿取得收入，令百余万青州、徐州人流亡至此，安居乐业。
刘虞虽为三公级的高官，但天性爱好节约，穿着破旧的衣服，一顿饭都不吃一道以上的荤菜。远近原本作风奢侈的豪族，都被他感化而改变风气。
永汉元年（189年），董卓专权，派使者授予刘虞大司马，进封襄贲侯。
初平元年（190年），董卓拜刘虞为太傅，召他入朝任职。但因道路阻塞，任命竟不能够到达。
公孙瓒奉命征讨乌桓时，受刘虞的节度。公孙瓒只注重自己的部队强大，放任部曲侵扰百姓，而刘虞注重仁政，很关爱百姓，于是与公孙瓒之间逐渐出现了矛盾。
初平二年（191年），冀州刺史韩馥、勃海太守袁绍以及山东诸将商议，由于皇帝年幼且被董卓控制，想立汉室宗亲的刘虞为新皇帝，刘虞坚决不肯；于是韩馥等人又请刘虞领尚书事，以便按照制度对众人封官，刘虞再次拒绝。
被劫至长安的汉献帝想要东归，当时刘虞的儿子刘和在皇帝身边作侍中，于是皇帝派他偷偷地潜出武关，去找刘虞让他带兵来救。刘和途径南阳，被别有用心的袁术扣留，派遣别的使者去找刘虞，说要一起派兵西进去接汉献帝。刘虞于是派遣数千骑兵到袁术那，而袁术竟自己留下不予派遣。
起先，公孙瓒看出袁术耍诈，坚决制止刘虞派兵，而刘虞不听从，公孙瓒就偷偷派人劝袁术扣留刘和，并吞并刘虞派去的部队。刘虞得知后与公孙瓒间的仇怨就更深了。
不久，刘和找机会从袁术那逃跑北上，结果又被袁绍扣留。当时，公孙瓒已经多次被袁绍击败，还不断地进攻。刘虞嫌公孙瓒过于穷兵黩武，怕他成功后就不好控制了，于是不许他再次出兵，并稍稍削弱了他的权限。公孙瓒大怒，屡次违反命令，又开始侵犯百姓。
刘虞准备赏赐给游牧民族的物品，多次被公孙瓒抢夺，刘虞不能制止，于是上报朝廷诉说公孙瓒掠夺百姓的罪行，公孙瓒也上表告发刘虞办事不利，两人相互指责，朝廷也无力处理。公孙瓒别修城池以防备刘虞。刘虞几次邀请公孙瓒，他都称病不来，于是刘虞密谋征讨他。
初平四年（193年），刘虞自己纠合十万人进攻公孙瓒。临行前，从事程绪劝阻，被刘虞斩首。刘虞告诉士兵：“不要多伤人，只杀公孙瓒一个就行了。”
刘虞手下从事公孙纪，因为同姓而被公孙瓒厚待，趁夜跑到公孙瓒处告发刘虞的计划。当时，公孙瓒的部众都散布在外面，公孙瓒自觉不敌，本想逃走。结果刘虞的士兵不擅于作战，又爱惜百姓的房屋，下令不许焚烧城池，一时间竟攻不下来。
公孙瓒于是召集精锐勇士数百人，顺风纵火，趁势突袭。刘虞遂大败，向北逃至居庸县。公孙瓒追击，三日城陷，抓住了刘虞，仍让他作傀儡管理州中事务。正赶上朝廷派使者段训来增加刘虞的封邑，让他掌管北方六州的事务。公孙瓒借机拜为前将军，封易侯，假节督幽、并、青、冀四州。
公孙瓒还诬陷刘虞之前与袁绍合谋要当皇帝，胁迫使者段训将刘虞斩首，并送首级到京都，半路被刘虞的故吏尾敦劫走安葬。刘虞在北方很得人心，他死后，幽州及流亡至此的百姓都痛哭流涕。
刘虞死后，其旧部鲜于辅、齐周、鲜于银推举阎柔为乌桓司马，与公孙瓒部将邹丹战于潞河之北，斩杀邹丹等四千余人。乌桓峭王及后与刘虞子刘和合袁绍兵于兴平二年（195年）破公孙瓒于鲍丘，杀二万余人。
但是因为刘虞早期被刘宏召回洛阳担任宗正一职后，便一直安全的在洛阳中活到了现在！
不然的话，刘虞可能早就已经被杀了！
如今最右资历的还是只有刘虞适合阁老一职！所以刘协多方考虑后，便让刘虞担任阁老一职！同时这也是对刘虞的信任！
曾经袁绍和韩馥等人还想扶刘虞做这帝位！但是刘虞果断的拒绝了！
王夫之曾经评价过：韩馥、袁绍奉刘虞为主，是项羽立怀王心、唐高祖立越王侑之术也；虞秉正而明于计，岂徇之哉？……刘虞之贤必不受，操知之矣。
进与卓为敌，而退受术之掣，刘虞怀忠义而死于公孙瓒，职此繇也。
绍、术、瓒、表虽怀异志，而朱儁、曹操、刘虞、孙策，夫岂不可激厉入援以解天子之困厄。
若当董卓初诛之日，廷犹有老成之臣，人犹坚戴汉之心，刘虞怀忠于北陲，孙坚立功于雒阳，相制相持，而允之忠勋非董承从乱之比，操亦何敢遽睥睨神器、效董卓之狂愚乎？刘虞贤矣，袁绍弗能惑也。
所以刘虞才会果断的拒绝的！外加上当时张清从并州强势起兵勤王，刘虞收到诸侯的消息时张清的大军都已经抵达虎牢关了！所以刘虞也没有机会！
这几年中，刘虞一直都管理着汉室宗庙，一直都表现得很低调！所以这次刘协启用他也是想让刘虞再次发挥刘虞的才能！
本来张清想把诸葛亮推荐上去的，但是诸葛亮如今资历还是太低了，所以张清只好放弃诸葛亮了！
其实，按道理来说诸葛亮是一个全能的人才，内可治理天下，外可统御大军出征御敌！
所谓全才就是如同诸葛亮这般的顶级人才！
若是真的要比的话，便只有拿荀彧和郭嘉等人来比了，治内，荀彧可比诸葛亮！智谋，郭嘉可比诸葛亮，但是二人都只是但方面发展，虽然荀彧有其他方面的发展但是却不足以和诸葛亮相比较的！
对于领军和治理军队来说，这些谋士便没有诸葛亮那般的好了！
所以诸葛亮是个全才，想要和诸葛亮比的话便只有司马懿那个老家伙了！
但是司马懿也是在诸葛亮手中败多胜少！