他先收拾的是韩信。在公元前201年，即高祖六年，有人告发韩信谋反。刘邦问怎么办，大家说发兵讨伐。但陈平却反对，他说楚国兵精粮足，韩信又善于用兵，发兵很难取胜。他建议刘邦以巡游云梦为借口，让各诸侯王都到陈县（今河南淮阳），到那时韩信一定会来，然后再抓他问罪。刘邦依计行事，果然将韩信抓住了。韩信听到对他的指控，大声喊冤：“古人说的果然不错：‘狡兔死，良狗烹；高鸟尽，良弓藏；敌国破，谋臣亡’天下已经平定，我这样的人也早就该烹杀了。”

刘邦将韩信押到了洛阳，但又没有明确的证据，便释放了他，但降成了淮阴侯。这使韩信怀恨在心。第二年，韩信谋划让陈豨在外地反叛，使刘邦亲自前去平叛，然后自己袭击留守都城的太子和吕后。但还是事情败露。吕后采用了萧何的主意，将韩信诱骗入宫抓捕，最后被斩于长乐宫钟室，留下一个“成也萧何，败也萧何”的成语。

除了韩信，其他诸侯王如彭越等人也被消灭，只剩下了长沙王吴芮。对于其他将领，刘邦也颇费心机。开始，刘邦先是分封了萧何等二十余人官职，但众将领因为互不服气，争功不止，刘邦就没有封官。一次，在洛阳南宫，刘邦看见众将坐在沙地上不知在说什么，问身边的张良怎么回事，张良说他们在谋反。

刘邦问为什么，张良说怕他以后不会封他们高官。刘邦又问怎么办，张良就问他最恨的人是谁，刘邦说是雍齿，因为他虽然功劳多，但太张狂，自己曾经想将他杀掉。张良听了就让他封雍齿为侯，这样，大家就觉得被刘邦记恨的雍齿都能受封，他们就更不用着急了。于是，刘邦大摆庆功宴，封雍齿为什方侯，还当场命丞相和御史抓紧时间草拟论功行赏分封的名单。张良的计策果然奏效，众将的心都安定了。

对于六国的后裔，刘邦则将他们和地方的名门望族共十几万人全部迁到关中居住，置于中央控制之下，消除了后顾之忧。强化皇权关于丞相的过大权力，刘邦通过把萧何下狱来打击削弱相权。在刘邦平定了黥布叛乱回到长安后，萧何提议把上林苑开放，让百姓去耕种，因为上林苑基本上已经荒芜，并不是养兽供皇帝狩猎的地方。刘邦一听就恼了，硬说萧何拿了商人的贿赂，所以才替他们说话，借百姓之名为商人牟利。

刘邦将萧何关进了监狱，几天后，有大臣问丞相犯了什么罪，刘邦却为自己狡辩说：“原先李斯做秦国的丞相，凡是功劳都归始皇，不好的事都由自己承担。但丞相萧何却接受了商人的贿赂，替他们求我开放上林苑，刁买人心。因此要治他的罪。”通过打击元老功臣萧何，刘邦在削弱相权的同时将皇帝的权力提高了。

在巩固强化皇权方面，刘邦也是想尽了办法，一是通过尊父亲太公为太上皇，二是通过对季布和丁公的处理。这两件事最终达到了他的目的。在经历了春秋和战国长期的混乱之后，又经历了短期的秦朝统治，再加上秦末战争，这使得人们心中没有忠君的观念，还保持着战国以来就形成的“士无常君，国无定臣”的思想，这不利于皇权的巩固。刘邦通过尊重父亲来教育大臣和百姓遵循礼法，尊重长辈，效忠君主。

刘邦和父亲刘太公在一起住，每五天就去拜见一次。太公觉得没什么，也习惯了。但太公的属官却觉得不合适，就劝他说：“俗话说，天无二日，地无二主，当今皇帝是您的儿子，但他也是人主。您虽是他的父亲，但也是他的大臣。让他这个主人拜见您这个大臣，不合礼仪。况且这样也显不出皇帝的威严。”

等刘邦再拜见父亲时，太公就提前拿着扫帚出门相迎，然后倒退着进屋，不给刘邦行礼机会。刘邦很吃惊，跳下车去搀扶父亲，太公赶忙说：“皇帝贵为人主，不能因为我一个人破坏了国家的礼法。”刘邦便下诏书，尊太公为太上皇，这样一举两得，不但明示了皇帝的尊严，他也可以顺理成章地拜见父亲了。刘邦很崇尚孝道，称帝后将父亲刘太公接到皇宫居住，封父亲为太上皇。太上皇在皇宫生活日久了就终日闷闷不乐，刘邦忐忑不安，私下问太上皇侍从，侍从回答说：“太上皇以前在家乡丰邑城生活时每天都和邻居亲朋在一起以踢球、斗鸡、喝酒为乐，没有人能陪太上皇，因此才闷闷不乐。”

于是刘邦在皇宫附近为父亲盖起一座新丰城，又将丰县部分亲朋邻居迁来居住。新丰城街巷布局跟家乡丰邑城一模一样，连迁来的相邻老幼和鸡犬都能认得各自的居所。第二件事是对季布和丁公的处理。在刘邦和项羽争天下时，他们两都是项羽手下的大将。季布领兵几次将刘邦打败，丁公也领兵追击过刘邦，但最后放过了他。

刘邦做皇帝后，记恨季布打败过自己，就把他抓了起来。但想到自己也需要他这样的忠臣来辅佐，就不再记仇，不但放了他，还封为郎中。丁公是季布的舅舅，他听说了，就觉得连季布这样给过刘邦难堪的人都能释放做官，他这个曾对刘邦有恩的人就更不用说了。没想到，他却被刘邦抓起来。刘邦对众人说：“丁公做项籍的将领时不忠，就是他这种人使项王丧失了天下。”