汉惠帝二年，萧何去世。曹参听说后，告诉属下赶快办理行装，说：“我将要入朝作宰相。”过了不久，朝廷派的使者果然来召曹参入朝。曹参临走嘱咐齐国的后任丞相说：“应使坏人把齐的狱市当作寄身场所，千万不要让他们扰乱百姓。”后任丞相说：“治理国家，没有比这更重要的了吗?”曹参说：“不要认为这不重要。狱市是善恶都能容纳的地方，如今您若取消了它，那些奸恶之人到哪里容身呢?无所容身，时间久了他们就会作乱。所以我预先告诫你。”
曹参当初微贱的时候，与萧何关系很好；等到后来都做了将相，互相之间有一些隔阂。待到萧何将要死时，所推重的贤明之人唯有曹参。曹参取代萧何做了汉朝的相国，处理政事没有什么改变，一概遵从萧何生前制定的规章制度。
曹参选择各郡国官吏中质朴而不善于言词的敦厚长者，很快召来任命为丞相府的办事人员。官吏中言语华丽、文辞深涩、想要追求声名荣誉的人，曹参都罢斥不用。每天晚上他都饮味道很醇厚的酒。卿大夫以下的官吏及宾客们见曹参不理政事，来见他的人都想劝说他。到他家后，曹参全都让他与自己共同饮酒，片刻之后，来人想要说什么，曹参再次让他们饮酒，直至喝醉后离去，始终也没有机会开口说劝谏的话。后来大家也就习以为常。
相府的后园挨近官吏们的住家，官吏房舍中每天都饮酒唱歌。相府中的随从官吏对此非常厌恶，但又无可奈何，于是就请曹参在后园游玩，听到邻家官吏醉酒的歌声，相府随从希望相国曹参将醉酒的人召来查问处理。而曹参反而取出酒，张座设席饮酒，并唱歌与其彼此呼应唱和。
曹参见到别人犯有细小过失，总是特意掩饰隐瞒，因而相府中平安无事。
曹参的儿子曹窋是中大夫。汉惠帝怪相国曹参不理政事，认为他这样做“难道不是小看我吗?”于是他对曹窋说：“你回家后，试着私下里随随便便地问一下你父亲：‘高帝刚去世不久，新即位的皇帝正年富力强，你作为相国，整日饮酒，没有什么需请示奏明的事，那么凭借什么以天下为己任呢?’但你不要说出是我让你问的。”曹窋休假回家后，得机会侍奉父亲，擅自按照自己的理解来劝谏曹参。曹参非常生气，为此鞭打了曹窋二百下，说：“赶快进朝尽你的职责侍奉皇帝，天下大事不是你应该说的。”到了入朝时，惠帝责备曹参说：“为什么要惩治曹窋呢?前些天的那些话是我让他劝谏你的。”曹参摘下帽子表示道歉，并说：“陛下自己认为与高帝相比，谁更圣明英武?”惠帝说：“我怎么敢比先帝呢?”曹参又说：“陛下看我曹参与萧何相比，谁更是贤明?”惠帝说：“你看起来不如他。”曹参说：“陛下你说的很对。况且高帝与萧何平定天下，法令都已非常明确，如今陛下你垂衣拱手，无为而治，曹参我等尽职尽责，遵从既定的法令而不要有所改变，不也很好吗?”惠帝说：“你说的对。不用多说了。”
曹参做汉朝相国，前后共有三年。死后被赐予懿侯的封号。他的儿子曹窋继承了他的爵位。老百姓作歌称颂曹参说：“萧何制定了法令，明确而又齐整；曹参取代萧何，谨守其规而未有变更，以清静之法处理政事，人民安宁不乱，其乐融融。”
《史记》作者司马迁对曹参这样评价：相国曹参攻城略地、野外作战的功绩所以能有这么多，是因为他与淮阴侯韩信在一起。因而等到韩信被消灭，按各位诸侯成就的战功来封赏时，唯独曹参战功最卓著。曹参身为汉朝的相国，力主清静无为，最合乎治理国家的准则。而百姓们在遭受秦朝的严刑酷法后，是曹参给了他们休养生息的机会，所以天下的人都称赞曹参的美德。