在中华人民共和国成立初期，1949年10月1日，中央人民政府设立燃料工业部，负责石油工业的管理。紧接着，1950年4月，燃料工业部增设石油管理总局，全面掌管全国石油行业的运作。
1955年7月3日，随着工业结构的调整，燃料工业部被拆分为石油、煤炭和电力三个独立的工业部。这一阶段，石油工业逐渐独立发展。
进入70年代，1970年6月22日，煤炭部、石油部和化学部合并为燃料化学工业部（简称燃化部）。然而，1975年2月1日，燃化部分解为煤炭工业部和石油化学工业部（石化部）。1978年3月5日，石油化学工业部和化学工业部分别独立，石油工业部再次成为独立的部门。
1981年，石油工业实行了一项重要的改革，即实行1亿吨原油产量包干政策，由石油部全权负责，实施期限为5年。同年，中国海洋石油总公司成立，归属石油部领导。1982年2月15日，中国石油化工总公司成立，接管多个先前分散管理的石油化工企业，直属国务院领导。
1988年，国务院机构调整，石油部被撤销，改设为能源部，1993年撤销。同年9月17日，中国石油天然气总公司成立，直属国务院，而中国海洋石油总公司也独立为国务院直属机构。1998年，国务院进行大规模的机构改革，撤销7个主要工业部，将石油和化学工业职能整合，组建国家石油和化学工业局，同时，中国石油和中国石化两大公司进行了改组。
最终，1998年7月27日，经过改组后的中国石油和中国石化两大集团公司正式成立，标志着石油工业的管理体制进入了新的阶段。
石油工业部是中华人民共和国政府机构，1949年国民党政府从大陆溃退，留下一批石油、地质和化学的专家，多数都集中在燃料工业部任职，并以一个石油管理局运作石油相关资源；1955年7月30日第一届全国人民代表大会第二次会议撤销燃料工业部。成立石油工业部，第一任部长李聚奎。