自南齐永明元年（483年）建立河源县以来，城池多次兴废。据旧《县志》记载：自建县始至元朝末年以上城为城。是用土坯垒起的泥石城。元末屡遭兵燹，城墙尽坏。明洪武二年（1368年）县丞钟镒，于中下郭间滨江地建筑下城，以避盗扰。城周429丈，墙高1.2丈。弘治五年（1492年），佥事袁庆祥增修城崇3尺，增高为1.5丈。城周扩大为450丈，北东南为门，上有鼓楼，池深7尺。嘉靖三十三年（1554年）盗入县库，佥士龙瑛城崇3尺。由于下城面临滨江，地势低洼，常遭水患。隆庆五年（1571年）农历五月初一日，河水一日夜忽涨3丈，城遭水破，居民被浸死百余人。水后又病死百余人，是时兵备副史王化从，邑绅李学颜等议复古城，当地乡申180多人捐款资助重建上城（古城），县令林大甫鸠工先筑四门城楼及北坦100余丈。万历六年（1578年），县令曾守愚续建城周700丈，高1.4丈。万历十年（1582年）水患严重，县令汤民仰始与居民迁入新城（上城），从此，两城并峙，其在东江边地形低，谓之下城，又称旧城，其在西边的地形高为上城，亦称新城，其实新城是最古之城基。
清乾隆七年（1752年）5月，知县陈张翼与绅士乡议，改东门城楼，创建下城西门为鼓楼，并建下城东门，城楼改名东门，修筑上城东门至下城鼓楼道路、桥梁、堤岸、双城一气贯通。以上城为堂粤，下城为门户，两城并治，统称为“槎城”。
抗日战争爆发后，日本飞机轰炸河源城。1938年7月28日，河源县府被日机炸毁，县府迁往下城崇报寺作临时办公地址。1940年秋，为方便城内居民在日机空袭时疏散，拆毁上城城墙和五座城门，解放后修成环城路，而现在的上城环城路，则系原上城的城墙旧基。下城城墙、城门楼毁于何时未明。今下城的公园路至中山路至八号码头，是下城的城墙旧基。
1988年撤销河源县，成立河源市，源城成为市机关驻地，城区面积不断扩大。本地人习惯称新丰江南、石峡北之城区为老城区，称新丰江北、仙塘南之城区为新城区，称石峡南至埔前镇与博罗县界地段为工业开发区。
老城区的主要街道有大桥路、长塘路、化龙路、人民路、太平街、公园西路、南门路、河源大道南等。贸易中心在太平街。
新城区原来是东埔镇的一片农田和荒坡，没有街道。建市以后，随着市级行政中心的建设，几百栋商住楼、办公楼、厂房按照规划在这片土地上崛起。目前基本建成的大道主要有河源大道、建设大道、沿江路、兴源路、文明路、红星路、长安街等。火车站和公共汽车站、口岸机构等设在河源大道北段。
2010年11月在河源城区举行了世客会。
