自古钓鱼山就是官民宴游之地，是为“合川八景”之一——“鱼城烟雨”。
南宋嘉熙四年（1240年，以此来算距今已有777年的历史了），四川制置副使彭大雅，命甘闰钓鱼山上筑城，作为合州军民避蒙古兵锋之地。
淳祐三年（1243年），兵部侍郎、四川制置使兼重庆知府兼四川总领兼夔路转运使余玠采纳播州（今贵州遵义）贤士冉琎、冉璞兄弟建议，遣冉氏兄弟复筑钓鱼城，移合州、石照县治及兴元都统司于其上。“钓鱼城”之名始传于世。
宝祐二年（1254年）七月，合州知州王坚调所属石照（今合川）、铜梁、巴川（今铜梁）、汉初（今四川武胜）、赤水（今合川）五县十七万军民大修钓鱼城，进一步完善城筑。
宝祐六年（1258年），蒙哥大汗挟西征欧亚非40余国的威势，分兵三路伐宋。蒙哥亲率的一路军马进犯渝川地区，于次年2月兵临重庆合川钓鱼城。蒙哥铁骑东征西讨，,然而在钓鱼城主将王坚与副将张珏的顽强抗击下，却不能越雷池半步。7月，蒙哥在城南脑顶坡被城上火炮击伤，后逝于北碚温泉寺。南宋朝廷诏奖“节义为蜀列国之冠”。蒙哥之死促使了蒙古汗国从欧亚战场全面撤军。
景定四年（1263年），时任合州知州的张珏第四次筑城。
从公元1243年到1279年，钓鱼城抗击蒙古的保卫战长逾36年，历经战斗200余次，写下了中外战争史上罕见的以弱胜强的战例，钓鱼城因此被欧洲人誉为“东方麦加城”、“上帝折鞭处”。
公元1259年，蒙古大汗蒙哥亲率10万大军进入川峡四路，欲效西晋灭吴之法，先取长江上游，然后水师顺江东下，配合陆路平定江南。然而，他急欲统一中国的脚步却意外地止于一座扼守在嘉陵江上、面积仅2.5平方公里的钓鱼城下。 因身中炮石而伤重不治的蒙哥，临终前留下“若克此城，当赭城剖赤，而尽诛之”的遗诏。 蒙哥驾崩之后，为争夺皇位，各路蒙军纷纷回到草原。这使得南宋的历史又延续了20年，也使得蒙古西征的高潮至此终结。