中国科学院于1953年底在数学研究所内组建了力学研究室，进行固体力学和流体力学研究。
1955年10月钱学森回国。在他主持下对力学研究的基本方向进行了研讨。
1956年1月5日，中国科学院院务会决定组建力学研究所，报国务院审批。
1956年1月16日，国务院副总理陈毅元帅亲笔批复，力学研究所正式成立。
1956年1月，力学所成立后，在所长钱学森、副所长钱伟长的规划下，设置了弹性力学、塑性力学、流体气体动力学、自动控制及调节理论、运筹学、化学流体力学和物理力学等研究组。不久以后，自动控制组划出自动化所。
1958年，确定了力学所的方向任务为“上天、入地、下海、为国民经济建设服务”四个方面，并成立了上天设计院，郭永怀、杨南生为正副院长。1958年11月迁往上海，改名上海机电设计院。
1959年6月14日，钱学森向中科院提出“关于在中国科学院配合国防需要开展火箭技术探索性研究的意见”报告，获得中科院批准后，力学所于1959年11月成立二部，分别从事高速气动力学、高温强度、液体推进剂及燃烧、试验设备设计和测量仪表等问题研究和装置研制。液体推进剂及燃烧研究室人员于1960年10月迁至怀柔。
1961年底，力学所参与了国家科委组织的学科规划修订工作，其中力学规划包含20项内容。
1964年7月，怀柔基地改称为力学所分部，承担科学院下达的氢氧发动机研制任务。
1965年5月，中央专委决定由科学院研制地对超低空导弹（代号541）。7月，科学院任命杨刚毅为541任务领导小组组长，郭永怀为总设计师组组长，541办公室设在力学所。8月，力学所根据任务要求在分部成立201—204室，分别负责541任务的弹体总体、发动机、结构及发射装置和气动力设计等工作。
1967年10月中央批复了国防科研体制调整方案后，力学所科研机构进行了调整。1968年3月怀柔分部和相应的实验设备被中国人民解放军第五、十一、十七院接管；1970年5月，从事6405任务的人员和相应的实验设备被七机部二院接管；1970年9月，高温气体组、激波管风洞组和F2风洞组的人员和相应的实验设备被成字131部队接管。
1970年7月，力学所军管结束,又恢复由科学院领导。
1972年7月，力学所下放，实行北京市和科学院双重领导，随后又改称为北京力学所。
1977年以后，相继开展了全国自然科学规划和力学学科规划等工作，力学所的各项工作逐步调整恢复。
1978年1月1日，经国务院批准，力学所正式回归中国科学院建制。
1982年，明确以应用基础研究为主，加强推广等原则，着手开展海洋工程力学、地球物理流体力学、能源、工业中爆炸灾害四个新领域工作。同时，以成果转化、技术开发为目标，前后成立了十余家公司。
1984年2月，确定了优先发展能源、海洋工程、工业新技术和传统工业的改造项目等。1986年12月中国科学院海洋工程科学技术研究中心成立，办公室设在力学所。
1988年1月，根据“加快步伐、建立科研新体制”的方针，确定能源开发和节能技术中的力学问题；新材料、新工艺、新技术中的力学问题；环境和国土整治；高技术；基础性研究等五个科研工作方向。1988年6月，院正式批准成立非线性连续介质力学开放实验室（LNM）。
1989年12月，根据力学学科特点和力学所现状，确定科研的五大方向为：材料科学技术中的力学问题，能源科学技术中的力学问题，环境科学技术中的力学问题，高技术中的力学问题，力学基础研究。
1994年4月，以结构调整为主要目标，推进基础性研究队伍建设，强化应用研究和技术开发，推进高技术产业发展,确立了7个研究领域：非线性连续介质力学，高速高温气体动力学，微重力科学，环境力学，材料工艺力学，海洋工程力学，爆炸力学。1994年12月，院正式批准成立高温气体动力学开放实验室（LHD）。1997年5月，成立国家微重力实验室（NML）。
1997年，中国科学院根据结构性调整的指导意见，在全院进行“分类定位”管理。同年10月，力学所通过专家评议，认定为基础研究基地型研究所。
