中国科学技术大学图书馆的历史可以追溯到1958年9月的成立。初期，图书馆的藏书数量达到了30余万册，为学校的学术研究奠定了基础。
1969年至1970年，随着学校整体搬迁至安徽合肥，图书馆经历了艰难的迁校过程，部分仪器设备和图书资料遭受损失。然而，图书馆并未停下发展的脚步，反而在困难时期开始了新的篇章。
1978年，图书馆馆藏种类和数量显著增长，重点学科专业的文献信息资源逐渐完备。1997年，西区图书馆的建成投入使用，成为主体馆，进一步提升了图书馆的服务能力。同年，随着合肥经济技术学院并入，图书馆南区分馆也应运而生。
进入90年代，图书馆不仅增加了印刷型馆藏，还大力发展电子资源，形成了以自然科学和工程技术为主，涵盖人文、社会科学及管理科学等多领域的综合性馆藏体系。同时，图书馆的自动化和网络化建设取得了重大突破，建立起高效的信息基础设施。
2000年，图书馆引进汇文管理系统，实现了业务管理的计算机化和网络化，读者可以方便地通过OPAC查询馆藏。此外，图书馆还开发了电子期刊导航系统、多媒体教学点播系统和随书光盘系统等，增强了服务的多元化和便捷性。
2004年，中国科学院中国科学技术大学科技查新咨询中心在图书馆成立，为校内外的教学科研和企事业单位提供了科技查新服务，进一步扩大了图书馆的服务范围。
2006年，中国科技大学图书馆升级为国家科学图书馆的特色分馆，与国科图在文献资源建设、数字化建设和信息服务上实现了紧密合作，提升了图书馆的整体服务水平。
中国科学技术大学图书馆始建于1958年9月，1970年图书馆随中国科技大学南迁至安徽省会合肥，是国家科学图书馆的特色分馆。西区“图书馆”三字为启功先生所题。 中国科技大学图书馆的馆藏主要包括数学、力学、物理学、化学、天文学、地球科学、生物学、材料科学、机械工程、动力与电气工程、核科学技术、电子通讯与自控、计算机科学技术等领域。图书馆每年新增中文图书6～8万余册、新增外文图书2000册；每年订购外文原版期刊400余种、中文期刊3000余种，所有馆藏资源均提供OPAC查询。