1817年，密歇根大学由西北地区的法官在底特律创办成立，学校被称为学术大统殿（Catholepistemiad）或称为密歇根尼亚大学（University of Michigania，注：此为拉丁文校名，当时密歇根州尚未成立 ）。牧师约翰·蒙特斯（John Monteith）是学校的创办者之一，也是学校的第一任校长。1837年，小城安娜堡（Ann Arbor）捐出40英亩（16公顷）土地，希望这块土地成为新成立的密歇根州首府的所在地。但是当兰辛（Lansing）被选定为州府所在地时，这片土地便捐赠给了密歇根大学。学校要搬迁至安娜堡要归功于州长史蒂文斯·T·梅森（Stevens T. Mason）。原来的40英亩（16公顷）土地成了如今中央校区的一部分。1841年，由两个教授带领的包括6个新生和1个二年级的学生在内的安娜堡校区的第一堂课就这样开始了。1845年，有11个学生在安娜堡校区毕业，成为学校迁往安娜堡之后的
首批毕业生。在此后的十年里，学校迅速发展，拥有了很多的院系，学生和毕业生也随之增加。在早年的发展中，密歇根大学摆脱了传统的英式大学的“古典”教学理念，而博采众长，引入了法国和德国的教育理念的精华，和英国的古典理念相融合，把密歇根大学推上了一流大学的地位。到了南北战争时期，连哈佛大学的校长都不得不叹服密歇根大学的先进教学理念。
1855年左右，由于农学在全国风靡一时，密歇根州政府计划将密歇根大学拆散，只保留并重点发展农学院，而其它学科迁往州内的其它城市或者和其它小学校合并。时任的密歇根大学校长据理力争：“我们州拥有一所有竞争力的综合性大学要比拥有很多所专科大学好得多！”最终校长的坚持让州政府回心转意：保留了密歇根大学。同时，州政府在首府兰欣另觅土地，开设了一所专门的农学院，即密歇根州立大学的前身。由于密歇根州立大学在最初的二十年专攻农业，密歇根大学的农学院受到了很大的冲击。在不断流失生源后，最终密歇根大学被迫取消了农学院。这一段历史也解释了为什么后来密歇根大学和同州的密歇根州立大学会成为文化上的死敌。
到1866年学校的入学率提高到1205名学生，其中大部分是南北战争后的退伍军人。在1870年学校首次招收女性学生。在詹姆斯·布瑞尔·安吉尔（James Burrill Angell）担任学校校长的1871年至1909年期间，积极扩增了学校的课程，包括牙科专业、建筑、工程、政府管理和医学研究。密歇根大学也成为了第一个使用研究方法讨论会的美国大学。
1879年，密歇根大学狼獾队成立了第一支校园队伍（Varsity Team），即密歇根大学的橄榄球队。在学校的大力支持下，这支球队很快便发展成了一支劲旅，并和同为中西部五大湖地区豪强的圣母大学爱尔兰战士队和芝加哥大学褐红色队结下了仇恨。密歇根大学的战歌《得胜者》就是写于一场对芝加哥大学的胜利之后。随后，其它项目的校园队伍，如冰球、篮球、棒球、足球等也相继成立，最终形成了27支队伍。密歇根大学逐渐在体育方面也发展成为一流大学。到了1902年，密歇根大学以赛季不败的姿态和西海岸的后起之秀斯坦福大学会师第一届玫瑰碗（NCAA系列碗赛的四大碗赛之首），并且在上半场就打了西海岸强敌一个49:0，搞得斯坦福大学下半场不敢出战直接投降，两校一度结怨。密歇根大学于是打破了常青藤联盟，特别是哈佛、耶鲁和普林斯顿（HYP的来历）对冠军的垄断，成为了第一支获得橄榄球全国冠军的非常青藤学校。
1900年，密歇根大学和哈佛大学、耶鲁大学、加州大学伯克利分校、普林斯顿大学等14个学校一起成立了美国大学协会（AAU）。后来这个协会成为了评判北美各大学是否一流的标准之一。
从1900年到1920年期间，密歇根大学建造了许多新的基础设施，包括牙科和药剂学大楼、化学楼、自然科学楼、希尔礼堂（Hill Auditorium）、大型的医院和图书馆，以及两幢宿舍楼。1920年，学校重组工程学院和100个实业家委员会成立了一个咨询委员会，以引导学校的学术研究活动。在20世纪20年代到30年代期间，当常青藤联盟对犹太学生实施配额限制时，密歇根大学成为来自纽约的聪慧的犹太学生最青睐的选择。因此，密歇根大学也被冠以“西部的哈佛大学”的美称。在那以前，总统肯尼迪（John F. Kennedy）在宣布和平队（Peace Corps）成立时的演讲中甚至谦称自己的母校哈佛大学为“东部的密歇根大学”，而和平队大楼是密歇根的学生活动中心密歇根联盟楼“Michigan Union”的前身。在第二次世界大战期间，密歇根大学的研究逐渐扩大到美国的海军项目，如近炸引信、鱼雷快艇和雷达干扰等。同样，在19世纪和20世纪之交，密歇根大学狼獾队和俄亥俄州立大学七叶树队也因历史原因结下了仇恨（详见七叶树狼獾德比）。两校在体育方面展开了军备竞赛，而密歇根大学引以为豪的密歇根体育场就是这段时间的产物。而这种对俄亥俄州立大学的仇恨也助长了密歇根大学浓烈的校园文化传统和对蓝色和黄色的忠诚与自豪感。这种传统和自豪感一直保留至今。
这一期间，学校也进行了扩建，其中最主要的是向东北方向（希尔社区）扩展校园。然而与此同时，曾经作为学生们的精神象征之一的帕尔梅湖（即猫池，Cat Hole）和它附近的小山坡（即希尔，Hill）被填平，许多校友因此很是伤感。猫池是一个天然的小湖泊，岸边有长着芦苇的沼泽。这个池子是大一新生入校时接受高年级同学“洗礼”以教育要效忠学校的地方，而小山坡则是重大活动或者比赛之后欢庆的场所。这个小湖和山坡只存在于图书馆的老地图上，以及老校友的记忆里。
到1950年，密歇根大学的入学人数达到21000人，其中三分之一以上，即7700人是由美国军人权利法案（G.I. Bill）支持的退伍军人。随着冷战和太空项目的进行，密歇根大学成为政府保障的战略研究的一个主要承担者，并帮助发展和平核能技术。大量的工作，以及替代能源的研究，都是通过“纪念凤凰项目”（Memorial PhoenixProject）来进行的。
在1964年的春季开学典礼上，总统林登·B·约翰逊（Lyndon B. Johnson）在他的演讲中概述了他的“伟大的社会计划”（Great Society program）。在20世纪60年代，在密歇根大学有许多的人抗议越南战争以及其它相关问题。在1965年3月24日，一群密歇根大学的教职人员和3000名学生举行了全国首次以教师为主导的“宣讲”，以抗议美国对于东南亚地区的政策。在1966年，针对静坐者的一系列的声音——校园政治党派民主社会，密歇根大学校方禁止静坐。对此，有1500名学生在LSA大楼前等待一个小时，该大楼是校方办公室所在地。
早期的密歇根大学的学生和著名建筑师奥尔登·B·道琼斯（Alden B. Dow）设计了弗莱明（Fleming）行政大楼，这是在1968年完成。建筑的计划在20世纪60年代初就已经制定，早期学生的积极性提出了对安全性的关注，但在弗莱明建筑的狭窄的窗户，全部位于一楼以上，堡垒般的外观导致了一个校园传闻，说是它被设计到是暴乱的证据。道琼斯否认了这些传言，声称小窗户被设计成这样是为了高效节能。
在20世纪70年代，由于预算拮据，给学校硬件设施的发展带来了极大的挑战。但是，在20世纪80年代，学校的社会学和物理科学的研究收到了越来越多的社会捐助。大学参与的反导弹战略防御倡议，并在南非的投资，在校园里引起了争议。在20世纪80年代和90年代，大学投入了大量的资源，以改造其庞大的综合医院和改善北校区的教学设施。在其2011年年度财务报告中，学校宣布在过去的10年间已专门拨款4.97亿美元翻新校园里的建筑和基础设施。密歇根大学还十分重视在整个校园内的计算机网络和信息技术的发展。
1989年，密歇根大学狼獾队的篮球队赢下了NCAA全国冠军，至此，密歇根大学成为了美国历史上第一所，也是至今唯一一所同时赢下过在北美最受欢迎的橄榄球、冰球、棒球和篮球四大主要项目NCAA全国总冠军的美国大学。密歇根大学狼獾队下属的27支不同项目的队伍一共赢下了35个全国冠军，亦位列全国前十。而这些比赛所吸引的观众和球迷也为学校带来了高额的票房收入。
在2000年初期，由于国家预算资金的不足，密歇根大学也面临国家资金支持下滑的状态。与此同时，学校试图保持其较高的学术地位，同时保证学生能负担得起的学费。密歇根大学的管理和工会之间的争议，特别是与讲师的员工组织和研究生的雇员组织，研究生雇员的工会代表之间。这些冲突导致了工会和他们的支持者一系列为期一天的罢工。学校正在进行25亿美元的建设任务。
在底特律的汽车产业的衰败背景下，密歇根大学的科研和就业率受到了一定的冲击。同州迅速崛起的密歇根州立大学也在生源和资金上对密歇根大学发起了强劲的挑战。然而在校方和校友的不断努力下，密歇根大学依然保持在领先的行列。
