自1977年起，山东大学数学学院逐步构建了基础数学、应用数学、计算数学、运筹学和控制论五个本科专业，其专业发展历史源远流长。1996年，数学系经过重组，改名为“数学与系统科学学院”。2000年，山东大学、山东医科大学、山东工业大学合并，数学领域的学术资源整合，共同推动了学院的壮大。
2008年，数学与系统科学学院更名为“数学学院”，学院的学术领导力量得到了显著提升，以“长江学者”和“全国高校教学名师”刘建亚教授担任院长，鲁统超教授则担任党委书记，为学院的发展提供了坚实的学术和管理支撑。
至2011年8月，学院已拥有一支包括126名教职工在内的强大团队，本科生人数达到781人，研究生495人，显示出其在人才培养上的丰硕成果。学院下设数学和应用数学、信息与计算科学、统计学、信息安全等四个系，以及基础数学、科学计算与软件、应用数学等七个研究所，涵盖了广泛的研究领域，为科研工作提供了坚实的基础。
山东大学数学学院是山东大学历史最悠久的学院之一。其前身是成立于1930年的“国立青岛大学理学院数学系”。当时，山东大学只有“文理两院”，共七个系，数学系主任由理学院院长、著名数学家黄际遇兼任，这标志着山东大学数学学科的诞生。1936年数学系能开出包括微积分、解析几何、微分方程、微分几何、数论等在内的50门课程。新中国成立后，数学系焕发出蓬勃生机，在国内较早地建立起了基础数学、计算数学、运筹学、控制论四个专门化方向，后来又建立了概率统计、计算机科学等专门化方向，打破了单一的数学专业格局。