原名安徽省立大學，1928年創建於當時的安徽省會安慶市，8月開始招收預科生，標誌著安徽現代高等教育的開端。1930年6月更名為省立安徽大學。1937年，因日軍入侵被迫西遷並曾一度停辦。1946年複校，定名國立安徽大學。姚永朴、劉文典、王星拱、陶因、陳望道、丁緒賢、郁達夫、周予同、呂思勉、章益、周建人等均曾在安徽大學執教或主持校政。1949年12月遷至蕪湖，與安徽學院合併，恢復校名安徽大學。

1952年，全國高校院系調整，部分系科調往華東地區有關院校，同時調入一些系科，設師範、農學兩個學院，並於1954年2月分別獨立組建安徽農學院和安徽師範學院，學校建制取消。1956年起，在合肥籌備重建安徽大學,1958年恢復招生。重建以來，安徽大學備受黨和國家領導人的親切關懷和省委省政府的高度重視。1958年9月16日，毛澤東同志視察安徽時，親筆為學校題寫校名。1960年2月23日,鄧小平同志親臨學校視察。1998年，江澤民、李鵬、喬石等同志親筆題詞祝賀學校建校70周年。2001年，溫家寶同志親切接見了“全國十大扶貧狀元”該校教師何家慶同志。董必武、彭真、陳毅、劉瀾濤、李嵐清、回良玉等黨和國家領導人也曾先後來校視察。安徽省委第一書記曾希聖、副省長杜宜瑾同志都曾長期兼任校長。

1993年以來，安徽省委、省政府響應黨中央和國務院的戰略部署，在國家計委和教育部的具體組織領導和大力支持下，決定重點支持該校爭取進入國家“211工程”。1996年、1997年該校相繼通過“211工程”部門預審和立項審核，1998年經省政府批准實施“211工程”建設專案，1999年獲准作為“211工程”專案院校在國家正式立項建設。2001年6月，在如期完成“九五”“211工程”建設任務的基礎上，順利通過了國家整體專案驗收。2002年11月7日和2003年9月17日該校《“十五”“211工程”建設專案可行性研究報告》和《儀器設備購置計畫》分別通過了教育部專家組的立項審核和國家計委國際工程諮詢公司專家組的考察評估，2004年6月該校《“十五”“211工程”建設專案可行性研究報告》獲得國家發改委批復，“十五”“211工程”建設專案正式在國家立項建設。2006年6月該校如期完成“十五”“211工程”各建設專案任務，順利通過國家整體專案驗收。