1924年2月邹鲁接管广东农业专门学校、广东法科大学两校之后，即于当月24日召集三校学生在广东高等师范学校礼堂举行大会，会上宣布筹建国立广东大学，并报告了筹备经过和进行计划等。3月3日，广东大学召开首次筹备会议，着重讨论并通过了国立广东大学筹备处组织大纲。为保证筹备工作的开展和国立广东大学的顺利开办，孙中山亲自动手筹措资金。1924年6月9日，孙中山任命邹鲁为国立广东大学首任校长。
1924年6月21日广东大学举行校长就职和学生毕业典礼，孙中山委托总参议胡汉民代表大元帅在会上宣读了训词：“学海汪洋，毓仁作圣，大学毕业，此其发轫。植基既固，建业立名，登峰造极，有志竟成。为社会福，为邦家光，勖哉诸君，努力自强。”
国立广东大学定于1924年9月15日正式上课。当时，学校并没有举行开学典礼与成立典礼。后又经校务会议复议，将开学典礼及成立典礼日定于1924年11月11日这一日，也就成为国立广东大学的校庆日。
1925年，“广东公立医科大学”“广东公立工业专门学校”并入。
1925年3月12日，孙中山逝世后，廖仲恺提议将广东大学更名为中山大学，10月获国民政府批准。同年增设医科。其后，广东公立医科大学、国立广东法科学院、广东省立勷勤大学工学院先后并入。
1926年3月，郭沫若就任文科学长，郁达夫任英国文学系主任。
1926年7月17日正式更名为“国立中山大学”，成为广东最高学府。
1926年8月17日，国民政府下令改校名为国立中山大学。国立广东大学改名后，国内出现多所以“中山”为名的大学，如武汉、杭州、南京、上海、兰州、西安等地。1928年2月间，以蔡元培先生为院长的大学院有鉴于此，决定除保留广州的国立中山大学以资纪念外，其余中山大学均改为所在地方名。
1927年1月，鲁迅从厦门大学被聘至中大任文学系主任兼教务主任。8月，更名为“国立第一中山大学”。
1928年3月，复名为“国立中山大学”。
1931年，改文、法、理、农、医科为学院。先设立土木工程、机械工程、电机工程、化学工程四系，校址暂定于文明路，第二年迁往石牌新校址（即华南理工大学和华南农业大学校址内）。
1935年，设立研究院，开始招收研究生，成为当时全国仅有的三所之一（是中国第一批成立“研究院”的三所高等院校之一）。1938年，设师范学院，理工学院增设建筑工程系。同年10月受到抗日战争的影响迁至云南澄江，1940年迁回粤北坪石。
1945年，迁回广州石牌等原址复课，1947年设置体育系，袁浚从武汉大学被聘至中大任体育系主任。
中山大学
1952年全国院系调整后，原中山大学文理院系与岭南大学合并，组成新的中山大学，中山大学入主原岭南大学校址康乐园。
1952年开始，全国高等学校进行了大规模的院系调整。