1949年，出席中国人民政治协商会议第一届全体会议，参与中华人民共和国的筹建，任中央人民政府委员，出席开国大典。
新中国成立后，为适应社会主义建设事业对各种建设干部的需要，党中央和中央人民政府决定成立中国人民大学，《人民日报》称中国人民大学为"新中国的第一个新型正规大学"。 鉴于中国人民大学担负着极其重要的任务，经中共中央政治局提名，1950年2月，中央人民政府任命德高望重的吴玉章为第一任校长。吴玉章同志领导了中国人民大学的创建和发展工作，直至1966年12月12日去世。
吴玉章担任中国人民大学校长达17年之久，为中国人民大学的建设和发展作出了巨大的贡献。他为中国人民大学确立了正确的办学指导思想和方针，奠定了优良的传统和独特的校风；使中国人民大学成为新中国高等教育，特别是人文社会科学高等教育的一面旗帜。 　吴玉章还曾兼任中央社会主义学院院长，中央人民政府委员和全国政协常务委员，全国人民代表大会常务委员，政务院文教委员会中国文字改革研究委员会副主任，中国文字改革委员会主任，中国文字改革协会会长，中央推广普通话工作委员会副主任，中国科学院哲学社会科学部委员，中苏友好协会总会副会长，中国教育工会主席等职。