俞敏洪高考失利后回到家里喂猪种地。由于知识基础薄弱等原因，俞敏洪第一次高考失败得很惨，第二年又考了一次，依然是名落孙山。那时俞敏洪并没有远大的志向，作为一个农民的孩子，离开农村到城市生活就是他的梦想，而高考在当时是离开农村的惟一出路。尽管生活条件比较艰苦，俞敏洪仍在微弱的煤油灯下坚持学习。到了第二年春节，俞敏洪坚持考了三年后，最终考进了北京大学西语系。俞敏洪毕业留在北大成了一名教师。接下来是两年平淡的生活。中国随后出现的留学热潮，让俞敏洪也萌生了出国的想法。就在他全力以赴为出国而奋斗时，美国对中国紧缩留学政策。以后的两年，中国赴美留学人数大减，再加上他在北大学习成绩并不算优秀，赴美留学的梦想在努力了三年半后付诸东流，一起逝去的还有他所有的积蓄。

为了谋生，俞敏洪到北大外面去兼课教书，因为打着学校的名头私自办学，北京大学在校园广播、有线电视和着名的三角地橱窗里高调宣布了对俞敏洪的处分。俞敏洪被迫辞去了北京大学英语教师的职务，没有面子在北大呆下去，但对培训行业越来越熟悉。

离开北大后，俞敏洪开始在一个叫东方大学的民办学校办培训班，学校出牌子，他上交15％的管理费。后来，他在中关村第二小学租了间平房当教室，外面支一个桌子，放一把椅子，“东方大学英语培训班”正式成立。第一天，来了两个学生，看“东方大学英语培训部”那么大的牌子，只有俞敏洪夫妻俩，破桌子，破椅子，破平房，登记册干干净净，人影都没有，学生满脸狐疑。俞敏洪见状，赶紧推销自己，像是江湖术士，凭着三寸不烂之舌，活说死说，让两个学生留下钱。尽管困难重重，但拼死拼活干了一段时间后，俞敏洪的培训班渐渐有了起色。眼看着培训班越来越火，俞敏洪创办了北京新东方学校。

俞敏洪说，最初成立新东方，只是为了使自己能够活下去，为了每天能多挣一点钱。作为一个男人，快到三十而立的年龄，连一本自己喜欢的书都买不起，连为老婆买条像样的裙子都做不到，整个家庭无家可归，连家徒四壁都谈不上，自己都觉得没脸活在世界上。到今天，新东方已成为中国最大的私立教育服务机构，在全国拥有25所学校、111个学习中心和13个书店，大约有1700名教师分布在24个城市。