清末时期

自汴梁（今开封）至洛阳的汴洛铁路是依照芦汉铁路的支线修建的。1904年10月开工，以郑县车站为起点，分别向东西两个方向施工。1909年12月竣工，全长183公里。

民国时期

1912年9月，北洋政府与比利时签定修建1，800公里的陇海铁路借款合同，以汴洛铁路为基础向东西方向展筑，两段工程于1913年5月同时开工。1915年5月，开封至商丘至徐州段通车，长277公里。同年9月洛阳至观音堂段30公里竣工。1920年5月，北洋政府又与比利时和荷兰签定了借款合同，继续修建陇海铁路。东段徐州至海州的大浦198.3公里，于1920年开工，1923年竣工。西段观音堂以西的线路，到1927年11月，修至灵宝。
南京政府铁道部于1928年成立后，决定续建陇海铁路。灵潼（潼关）段长72公里，1930年11月开工，1931年12月竣工。潼西（西安）段长131公里，1932年8月开工，1934年12月竣工。西宝（宝鸡）段长173公里，1935年1月开工，1936年12月竣工。灵潼段是将比利时退还庚款的剩余部分作为借款修建的。潼西、西宝两段的国外购料由法国财团承担。
陇海铁路宝鸡至天水段，长154公里。这段铁路工程复杂艰巨，南京政府忽停忽建，朝令夕改。从1939年5月至1945年12月，用了近7年时间，才勉强竣工。通车后，塌方事故不断发生，被称为陇海铁路的“盲肠”。

新中国时期

中华人民共和国成立后，于1950年4月继续修建天水至兰州段，1953年7月完成，至此，陇海铁路全线修成通车。1955年以后，相继开始兴建郑州、兰州、徐州、商丘、西安、宝鸡等枢纽工程；1956～1970年郑州至宝鸡分段改建为复线，其中在三门峡水库工程地段还进行了相应的改线；1980年郑州至商丘复线建成。2000年宝兰二线工程始建，该线路东起宝鸡站东闸口，西至兰州东站西闸口，全长487 公里，为国家Ⅰ级双线电气化铁路，是西北地区东通路扩能的重要工程。宝兰二线也是我国电气化增建二线最长的铁路，全段特大桥22 座、大桥 67 座、隧道108 座，桥隧总长 106.89 公里，占全线总长的 22%。复线工程已经全部完成，并已实现了全线铁路电气化。这条铁路工程艰巨，如宝鸡至天水段，穿越秦岭六盘山，上行沿渭河峡谷北岸延展，依山傍水曲行，地质、地形都比较复杂，下行高桥长隧，直线前进。它的建成通车，对开发中国西部地区尤有重大意义。