追溯到两千五百多年前，这里的黄河渡口就架起了一座浮桥，蒲州古城南依中条山，西临黄河，地处要冲，被视为兵家重地，历代王朝均在此建造蒲津桥。

   公元前541年，春秋时期秦公子针携带资财，车辆前往黄河西岸的晋国，用舟船连接建造浮桥，开在蒲津渡建蒲津桥之先河。到了战国时期，秦昭襄王为进攻韩赵魏，先后两次在蒲津渡口建桥。以后汉高祖刘邦定关中，汉武帝刘彻东征，隋文帝杨坚过黄河东进，均在蒲津渡连舟造桥。不过这些桥都是临时性浮桥，没有桥墩，用竹子连接，寿命短，不安全。

  唐开元年间，随着蒲州一带经济的发展，蒲州城升为全国六大雄城之一。唐明皇立即降旨，决定修建蒲津渡重建新桥。并发动满朝文武出主意，想办法。历经苦战后，铁牛终于铸成。